Я закомментировал эту строчку. Она мешает пониманию проблемы

Вместо этого флага можно использовать более переносимое решение

C++ (Qt)
setFixedSize(ui.tableWidget->minimumSizeHint());
 

Однако minimumSizeHint() возвращает размер только текущей вкладки, а не наибольший минимальный размер, как об этом заявлено в Qt Quarterly.

BRE, скачал твои исходники, вообще не понял странного поведения. В дизайнере если в "Preview" форму сжимать по горизонтали, то размеры упираются в минимальный размер. А вот в скомпилированном приложении можно форму уменьшать до такой степени, что виджеты начинают пересекаться. Этого не происходит в исходниках spectre, скорее всего у него где-то стоят дополнительные компановщики. Непонятно почему дизайнер в Preview ведет себя одинаково на обоих вариантах и по разному в компилируемом коде.

может можно тему к потолку прилепить?

Отдельно создал проект с использование QStackedLayout+QComboBox (для переключения страниц) вместо QTableWidget. Проверил - размер основного окна выставляется по максимальным размерам других страниц, не смотря на то, что в окне всего один QPushButton. Подумал, что проблема кроется все-таки в QTabWidget. Поместил его вместо QStackedLayout - поведение точно такое же: размер окна принял размер максимального размера скрытых вкладок. Т.е. то самое поведение, которого хочет spectre. Может я чего забыл или упустил, проект приаттачил.

P.S.: вызов adjustSize() не делал, т.к. это приводит к тому, что окно становится еще больше, вместо того, чтобы стать меньше.