Собственно весь вопрос в заголовке темы. Есть QDialog (модальный для всего application), у него есть флаги Qt::CustomizeWindowHint и Qt::WindowTitleHint - чтоб никаких кнопок не было и надо иметь возможность закрыть его только программно (чтобы alt+f4 и esc его тоже не закрывали). Сам по себе это диалог ввода логина/пароля и если данные не верны, то дальше не пускает, обычное дело вобщем-то.
Так не бывает.
Если пользователь хочет запустить программу и знает пароль, то он его вводит и жмет Ок, а если не хочет/не знает, то жмет Отказ (Alt+F4, Esc) и приложение закрывается.