void visibilityChanged ( bool visible )  (QDockWindow)

Можешь использовать следующий подход.

На сигнал aboutToShow() твоего меню вешаешь слот. В этом слоте пробегаешь по всем пунктам меню, касающимся тулбаров и обновляешь их состояние (QPopupMenu::setItemChecked()) используя результат возвращаемый функцией тулбара isVisible() (лучше isVisibleTo( <главное_окно_приложения> ).

Можно меню очищать и заново добавлять в него все пункты меню с их статусами, основываясь на списке тулбаров (dock windows), взятому у главного окна (QMainWindow). Таким образом в меню всегда будет достоверная информация обо всех тулбарах, независимо от того когда они добавились/удалились/скрылись/показались. Если еще и список тулбаров фильтровать с использованием функции QMainWindow::isAppropriate(), то тогда меню будет похоже на контекстное меню.

Не знаю как в Qt 4, но в версиях 2 и 3 такой способ вполне применим. Для версии 3 я даже написал класс - наследник QAction, который выполняет такую работу, будучи добвленым в меню.

Советую переопределить метод hide(), так как hideEvent() можно без особого ущерба недопустить с помощью eventFilter(). Впрочем если это использовано в рамках одного заранее известного приложения, то и так будет работать. А вот на библиотечный уровень такой подход все же не потянет по выше названой причине и так как нужно обязательно использовать переопределенный тулбар. Но это уже идеализация.