1) В opengl область рисования и так ограничена по каждой координате [-1.0..1.0]. Всё, что лежит за пределами этой области не прорисовывается. Вы же управляете преобразованием верши с помощью 3х матриц: проецирования, представления и viewport.
2) QScrollBar либо рисовать прямо в gl. При прокрутке модифицировать матрицу представления.

Поясните, что за скролл вам нужен. Я вижу 2 варианта:
1) QGLWidget не влезает в QDockWidget и вам необходимо скролить именно виджет
2) Вам нужно скролить изображение, которое рисует QGLWidget

Собственно скроллинг делается добавлением смещения в матрицу OpenGL (обычно MODEL_VIEW_MATRIX) которая заполняется при каждом рисовании. Скроллбары - вот не знаю можно ли их добавить прямо в GLWindow. Во всяком случае QScrollArea в доке и GLWindow как виджет QScrollArea работать будет.

Вообще здесь проще показать на тестовом примере чем словами. Выкладывайте (в zip), но учтите - версия Qt пятерка (QOpenGLWindow) 

Вообще, скорее всего, всё зависит от реализации вашего метода paintGL. Вам необходимо определиться, как значения скролбара будут переводиться в координаты OpenGL.
Если вы реализовывали свой класс таким образом, что в initializeGL() не происходит операций с матрицами, в resizeGL() происходит модифицирование только матрицы проекции, а в paintGL() идёт работа с матрицей моделирования + рисование, тогда:
Берём, после приведения матрицы модели к единичной вставляем смещение её на то расстояние, которое вам необходимо.
Для этого необходимо вызвать метод glTranslate, либо, если вы работаете с классом матриц QMatrix4x4::translate

Думаю, тут вы для себя что-нибудь найдёте

Правда, тут используется 2D и не используются матрицы. Может вам и не подойдет.
Вообще, с вашей стороны нужно больше кода. дайте реализацию этих 3х методов.

спасибо, буду смотреть, возникнут вопросы напишу.