Функциональность называется offset. В Qt такой точно нет, нужно брать откуда-то или самому реализовывать. Правда для реализации оффсета от кубической безье (а внутри QPainterPath только такие могут быть кроме отрезков) придется постараться, т.к. этот оффсет уже не будет сам по себе кривой безье.

Про название - буду знать, спасибо. Мне высокая точность повторения полигона-оригинала не нужна, просто хотел избавиться от "петель". У некоторых полигонов имеются довольно узкие "отростки" (вот как на втором рисунке), и из-за них получаю вот такие "лассо", которые портят конечный результат. Надо как-то анализировать ширину таких узких мест, а я совсем не силён в геометрии.

В инете подсказывают, что, например, CGAL решает эту проблему, но из-за одного только этого неудобства отдельную библиотеку цеплять совсем не хочется. Подумал, что может кто писал свой самопальный алгоритм или натравит на путь истинный, чтобы решить проблему средствами Qt.

Та какая там либа, тем более CGAL (которому нужен дуст)  Тут просто теорема Пифагора - и все дела. На всякий случай сообщаю как взять угол

C++ (Qt)
qreal PolyAngle( const QPolygonF & poly, int index )
{
 int count = poly.size();
 assert(count > 2);
 const QPointF & nxt = poly[(index + 1) % count];
 const QPointF & prv = poly[(index - 1 + count) % count];
 QVector2D v1 = QVector2D(poly[index] - prv).normalized();
 QVector2D v2 = QVector2D(nxt - poly[index]).normalized();
 return acos(QVector2D ::dotProduct(v1, v2));
}

Хреново у них операции с векторами сделаны, получается длинно и мутно. 

А это прямой результат бесконечного использования готовых тулзов Такие задачи решаются рисованием чертежа на бумажке - лучше покрупнее

В Qt

Igors, а как вычислить dir? Я видимо что-то не правильно делаю. Контуры сжатого полигона разъезжаются.

Ууу.. Чёт как то сложно всё тут у вас для простого масштабирования.. Всякие скалярные произведения, acos и т.д..
Должно быть проще)

Да, вроде так и делал.

Приложил.