#include <QSet> не забыл?

если размер списка большой, то такое преобразование может быть довольно дорогой операцией.

Он для проверки на уникальные значения генерирует для каждого значения списка хеш с помощью функции uint qHash(...),а ее, принимающей QVector3D нет. Собственно если ее реализовать - то все заработает.

C++ (Qt)
uint qHash(const QVector3D &val)
{
    qreal x = val.x();
    qreal y = val.y();
    qreal z = val.z();
    QString temp = QString("%0%1%2").arg(x, 0).arg(y).arg(x).arg(z);
    return ::qHash(temp);
}

Конечно 30k точек - пионерский размер, пройдет все что угодно. Но все-таки ресурсы Вы разбазариваете по-черному, машину совсем не бережете 

Щепановский - можешь только оценивать других? Видишь как сделать лучше - напиши. А не разводи тут фигню на постном масле

C++ (Qt)
QList<QVector3D> Menu::calcNewVector3D(const QList<QVector3D> &list)
{
    return list.toSet().toList();
}
 

Надо понимать что "просто так" (бесплатно) ничего не бывает. Выигрывая в простоте и легкости написания мы проигрываем в скорости и расходах памяти, часто во много раз. Человеку с небольшим опытом возможно покажется такой текст очень крутым (вот, одной строкой все сделал), но когда-то он будет удивлен узнав что, оказывается, возможно сделать в 5-10 раз быстрее. И будет не очень приятно осознать что "простая реализация" оказывается "лоховская реализация". Поэтому лучше к таким "уж очень удобным" ф-циям не привыкать. 

Использование QList (вместо QVector) в данном случае уже увеличивает расход памяти более чем в полтора раза. Создание нового контейнера и возврат его по значению также операция недешевая и никакой необходимостью не вызывается. Заметим что эти, довольно грубые, ляпы не вызывают никаких замечаний    Конвертация в QString для получения ключа - ну хоть это осуждается.

Не вижу коллизий, все очень прилично. Но это "в теории". Автор темы сильно упростил себе жизнь, удаляя "совпадающие", а реально это такая задача: дан контейнер QPoint3D. Нужно:

- слить точки стоящие друг от друга на расстоянии меньше критического, которое принимается равным достаточно малому epsilon, часто 1.0e-5

- изменять исходный порядок точек не разрешается

Есть желающие блеснуть техникой? Верес, не надо говорить что Вы "не сильны в графике" (ее здесь нет). Покажите себя вместо того чтобы клевать новичков 

Из-за приведения double к int, которое по сути сохраняет только целую часть значения отбрасывая дробную. Из-за этого, например, если у множества точек координаты будут в диапазоне [0,1) - хеш код их всех будет одинаковым, и хеш-таблица превратится в одну большую коллизию.