Все возможно интересные опции, советую подсмотреть в multiscatter и iToo Forest (там учтено пожалуй 90% хотелок художника).
Если я верно понял, то оба предложения по существу - как-то посчитать "плотность". Ну прикинем во что это вольется. Считаем площади всех полигонов - не вопрос. Как-то (приблизительно) считаем площадь занимаемую объектом. Ну допустим (хотя в деталях пока не знаю как). Хорошо, получили (макс) "плотность". И.. что с ней делать? К тому же объекты посева разные (38 попугаев и.т.д).
Если исходить из условий (что пока сажаем только вершинах), и лобовой атаки... как я и говорил, делим все вершины по плотности (цвету). Дальше, берем вершины с максимальной плотностью (пусть 1), и случайно сеем по ним до тех пор, пока они не кончатся (либо физически, либо будут помечены как узлы не проходящие в силу ограничений).
По идее, сеем объекты с минимально возможным масштабом, потом начинаем их увеличивать их с разной скоростью, до стоп условия (по масштабу, по пересечению, ...).
Если сетка регулярная, то здесь мы получим процент использования вершин при максимальной плотности (допустим мы заняли 90%).
Допустим следующая заказанная плотность 0.8, и тут при случайном засеве у нас появляется дополнительное ограничивающее условие в 72% от доступных вершин.
Вроде так. Но это не точно.
З.Ы. "Деталировка" определяется указанным пользователем необходимым количеством объектов (т.е. дробить на как минимум столько же посадочных мест). Хотя условие спорное.