А диалог он тебе сам открывает, слова поменять предлагает?

Нормально. Визуально проще сориентироваться в происходящем, но размером он не мал.
По мне, так ToolTip с информацией будет достаточно.
Или подсвечивать строку с неверным значением другим цветом и показывать информационную строку (рядом с подсвеченной строкой или внизу диалога) с описанием проблемы и валидных диапазонов. Такая строка может быть одна - если проблем нет, то она пустая, если где-то проблемы, то с описанием первой и рекомендациями по исправлению. И Ok выключать.

За открывающиеся диалоги в процессе ввода значения, да еще и с каким нибудь громким "Бам"...  постараться запомнить фамилии девелоперов и никогда не устанавливать их программы, они вас ненавидят.

Так ведь "верное слово" неизвестно, значит нечего предлагать. А вот с цифровым значением - другое дело

Ну "Set Default" совсем не помешало бы. Если же 2 диапазона (первоисточник), то нужны еще опции. Часто просто не удастся все это вместить в "общее UI", даже средней насыщенности. Ничего плохого в отдельном диалоге нет, нужно только чтобы он не раздражал пользователя, это решаемо.

Типичный ход мысли заказчика: "Программа рассчитана не на человека с улицы а на того кто владеет вопросом и знает хотя бы порядок вводимых чисел. Поэтому просто напомните/поправьте если ввод ошибочен, а раздувать/расписывать здесь нечего"

Это нормальный подход и спорить с заказчиком здесь нечего, тем более доказывать что "Вы не понимаете! Согласно принципам human interface guideness".. и.т.п. 

Не делает потому что ситуация позволяет, здесь могу и сидеть с красным словом. А вот например немодальный диалог, пользователь ввел число и ушел. Что должно происходить? Требовать чтобы обязательно нажимал Enter - мол, тогда ввод закончен. Ну можно конечно, но это коряво. Нормально по истечении какого-то времени принять валидное значение (и возможно начать по нему что-то делать) или же выдвигаться с диалогом ошибки и (пространными) объяснениями.

А у него было достаточно времени (отсчитывая с последнего нажатия). Ладно, допустим даже он нажал Enter или Tab, все равно отлуп на невалидное значение надо давать, все равно диалог есть. Тогда зачем возиться с подсветкой (что обычно не так уж просто)?

Допустим забыл/не знал  что [0.003, 0.08]. Ввел 1. Подсветилось красным, (ага, неверно), и кнопка Ok задизаблена (не готово). И что ему теперь делать? Так или иначе все сводится к диалогу ошибки

Реализовать подобный интерфейс совсем не сложно. Мне потребовалось 5 минут на эскиз. Довести до ума чуть.
Уж лучше тогда валидаторы с хинтом, чем так мучить пользователя.

Полагаю что имеется ввиду это

Разумно, но возможностей маловато, в строку много не вставишь. Напр красивый слайдер (что нарисовал Андрюша) - пролетает. Часто желательны кнопки Set (min/max/default) и.т.п. С Ок тоже непонятно - если он выкл, значит Enter не имеет эффекта. И как (по какому условию) тогда должен активироваться текст ошибки?