Всем привет !Столкнулся с банальной, но неприятной и неразрешимой (пока) ситуацией при простой операции деления с вещественными числами.Суть проблемы: при делении меньшего числа на большее число (по величине отличаются в 10 раз) результат получается: "0.10000000000000001" (и при отладке и при при прогоне программы). Причем результат не зависит от типа вещественных данных (пробовал qreal, double, long double).Вот фрагмент кода:Код:double vX, vY, vRez;vX=1.0;vY=10.0;vRez=vX/vY;Кроме того, при принудительном присваивании переменной значения "vX=0.1;", результат получается "vX=0.10000000000000001". Код:long double vX;vX=0.1;Пробовал округлять, но при нем вываливается тот же косяк....У меня нет больше вариантов как с этим бороться .....Использую Qt Creator (Qt 4.7.0 (32-битн.)) от Nokia Corp.Пожалуйста, помогите !
|