Ответ
 
Опции вопроса Поиск в этом вопросе Опции просмотра
  #1  
Старый 30.09.2011, 17:35
Аватар для Guest
Guest
Вопрос
Сообщений: n/a
По умолчанию

Всем привет !Столкнулся с банальной, но неприятной и неразрешимой (пока) ситуацией при простой операции деления с вещественными числами.Суть проблемы: при делении меньшего числа на большее число (по величине отличаются в 10 раз) результат получается: "0.10000000000000001" (и при отладке и при при прогоне программы). Причем результат не зависит от типа вещественных данных (пробовал qreal, double, long double).Вот фрагмент кода:Код:double vX, vY, vRez;vX=1.0;vY=10.0;vRez=vX/vY;Кроме того, при принудительном присваивании переменной значения "vX=0.1;", результат получается "vX=0.10000000000000001". Код:long double vX;vX=0.1;Пробовал округлять, но при нем вываливается тот же косяк....У меня нет больше вариантов как с этим бороться .....Использую Qt Creator (Qt 4.7.0 (32-битн.)) от Nokia Corp.Пожалуйста, помогите !
Ответить с цитированием
Ответ



Похожие вопросы
Тема Автор Раздел Ответов Последний вопрос или ответ
Неожиданный результат О_о Guest Четвертый архив 0 17.10.2011 10:57
filesize более 2 гб неожиданный результат Guest Архив вопросов и ответов 0 16.10.2011 14:12
Неожиданный результат, как избавиться? Guest Продолжение старого архива 0 15.10.2011 11:42
ПРОБЛЕМА при делении жестких дисков!!!!! Guest Третий архив вопросов и ответов 0 28.09.2011 05:34



© www.otvetnemail.ru - Форум вопросов и ответов.