Форум вопросов и ответов

Форум вопросов и ответов (https://www.otvetnemail.ru/)
-   Продолжение старого архива (https://www.otvetnemail.ru/prodolzhenie-starogo-arhiva-804/)
-   -   Проблема с двумя разными double (https://www.otvetnemail.ru/prodolzhenie-starogo-arhiva-804/problema-s-dvumya-raznymi-double-352567/)

Guest 30.09.2011 17:07

Проблема с двумя разными double
 
День добрый!Есть программа (не моя, и код ее не известен), которая может использовать пользовательские DLL. Такую DLL я пишу. Из прораммы в DLL передается переменная типа double, но приходит более длинное число. Вот пример:вместо 342.88 приходит 342.8800209; 1765.5 (1765.500108); 90.13(90.1300055);26.2 (26.2000016); и т.д.Как думаете из-за чего возникает и как бороться с лишним мусором? Как я заметил если оставлять 8 знаков, включая точку, а остальные выкинуть, будет нормальное число, но останутся ненужные нули после запятой. Как лучше в нормальное число преобразовать в dll.


Часовой пояс GMT, время: 23:47.


© www.otvetnemail.ru - Форум вопросов и ответов.