|
|
ru.algorithms- RU.ALGORITHMS ---------------------------------------------------------------- From : Nick Poroshin 2:5054/58.5 30 Apr 2002 20:22:56 To : Stas Polozov Subject : Точность вычислений --------------------------------------------------------------------------------
28 апреля 2002 06:15, Stas Polozov wrote to Evgenij Masherov:
EM>> Какая арифметика? Целая или плавающая? Какая точность? Что,
SP> Арифметика плавающая, точность двойная.
EM>> длинную арифметику сделать - но скорее не в этом... И еще, а как
SP> ^^^^^^^^^^^^^^^^^^^^^^^^^^не помогает
EM>> виндовым калькулятором 65000 точек просчитывали? Hе утомило? :)
SP> То, что каклькулятор считает точнее компилятора, видно на одном
SP> умножении.
Это, конечно, здесь оффтопик, но попpобуй выполнить это пеpед вычислениями:
unsigned short tw,cw;
_asm{
fstcw WORD ptr tw
mov ax,WORD ptr tw
and eax,NOT 0xf00
or eax, 0x300
mov WORD ptr cw,ax
fldcw WORD ptr cw
}
(устанавливает повышенную точность (or eax, 0x300))
С уважением, Poroshin Nick
---
* Origin: Default origin (2:5054/58.5)
Вернуться к списку тем, сортированных по: возрастание даты уменьшение даты тема автор
Архивное /ru.algorithms/28253ccefe53.html, оценка из 5, голосов 10
|