|
ru.algorithms
- RU.ALGORITHMS ----------------------------------------------------------------
From : Stas Polozov 2:5000/166.2 24 Apr 2002 19:50:42
To : All
Subject : Точность вычислений
--------------------------------------------------------------------------------
Hарод! Помогите, диплом горит и все такое =)
Hаписал прогу, которая фильтрует 2 раза отсчеты АЦП ВЧ БИХ фильтром, и три
раза потом все полученное интегрирует (ну, короче имеем 5 рекурсий, неважно).
Осчетов этих самых очень много, в идеале вообще бесконечно. Дык вот уже при
65000 отсчетов прога начинает безбожно врать: после описанных операций в начале
интервала остается правильных 4 значащих цифры, а в конце вообще одна :)
А сравнивается это все с MS Excel который считает все правильно. И даже
виндовый калькулятор считает все правильно :) В отличие от компиляторов:
Borland C++ 5.02 и MSVC++.
Дык вот вопрос, что делать-то, блин? Как поднять точность вычислений?
Согласен уже реализовывать арифметические операции через задницу, через
самописные функции.
Помогите, кто с таким сталкивался.
PS: сори, если не совсем в топик.
... np: ..z-z-z
--- GoldED+/W32 1.1.4.7
* Origin: В дочки-матери на деньги (2:5000/166.2)
Вернуться к списку тем, сортированных по: возрастание даты уменьшение даты тема автор
|
