Главная страница


ru.algorithms

 
 - RU.ALGORITHMS ----------------------------------------------------------------
 From : Evgenij Masherov                     2:5020/175.2   27 Apr 2002  08:49:15
 To : Stas Polozov
 Subject : Точность вычислений
 -------------------------------------------------------------------------------- 
 
 
  SP>   Hарод! Помогите, диплом горит и все такое =)
  SP>   Hаписал прогу, которая фильтрует 2 раза отсчеты АЦП ВЧ БИХ фильтром, и
  SP> три раза потом все полученное интегрирует (ну, короче имеем 5 рекурсий,
  SP> неважно).
  SP> Осчетов этих самых очень много, в идеале вообще бесконечно. Дык вот уже
  SP> при 65000 отсчетов прога начинает безбожно врать: после описанных
  SP> операций в начале интервала остается правильных 4 значащих цифры, а в
  SP> конце вообще одна :)
  SP>   А сравнивается это все с MS Excel который считает все правильно. И даже
  SP> виндовый калькулятор считает все правильно :) В отличие от компиляторов:
  SP> Borland C++ 5.02 и MSVC++.
  SP>   Дык вот вопрос, что делать-то, блин? Как поднять точность вычислений?
  SP> Согласен уже реализовывать арифметические операции через задницу, через
  SP> самописные функции.
  SP>   Помогите, кто с таким сталкивался.
  SP> PS: сори, если не совсем в топик.
 
 Какая арифметика? Целая или плавающая? Какая точность? Что, непосредственноо
 выход ВЧ фильтра (т.е. быстроосциллирующую функцию) интегрируем? Тогда надо
 менять метод расчета. Можно, конечно, и длинную арифметику сделать - но скорее
 не в этом...
 И еще, а как виндовым калькулятором 65000 точек просчитывали? Hе утомило? :)
 
 Евгений Машеров АКА СанитарЖеня
 
 --- ifmail v.2.15dev5
  * Origin: FidoNet Online - http://www.fido-online.com (2:5020/175.2)
 
 

Вернуться к списку тем, сортированных по: возрастание даты  уменьшение даты  тема  автор 

 Тема:    Автор:    Дата:  
 Точность вычислений   Stas Polozov   24 Apr 2002 19:50:42 
 Точность вычислений   Evgenij Masherov   27 Apr 2002 08:49:15 
 Точность вычислений   Stas Polozov   28 Apr 2002 06:15:11 
 Точность вычислений   Nick Poroshin   30 Apr 2002 20:22:56 
Архивное /ru.algorithms/3300328ef6e6.html, оценка 2 из 5, голосов 10
Яндекс.Метрика
Valid HTML 4.01 Transitional