Почему может уменьшиться точность чисел с плавающей запятой
Обновлен: Ноябрь 2007
Десятичные значения с плавающей запятой обычно не имеют точного двоичного представления. Это побочный эффект представления центральным процессором данных с плавающей запятой. Поэтому можно получить небольшую потерю точности и некоторые операции с плавающей запятой могут привести к неожиданным результатам.
Данное поведение возникает в результате выполнения одного из перечисленных ниже действий:
Двоичное представление десятичных чисел может быть не точным.
Существует тип несовпадения используемых чисел (например, смешивание плавающей запятой и удвоение).
Для разрешения поведения большинство программистов проверяют наличие значения, большего или меньшего, чем необходимое или возвращают и используют библиотеку десятичных чисел в двоичной кодировке (BCD), которая позволит поддерживать точность значений.
Двоичное представление значений с плавающей запятой влияет на точность и правильность расчета плавающей запятой. Microsoft Visual C++ использует формат плавающей запятой IEEE.
Пример
// Floating-point_number_precision.c
// Compile options needed: none. Value of c is printed with a decimal
// point precision of 10 and 6 (printf rounded value by default) to
// show the difference
#include <stdio.h>
#define EPSILON 0.0001 // Define your own tolerance
#define FLOAT_EQ(x,v) (((v - EPSILON) < x) && (x <( v + EPSILON)))
int main() {
float a, b, c;
a = 1.345f;
b = 1.123f;
c = a + b;
// if (FLOAT_EQ(c, 2.468)) // Remove comment for correct result
if (c == 2.468) // Comment this line for correct result
printf_s("They are equal.\n");
else
printf_s("They are not equal! The value of c is %13.10f "
"or %f",c,c);
}
They are not equal! The value of c is 2.4679999352 or 2.468000
Комментарии
Для EPSILON можно использовать константу FLT_EPSILON, которая определена для типа float как 1.192092896e-07F или DBL_EPSILON, которая определена для типа double как 2.2204460492503131e-016. Для этих констант необходимо включить файл float.h. Константы определены как самые маленькие положительные числа x, например, x+1.0 не равно 1.0. Поскольку это очень маленькое число, следует задействовать определенную пользователем толерантность для расчетов с вовлечением очень больших чисел.