Precyzje obliczeń

Precyzja Najmniejsza liczba Największa liczba Liczba cyfr znaczących Maks. liczba punktów pomiarowych (przypadek 2D)
Pojedyncza 10-45 1038 7 1925
Rzeczywista 10-39 1038 11 1570
Podwójna 10-324 10308 15 1355