Numer: 02/2012 Str. 208
Autorzy: Paweł Swornowski :
Tytuł: Błędy przekształcenia danych wejściowych na postać binarną we współrzędnościowej technice pomiarowej
Streszczenie: W artykule przedstawiono problem niedokładnego przekształcenia liczby z postaci dziesiętnej na postać binarną. Rozważania oparto na przykładzie współrzędnościowej techniki pomiarowej (w tej technice istotna jest część ułamkowa liczby). Przedstawiono ograniczenia systemu 32-bitowego (w tym również standardu IEEE745 – single precision). Pokazano błędy, jakie mogą pojawić się w rzeczywistych warunkach pomiarowych na przykładzie trzech konkretnych rozwiązań.
Słowa kluczowe: komputer klasy PC, postać binarna, ograniczenia systemu 32-bitowego,