No/VOL: 02/2012 Page no. 208
Authors: Paweł Swornowski :
Title: Błędy przekształcenia danych wejściowych na postać binarną we współrzędnościowej technice pomiarowej
Abstract: W artykule przedstawiono problem niedokładnego przekształcenia liczby z postaci dziesiętnej na postać binarną. Rozważania oparto na przykładzie współrzędnościowej techniki pomiarowej (w tej technice istotna jest część ułamkowa liczby). Przedstawiono ograniczenia systemu 32-bitowego (w tym również standardu IEEE745 – single precision). Pokazano błędy, jakie mogą pojawić się w rzeczywistych warunkach pomiarowych na przykładzie trzech konkretnych rozwiązań.
Key words: komputer klasy PC, postać binarna, ograniczenia systemu 32-bitowego,