Пример: учет ведется с точностью до 0.1 кг, на весы загнали три единицы и получили общую массу 511.1 кг. Простое деление даст нам 170.3666666666667 кг на единицу или 170.4 кг после округления. Когда в итоговом отчете три единицы посуммируются получится 511.2 кг, т.е. возникнет расхождение с исходными показаниями весов.
Правильно в данном случае поступить следующим образом:
- Общую массу перевести в целочисленное количество минимальных единиц. В нашем случае такой единицей будет 0.1 кг, соответственно,
511.1 кг = 5111 по 0.1 кг - Целочисленно разделить полученное число на количество единиц в партии:
5111 div 3 = 1703 = D - Вычислить остаток от целочисленного деления:
5111 mod 3 = 2 = M - Для произвольных M единиц в партии принять учетную массу (D + 1) для остальных -- D.
- (1703 + 1) * 0.1 = 170.4 кг
- (1703 + 1) * 0.1 = 170.4 кг
- 1703 * 0.1 = 170.3 кг
Комментариев нет:
Отправить комментарий