Casio FX-570ESPLUS СЕРЫЙ, ФИОЛЕТОВЫЙ [43/51] Диапазоны вычислений количество знаков и точность

Casio FX-570ESPLUS СЕРЫЙ, ФИОЛЕТОВЫЙ [43/51] Диапазоны вычислений количество знаков и точность
R-42
17: pc ' km 18: km ' pc 19: km/h ' m/s 20: m/s ' km/h
21: oz ' g 22: g ' oz 23: lb ' kg 24: kg ' lb
25: atm ' Pa 26: Pa ' atm 27: mmHg ' Pa 28: Pa ' mmHg
29: hp ' kW 30: kW ' hp 31: kgf/cm
2
' Pa 32: Pa ' kgf/cm
2
33: kgf m ' J 34: J ' kgf m 35: lbf/in
2
' kPa 36: kPa ' lbf/in
2
37: °F ' °C 38: °C ' °F 39: J ' cal 40: cal ' J
Формулы перевода основаны на «Национальный институт по
стандартизации и технологии (NIST), специальное издание 811
(1995)».
Примечание: Данные перевода J 'cal приведены при температуре
15°С.
Диапазоны вычислений, количество
знаков и точность
Диапазон выражения, количество цифр, используемых для внутренних
вычислений и точность вычисления зависят от типа выполняемого
расчета.
Диапазон вычисления и точность
Диапазон вычисления
± 1 × 10
–99
до ± 9,999999999 × 10
99
или 0
Количество цифр для
внутреннего вычисления
15 цифр
Точность
В общем ± 1 на 10 разрядов при
отдельном вычислении. Точность
экспоненциального отображения равна
± 1 на наименьший значащий разряд. В
случае последовательных вычислений
ошибки накапливаются.
Диапазоны ввода и точность вычисления
функций
Функции Диапазон ввода
sin
x
DEG
0 |
x | 9 × 10
9
RAD
0 |
x | 157079632,7
GRA
0 |
x | 1 × 10
10
cos x
DEG
0 |
x | 9 × 10
9
RAD
0 |
x | 157079632,7
GRA
0 |
x | 1 × 10
10
tan x
DEG
Как и для sin
x , кроме когда | x | = (2 n –1) × 90.
RAD
Как и для sin
x , кроме когда | x | = (2 n –1) × π /2.
GRA
Как и для sin
x , кроме когда | x | = (2 n –1) × 100.
sin
–1
x
0 | x | 1
cos
–1
x
tan
–1
x 0 | x | 9,999999999 × 10
99

Содержание

Похожие устройства

Скачать