SetPrecision
所计算的数学函数可精确到小数点后 16 至 400 位。
格式
SetPrecision(表达式;精度)
参数
表达式
- 任意数值表达式
精度
- 针对小数位数的任何数字或数值表达式
返回的数据类型
数字
原始版本
7.0
说明
所有函数(三角函数除外)都支持扩展精度。此函数不执行截断。
示例 1
SetPrecision(5/9;30)
返回“0.555555555555555555555555555556”。
SetPrecision(1.321321321321321321321321321;0)
返回“1.3213213213213213”。
示例 2
SetPrecision(If(字段1>5;Exp(50);Average(5/9;1/7;5/7));25)
返回
“5184705528587072464087.4533229334853848274691006”,如果字段1 > 5;或者
“0.4708994708994708994708995”,如果字段1 <= 5。