SetPrecision
目的
以小数点右侧 16 至 400 位的精度计算任何数学函数。
格式
SetPrecision ( 表达式 ; 精度 )
参数
精度 - 任意数值或数值表达式
返回的数据类型
数字
源于
FileMaker Pro 7.0
说明
所有函数(三角函数除外)都支持扩展精度。此函数不执行截断。
示例
SetPrecision ( 5/9 ; 30 ) 返回“0.555555555555555555555555555556”。
SetPrecision ( 1.321321321321321321321321321 ; 0 ) 返回“1.3213213213213213”。
SetPrecision ( If ( 字段1>5 ; Exp ( 50 ) ; Average ( 5/9 ; 1/7 ; 5/7 ) ) ; 25 ) 返回
“5184705528587072464087.4533229334853848274691006”,如果字段1 > 5;或者
0.4708994708994708994708995,如果字段1 <= 5。
相关主题