SetPrecision
目的
小数点以下 16 桁から 400 桁の精度であらゆる計算をします。
構文
SetPrecision ( 式 ; 桁数 )
引数
桁数 - 小数点以下の桁数の任意の数値または数値式
戻り値のデータタイプ
数字
起点
FileMaker Pro 7.0
説明
拡張精度は、三角関数以外のすべての関数でサポートされています。この関数は切り捨てを行わず、定数の数値は入力された桁のまま残ります。
例
SetPrecision ( 5 / 9 ; 30 ) は、「0.555555555555555555555555555556」を返します。
SetPrecision ( 1.321321321321321321321321321 ; 0 ) は、「1.3213213213213213」を返します。
SetPrecision ( If ( フィールド1 > 5 ; Exp ( 50 ) ; Average ( 5 / 9 ; 1 / 7 ; 5 / 7 ) ) ; 25 ) は、次のいずれかの値を返します。
フィールド1 > 5 の場合、「5184705528587072464087.4533229334853848274691006」
フィールド1 <= 5 の場合、「0.4708994708994708994708995」
関連項目