SetPrecision
小数点以下 16 桁から 400 桁の精度であらゆる計算をします。
構文
SetPrecision (式 ; 桁数)
引数
式 - 任意の数値式
桁数 - 小数点以下の桁数の任意の数値または数値式
戻り値のデータタイプ
数字
起点バージョン
7.0
説明
拡張精度は、三角関数以外のすべての関数でサポートされています。この関数は切り捨てを行わず、定数の数値は入力された桁のまま残ります。
例 1
SetPrecision (5 / 9 ; 30) は、「0.555555555555555555555555555556」を返します。
SetPrecision (1.321321321321321321321321321 ; 0) は、「1.3213213213213213」を返します。
例 2
SetPrecision (If (フィールド 1 > 5 ; Exp (50) ; Average (5 / 9 ; 1 / 7 ; 5 / 7)) ; 25) は、次のいずれかの値を返します。
フィールド 1 > 5 の場合、「5184705528587072464087.4533229334853848274691006」
フィールド 1 <= 5 の場合、「0.4708994708994708994708995」