SetPrecision

小数点以下 16 桁から 400 桁の精度であらゆる計算をします。

構文 

SetPrecision (式 ; 桁数)

引数 

- 任意の数値式

桁数 - 小数点以下の桁数の任意の数値または数値式

戻り値のデータタイプ 

数字

起点バージョン 

7.0

説明 

拡張精度は、三角関数以外のすべての関数でサポートされています。この関数は切り捨てを行わず、定数の数値は入力された桁のまま残ります。

例 1 

SetPrecision (5 / 9 ; 30) は、「0.555555555555555555555555555556」を返します。

SetPrecision (1.321321321321321321321321321 ; 0) は、「1.3213213213213213」を返します。

例 2 

SetPrecision (If (フィールド 1 > 5 ; Exp (50) ; Average (5 / 9 ; 1 / 7 ; 5 / 7)) ; 25) は、次のいずれかの値を返します。

フィールド 1 > 5 の場合、「5184705528587072464087.4533229334853848274691006

フィールド 1 <= 5 の場合、「0.4708994708994708994708995