SetPrecision

Berekent elke rekenkundige functie met een precisie van 16 tot 400 cijfers achter de komma.

Opmaak 

SetPrecision (uitdrukking ; precisie)

Parameters 

uitdrukking - een numerieke uitdrukking

precisie - een getal of een numerieke uitdrukking voor het aantal decimalen

Resulterend gegevenstype 

getal

Afkomstig uit versie 

7.0

Beschrijving 

Alle functies behalve de trigonometrische functies ondersteunen uitgebreide precisie. Deze functie voert geen verkorting uit.

Voorbeeld 1 

SetPrecision (5/9;30) geeft als resultaat 0,555555555555555555555555555556.

SetPrecision (1,321321321321321321321321321;0) geeft als resultaat 1,3213213213213213.

Voorbeeld 2 

SetPrecision (If (veld1>5;Exp(50);Average(5/9;1/7;5/7));25) geeft als resultaat

5184705528587072464087.4533229334853848274691006 als veld1 > 5 of

0.4708994708994708994708995 als veld1 <= 5.