SetPrecision
Berekent elke rekenkundige functie met een precisie van 16 tot 400 cijfers achter de komma.
Opmaak
SetPrecision (uitdrukking ; precisie)
Parameters
uitdrukking - een numerieke uitdrukking
precisie - een getal of een numerieke uitdrukking voor het aantal decimalen
Resulterend gegevenstype
getal
Afkomstig uit versie
7.0
Beschrijving
Alle functies behalve de trigonometrische functies ondersteunen uitgebreide precisie. Deze functie voert geen verkorting uit.
Voorbeeld 1
SetPrecision (5/9;30) geeft als resultaat 0,555555555555555555555555555556.
SetPrecision (1,321321321321321321321321321;0) geeft als resultaat 1,3213213213213213.
Voorbeeld 2
SetPrecision (If (veld1>5;Exp(50);Average(5/9;1/7;5/7));25) geeft als resultaat
5184705528587072464087.4533229334853848274691006 als veld1 > 5 of
0.4708994708994708994708995 als veld1 <= 5.