Berekent elke rekenkundige functie met een precisie van 16 tot 400 cijfers achter de komma.
SetPrecision (uitdrukking ; precisie)
uitdrukking
- een numerieke uitdrukking
precisie
- een getal of een numerieke uitdrukking voor het aantal decimalen
getal
FileMaker Pro 7.0
Alle functies behalve de trigonometrische functies ondersteunen uitgebreide precisie. Deze functie voert geen verkorting uit.
SetPrecision (5/9;30)
geeft als resultaat 0,555555555555555555555555555556.
SetPrecision (1,321321321321321321321321321;0)
geeft als resultaat 1,3213213213213213.
SetPrecision (If (veld1>5;Exp(50);Average(5/9;1/7;5/7));25)
geeft als resultaat
5184705528587072464087.4533229334853848274691006 als veld1 > 5 of
0.4708994708994708994708995 als veld1 <= 5.