SetPrecision
Användning
Beräknar matematiska funktioner med en precision på 16 till 400 decimaler till höger om decimalkommat.
Format
SetPrecision (uttryck ; precision)
Parametrar
uttryck – valfritt numeriskt
uttryck.
precision – en siffra eller ett numeriskt uttryck för antalet decimaler
Returnerad datatyp
nummer
Kommer från
FileMaker Pro 7.0
Beskrivning
Alla funktioner utom de trigonometriska funktionerna stöder utökad precision. Den här funktionen utför ingen trunkering.
Exempel
SetPrecision (5/9 ; 30) returnerar 0,555555555555555555555555555556.
SetPrecision (1,321321321321321321321321321 ; 0) returnerar 1,3213213213213213.
SetPrecision (If (fält1>5 ; Exp(50) ; Average(5/9 ; 1/7 ; 5/7)) ; 25) returnerar antingen
5184705528587072464087.4533229334853848274691006 om fält1 > 5 eller
0,4708994708994708994708995 om fält1 <= 5.
Relaterade avsnitt