SetPrecision
Beräknar matematiska funktioner med en precision på 16 till 400 decimaler till höger om decimalkommat.
Format
SetPrecision ( uttryck ; precision )
Parametrar
uttryck – valfritt numeriskt uttryck.
precision – en siffra eller ett numeriskt uttryck för antalet decimaler
Returnerad datatyp
nummer
Ursprungsversion
7.0
Beskrivning
Alla funktioner utom de trigonometriska funktionerna stöder utökad precision. Den här funktionen utför ingen trunkering.
Exempel 1
SetPrecision ( 5/9 ; 30 ) returnerar 0,555555555555555555555555555556.
SetPrecision ( 1,321321321321321321321321321 ; 0 ) returnerar 1,3213213213213213.
Exempel 2
SetPrecision ( If ( fält1>5 ; Exp( 50 ) ; Average( 5/9 ; 1/7 ; 5/7 ) ) ; 25 ) returnerar antingen
5184705528587072464087.4533229334853848274691006 om fält1 > 5 eller
0,4708994708994708994708995 om fält1 <= 5.