Noggrannhet (datavetenskap)
Precision inom datavetenskap är ett mått på detaljer, vanligtvis mätt i bitar , men ibland i decimalsiffror . Detta är relaterat till signifikanta siffror i matematik , vilket är antalet siffror som används för värdet av ett numeriskt uttryck.
Några av standardprecisionsformaten är:
- Halvt precisionsnummer
- Enkelt precisionsnummer
- Dubbla precisionsnummer
- Fyrdubbelt nummer
- Oktalt precisionsnummer
Av dessa används fortfarande sällan oktalprecisionsformatet. Enkel- och dubbelprecisionsformaten är de mest använda och stöds på nästan alla plattformar. Användningen av halvprecisionsformatet ökar, särskilt inom området maskininlärning , eftersom många maskininlärningsalgoritmer är feltoleranta. [ett]
Se även
- Utökad noggrannhet
- datornummerformat _
Anteckningar
- ↑ Mittal, Sparsh. A Survey of Techniques for Approximate Computing // ACM Comput. Surv. : journal. - ACM, 2016. - Maj ( vol. 48 , nr 4 ). — S. 62:1-62:33 . - doi : 10.1145/2893356 .
Länkar
- Datornummer och deras precision, I Number Storage
- Vad är skillnaden mellan enkel-, dubbel-, multi- och mixed-precision computing?
 Ordböcker och uppslagsverk |
|---|