ボチボチっと更新していこうと思います。


by momoka1975

浮動と固定の違い。

久々に勉強してみました。これは数学、の、分野、なの?何の分野かさえももうさっぱりわかりませんが。


【浮動少数点と固定少数点】

浮動小数点は計算できる数値の幅が広いけど、計算速度が遅い。固定少数点数と比べると誤差が生じやすい。表現できる数値の幅に応じて、「単精度実数」と「倍精度実数」に別れる。前者は1つの数値を32bit/6桁、後者は64bit/15桁で表現できる。扱える数値の幅が広く、大きな値、小さな値の計算に向いている為、科学技術計算などに用いられる。

固定少数点は計算できる数値の幅が狭いけど、計算速度が速い。浮動小数点よりは誤差が少ない。高速に計算できるという特徴があるため、ゲームの座標計算、音声処理、画像処理に用いられる。また、DSPでは不動小数点数演算を高速に行う浮動小数点演算装置(FPU)が存在しないものが多いために固有少数点数が主に用いられる。


ということは?
固定少数点を利用するメリットはの方が計算速度も速いし、誤差も少ないということ?なの?
[PR]
by momoka1975 | 2005-02-25 17:07 | □数学&物理系