FAMLog

計算処理の有効桁数の増大に関連した話題として、FileMaker 7では浮動小数点数の評価方法に変更があります。

これまでは浮動小数点数の評価にOS内蔵の機能を使っていましたが、このために小数の計算で正しい結果が得られない場合がありました。例えば、ファイルメーカーPro 6では、126.96 - 119.29の計算結果は7.66999999999999となります。

FileMaker Pro 7では固定小数点演算機能が改良されており、上記のような計算もきちんと行われるようになっています。FileMaker Pro 7では、126.96 - 119.29の計算結果は7.67となります。

（2005/05/13追記：FileMaker Knowledge Baseリニューアルに伴いリンクを修正しました。）