近似計算における「カオス的現象」をおさえる (1997～1998)

数式処理アルゴリズムを用いて計算を行なうと、計算途中の係数膨張により、メモリ不足で計算できないことがよくあります。これを回避するために、係数を小数で近似して計算する方法がよく用いられますが、小数の近似精度をどんなに上げても解の精度が上がらないことが問題となっていました。本研究では、区間演算とゼロ判定技術を応用することにより、この問題を解決しました。提案手法を用いると、多くの数式処理アルゴリズムを、近似精度を上げれば正しい答えを出力する安定的なアルゴリズムに変換することができます。