- 研究番号：18C08
- 研究分野：technology
- 研究種別：奨励研究
- 研究期間：2018年04月〜2019年01月
代表研究者
柳澤 優香 理工研が募集する次席研究員
YANAGISAWA Yuka Researcher
理工学研究所 大石 進一研究室
Research Institute for Science and Engineering
研究概要
線形計算とは，行列に関する数値計算のことであり，連立一次方程式と固有値の問題の二つに大別され，科学技術計算の基礎を担う有用な技術である. 近年の科学技術計算は，計算機の演算能力やメモリが増大するにつれ，ますます大規模な問題を高速に解く方向へ発展しているが，「エネルギー消費を最小限に抑える」ことは不可欠である．
一方で，四則演算など の基本演算を計算機上で実行すると，それぞれの演算は丸め誤差を伴った浮動小数点演算によって近似されるため，計算の際にどのくらいの丸め誤差が発生し累積し伝播するかを考慮する必要がある．例えば，100 万元を超えるような行列を扱う場合，理論的には倍精度では計算精度が不足し，十分な有効桁数が得られなくなる可能性がある. また，特異に近い行列の場合，ごく小さな誤差による摂動に対して解の相対変化が大きくなり不安定である可能性が高い. つまり，「何らかの方法で得られた数値計算の結果が一体どの程度の許容誤差の範囲内で正しいか」を示すことは計算自体と同様に重要な事である．
本研究では，半精度（16ビット）, 倍精度（64ビット）, 四倍精度（ソフトウェアでのみ使用可能な128ビット）などの浮動小数点演算を組み合わせ，計算時間を短縮し、エネルギー消費を最小限に抑え, 数値的に解き難い悪条件性の問題を精度良く解く数値計算法の開発を行う．
