情報理論研究者
松嶋 敏泰（まつしま としやす）／理工学術院教授、データ科学総合研究教育センター所長
情報とは何かを究める
「情報とはなにか」を数学的に解明する「情報理論」は、さまざまな情報関連の研究分野のなかでも、もっとも根源的で本質的なものといえます。この情報理論を専門としている基幹理工学部応用数理学科の松嶋敏泰教授に、情報理論の経緯や意義、魅力などを伺っています。今回は、情報理論の「科学的側面」について松嶋教授に説明してもらいます。さらに2017年に開設され、松嶋教授が所長に就任している「早稲田大学データ科学総合研究教育センター」のめざすところについても伺いました。（取材日：2018年9月6日）
物質の探究とおなじように「情報とはなにか」を探究する
私が専攻している情報理論について、前回はインターネット利用などの実用面にも役立つ情報データ圧縮などのお話をしました。これはいわば、情報理論の「工学的側面」といえます。その一方で、私は「情報とはなにか」を突きつめていくといった、いわば「科学的側面」の研究も進めています。両方の側面にアプローチする研究者はめずらしいタイプかもしれませんね。
情報を送信したり処理したりするうえでのさまざまな問題の本質を突きつめていくと、もやっとしていた情報の輪郭が見えてきて、だんだんと情報の本質がわかってきます。前回、情報理論を築いたクロード・シャノンは、どこまで情報データを圧縮しても復元が可能であるか、その限界を求めたとお話しました。それによってシャノンは、情報の本質を示そうとしたのであり、それこそがシャノンの本当の思いだったのだと私は思っています。
情報に関係するさまざまな「限界」を求めることで、そこで使われている情報の性質を探究したい。物理学者が「物質とはなにか」を探究するのとおなじように「情報とはなにか」を探究する。それこそが情報理論の研究におけるモチベーションになると、私自身は思っています。
情報理論の科学的側面について語る松嶋教授。
人工知能や機械学習を数理的理論で支える
情報理論の科学的側面という点では、「人工知能」や「機械学習」の研究も広い意味で情報理論の一部といえます。これらも情報を処理していることにすぎないからです。最近は、人工知能といえばもっぱらディープラーニングを指し、機械学習についてもアプリケーションやプログラミングと関連するイメージが強くあるようですが、これらの基礎理論はやはり数学になります。
私の博士論文のタイトルは「情報理論に基づく知識情報処理に関する研究」というもので、人工知能や機械学習に関するものでした。人間がおこなう思考を、数学的にどこまで説明できるのかといったことを考えました。そのため、私の専門分野の一部は、機械学習についての数理的な基礎理論となります。
たとえば、ただデータをコンピュータに入れて、なにかの目的に対してそれなりの精度の予測結果が出ればよいということでなく、どうすれば数理的に最適な予測ができるか、また精度の数理的限界はどこまでかといったことを明確にしていくのです。人が描いた絵や撮った写真を機械が見て、それがなにであるかを理解するようになるというプロセスを追うことには、もちろん工学的側面もあります。一方で、そのプロセスを人間はどのようにして考えているのか、情報をどのようにして捉えているのかといった観点で探求していくと、それは科学的側面になるのです。
学習理論（機械学習）におけるモデルの例。このモデルでは「教師あり学習」を扱っている。学習理論では、人間がもつ学習能力と同様の機械をコンピュータ上に実現することを目的とする。（出典：松嶋研究室HP、一部改変）
人びとは、情報を集めて、明日の株価とか交通量とかを予想しようとします。けれども、シャノンの考え方からすると、集めた情報に内在している情報量以上に精度よく予測することはできません。それにもかかわらず、いま人びとは、ディープラーニングにデータを入れて、出てきた結果に対して「とてもよい精度で予測ができているね」とよろこんでいるわけです。最高の予測精度の限界はずっと高い山の頂上にあるのに、その裾野でうろちょろしていてよろこんでいるのかもしれません。
人工知能による予測についても、やはり数学的に精度の理論的限界がどこにあるのかを明確にする必要があります。その限界がわかれば、どのぐらいの精度よく予測ができるのか、どこが課題でなぜ限界まで達することができないのかといったことが明らかになるからです。
こうした研究は、情報理論が情報通信技術の礎となっているのと対応し、機械学習や人工知能の数理的基礎理論としてこれらの技術の発展に欠くことができない理論となっています。
数学で抽象化して考える
日常の研究は、意外かもしれませんがコンピュータは用いず基本的には「紙と鉛筆」でおこなっています。古代ギリシャの哲学者や数学者たちが散歩をしながらものごとを考えたり、アインシュタインは湖で船に揺られて寝転びながら考えていたりしたといいます。私も歩きながら考えることは多いですね。過去には、気づいたら帰るべき家を通りすぎていたこともありました。
学生のみなさん、とくに私の所属している理工学術院のみなさんは、ぜひ「ものごとを数学で抽象化して考える」ことを積極的にしてほしいと思っています。通常、なにか問題を解決しようとするとき、「既存のアイデアを利用できないか」といったことを考えるはずです。一方、多くの工学分野では、おなじ問題を一度すべて数学で表現してみます。すると、限界はどこにあるのか、その限界に向けてどこまで近づけるのかを数学的に導き出せます。その後は、それが叶うよう例えば、コンピュータで動くアルゴリズムをつくっていくのです。「抽象化してから解く」という方法があることを知ってほしい。知識よりも考え方を身につけてほしいですね。
データサイエンスがより重要に
次回の第3回で小林学先生を迎えてお話しますが、2017年に学内に設立された「データ科学総合研究教育センター」の所長に就きました。今後、さまざまな分野の研究は「データ駆動型」になっていくことが必然的です。ニュートンが木からりんごが落ちるのをみて万有引力を思いついたといわれるように、かつて研究者は身近なものごとを見て仮説を立て、実験で確かめることをしていました。しかし、いまは身近なものごとだけでなく、世界で起きていることを一人ひとりのデータから掴めてしまう時代です。集まったデータを分析することで仮説を立て、知識獲得をしていくような時代になってきているのです。
従来の知的活動とデータ駆動型知的活動。（出典：早稲田大学データ科学総合研究教育センター、一部改変）
とはいえ、たとえば実証経済学等において、データで実証しながら新たな理論を構築しようとしている研究者が「これからはデータ科学が重要だ」と思っても、急に学びはじめるのは大変です。そこで、そうした専門知識をもつ方と、データ科学の専門家が手を組むことで、研究を加速し、進展させていくという方法が、データ駆動型の研究のモデルのひとつになると考えています。
さまざまな分野の研究者や専門家と、さまざまな能力をもったデータ科学者、そしてデータが集まれば、これまでの研究アプローチでは解決できなかったグローバルな課題にも、解決の糸口を見いだせるものと期待しています。
データ科学総合研究教育センターは、シンポジウムなどの催しものの開催を重ねている。2018年4月には大隈講堂で「統計制度を確立した大隈重信とともに、データ立国とグローバル問題解決を担うために」というシンポジウムを開催した。
センターの名称には「教育」の2文字がついています。ぜひ、研究と教育を両輪としてすすめていきたい。専攻している分野の専門性をもちながらも、データを駆使して仮説を立てたり検証をしたりすることができるような人材を、早稲田大学でつくっていきたいと願っています。早稲田大学の学生は1学年1万人います。政治、経済、法律、スポーツ、さまざまな分野をこれから担っていく人たちです。そうした学生たちがデータを駆使して分析し、結論を導ける能力を身につければ、そうした能力をもつ1万人が毎年、社会で活躍するようになります。その力は、日本そして世界を変えられる力になると信じています。
第3回は、データ科学総合研究教育センターの専任センター員である小林学教授を迎えての対談をお伝えします。
プロフィール
松嶋 敏泰（まつしま としやす）
1991年、早稲田大学大学院理工学研究科経営システム工学分野博士課程修了。博士（工学）。日本電気株式会社勤務、横浜商科大学専任講師、早稲田大学工学部工業経営学科助教授、経営システム工学科教授を経て、2007年より基幹理工学部応用数理学科教授。2017年12月に設置された早稲田大学データ科学総合研究教育センターの所長を兼任。研究分野は情報理論とその応用。研究テーマは各種エントロピー、情報量を用いた機械学習、統計処理、通信、情報セキュリティ、制御などにおける最適性、性能限界などの理論研究と最適なアルゴリズムの設計とその性能評価。ハワイ大学・電気工学科客員研究員。カリフォルニア州立大学・バークレイ校・統計学科客員教員。電子情報通信学会 基礎・境界ソサイエティ会長。電子情報通信学会 情報理論研究専門委員会委員長。情報理論とその応用学会副会長。品質管理学会理事。人工知能学会、電子情報通信学会、品質管理学会論文誌編集委員等を歴任。早稲田大学ラグビー蹴球部の部長もつとめる。詳しくは松嶋研究室
