- 研究番号：25P11
- 研究分野：technology
- 研究種別：プロジェクト研究
- 研究期間：2025年04月〜2028年03月
代表研究者
森 達哉 教授
MORI Tatsuya Professor
基幹理工学部 情報通信学科
Department of Communications and Computer Engineerig
研究概要
本研究プロジェクトでは、以下に示す2つのテーマに取り組み、現代のサイバーセキュリティ分野およびAI駆動型システムの安全性向上に貢献することを目指す。それぞれのテーマにおいて、AI技術の進展を活用し、新たなセキュリティ技術の実現を目指す。
（１）AIを活用したセキュリティ解析・評価技術の研究開発
（NEDO経済安全保障重要技術育成プログラム／先進的サイバー防御機能・分析能力強化／サイバー空間の状況把握・防御技術の向上及び共通基盤の整備・課題2-(2) AIを活用したセキュリティ解析・テスト・評価技術の研究開発）
本テーマでは、AI技術を活用してセキュリティ解析およびプライバシ保護の新しい手法を開発し、同時にAIシステム自体が抱えるセキュリティおよびプライバシの課題を特定し解決する技術を体系的に設計することを目的とする。AI技術の進化により、これまでの手法では対応が難しかった複雑な攻撃や高度な脅威が顕在化しており、それに対抗するための革新的な技術の開発が急務である。特に、生成モデル、強化学習、大規模言語モデル、マルチモーダルモデルなどの最先端AI技術を活用し、以下の具体的な課題に取り組む：
- ペネトレーションテストやファジングの効率化：シミュレーションベースの攻撃検出技術を強化。
- マルウェア解析やフィッシングサイト検知の精度向上：AIモデルを活用した迅速な解析・対応。
- 敵対的攻撃への防御：生成AIを利用した攻撃シナリオの防御策構築。
- AIプラットフォームに対する攻撃の対策：AIモデルを提供するサイトに固有な脆弱性の発見と対策。
- 生成AIモデルに対するデータ汚染攻撃の対策：生成AIモデルに対するデータを用いた攻撃の評価と対策手法の開発。
これにより、従来の技術では対応が難しかった分野における突破口を開き、安全で信頼性の高いセキュリティソリューションを提供する。また、AI技術の潜在能力を最大限に引き出し、セキュリティとプライバシの分野における課題解決を図ることで、社会全体の安心と信頼を高めることを目指す。
（２）自動運転システムのセキュリティ技術開発
（JST CREST領域基礎理論とシステム基盤技術の融合によるSociety 5.0のための基盤ソフトウェアの創出・研究課題 AI駆動型サイバーフィジカルシステムのセキュリティ評価・対策基盤）
本テーマでは、AI駆動型のサイバーフィジカルシステムの代表例である自動運転システムにおけるセキュリティ課題を解決することを目的とする。自動運転システムは、AI技術を活用した高度なシステムとして注目される一方、敵対的入力やセンサー攻撃による誤作動、さらに通信経路における不正アクセスといったセキュリティリスクが大きな課題となっている。本研究では、以下のポイントに焦点を当てる：
- 敵対的入力の影響解析：脅威モデルを構築し、攻撃メカニズムを解明。
- 防御策の開発：実用可能なセンサー攻撃対策技術の提案。
- システム全体の安全性評価：車両間通信や制御信号を含む包括的な防御基盤の構築。
これらの課題を体系的に研究することで、自動運転技術の安全性と信頼性を向上させるとともに、AI技術が社会実装される際の課題解決に貢献する。さらに、本研究の成果は自動運転だけにとどまらず、他のAI駆動型サイバーフィジカルシステムへの応用も視野に入れている。これにより、次世代社会（Society 5.0）における安全で信頼性の高い技術基盤の構築を目指す。
