AIセキュリティの現状と課題
近年、AI技術は様々な分野で目覚ましい進歩を遂げていますが、サイバーセキュリティ分野におけるAIの活用は、他の分野に比べて遅れているのが現状です。例えば、ChatGPTのような汎用AIモデルは、一般的なタスクには優れていますが、サイバーセキュリティ特有の専門性や、攻撃者との敵対的な環境への対応には課題が残ります。Ciscoが設立した新組織「Foundation AI」は、この課題に正面から取り組むことを目指しています。
Robust Intelligenceの経験とCiscoとの統合
Foundation AIの基盤となっているのは、Ciscoが買収したRobust Intelligenceです。Robust Intelligenceは、AI特有のセキュリティギャップを埋めるために設立されました。従来のサイバーセキュリティとAIセキュリティの大きな違いは、AIが非決定論的なシステムである点です。つまり、同じインプットでも毎回異なるアウトプットを返す可能性があるため、従来のセキュリティ対策では対応できない攻撃が発生する可能性があります。Ciscoとの統合により、Robust Intelligenceは、AIセキュリティのコア技術に加え、Ciscoが持つサイバーセキュリティとネットワークインフラの要素を組み合わせることが可能になりました。これにより、「スイッチをオンにするだけでAIセキュリティを導入できるような世界」の実現を目指しています。
AIガバナンス協会の役割
大柴氏は、日本でAIガバナンス協会も立ち上げ、代表理事を務めています。AIガバナンス協会は、AIのセキュリティ対策への関心の高まりを受け、多面的・多方向に議論や情報交換ができる環境を作ることを目的としています。日本は、AIの推進とガードレールのバランスを取りながら、官民一体で議論し、モデルケースを国外に輸出できる可能性を秘めています。AIガバナンス協会は、そのためのプラットフォームとして機能することを目指しています。
Foundation AIのアプローチ：オープンイノベーション戦略
Foundation AIは、サイバーセキュリティにおけるAI活用の根本的な課題を解決するために、オープンイノベーション戦略を採用しています。具体的には、Foundation AIで行う取り組みの大部分をオープンソースとして公開し、テクノロジーを利用しやすくすることを目指しています。オープンソースモデルであれば、特定のニーズに合わせて微調整したり、必要に応じてより優れたモデルに入れ替えたり、パフォーマンスや遅延、信頼性を最適化することが可能です。また、セキュリティ組織がAIモデルを安全な環境で直接実行できるというメリットもあります。
Foundation AIの具体的な取り組み
Foundation AIでは、以下の4つの主要なカテゴリーで製品開発を進めています。
- サイバーセキュリティに特化したベースモデル
- 世界初のセキュリティ特化推論モデル
- 実際のセキュリティ事例におけるベンチマーク
- AIサプライチェーンインテリジェンス
特に注目すべきは、サイバーセキュリティに特化したベースモデルです。このモデルは、Llamaをベースにしながら公開されているサイバーセキュリティデータで事前トレーニングを行っており、大規模な汎用モデルと比較して10分の1ほどのサイズでありながら、サイバーセキュリティタスクにおいてより優れた性能を示しています。
セキュリティにおけるAI活用の未来
攻撃者側もAIを活用している現状において、セキュリティにおけるAI活用のスピードは今後加速していくことが予想されます。Foundation AIは、サイバーセキュリティ業界におけるAIの導入を促進し、3～5年後に、サイバーセキュリティにおけるAIの受け入れが進んでいる環境を構築するための基盤となることを目指しています。
まとめと次のアクション
CiscoのFoundation AIは、サイバーセキュリティ分野におけるAI活用の遅れを取り戻し、より安全なデジタル社会を実現するための重要な取り組みです。オープンイノベーション戦略を通じて、AIセキュリティ技術の発展を加速させ、企業や組織がAIを安全に活用できる環境を構築することを目指しています。サイバーセキュリティに関わる方は、Foundation AIの動向に注目し、積極的に情報を収集していくことをお勧めします。また、AIガバナンス協会の活動にも参加することで、AIセキュリティに関する最新の知識や情報を共有し、共に未来のセキュリティを築いていきましょう。
コメント