オムロン、生成AI検索要約サービスの防御を強化　Athenaのガードレール採用

　オムロンは、開発や運用を手がける「プログラム検索要約サービス」の保護に向けて、Athena TechnologiesのAIセキュリティ&ガバナンスツール「Athena Firewall」を採用した。9月4日、Athena Technologiesが発表した。疑似攻撃を通じた有効性の検証を経て採用を決めた。生成AI特有のセキュリティリスクを低減させ、利用者が安心して継続利用できる体制を整えたい考えだ。

　オムロンのインダストリアルオートメーションビジネスカンパニーは、工場の生産ラインでモーターやセンサーなどの制御を担うPLC（プログラマブルロジックコントローラー）のラダープログラムを理解、検索、要約するプログラム検索要約サービスの開発を進めている。製造現場における人手不足や技能継承の難しさを背景に、設計や保守業務の効率化を支援する狙いがある。

　一方で、生成AIを組み込んだ業務システムでは、AIへの入力に悪意ある指示を紛れ込ませて意図しない動作を引き起こすプロンプトインジェクションや、機密情報の漏洩といった特有のリスクが存在する。サービス提供に向けては想定されるリスクを明確にした上で対策を講じる必要があったが、本格的なセキュリティ対策は着手段階にあり、自社システムに潜むリスクの洗い出しから進める必要があった。そこで、Athena Technologiesが提供するAthena Firewallの有効性を確かめるため、概念実証（PoC）検証を開始した。

　検証では、実際の攻撃者の視点からシステムへ疑似攻撃を仕掛けて脆弱性を評価する「レッドチーミング」を実施した。対象システムのソースコードや機能を調査した上で、AIセーフティ・インスティテュート（AISI）のガイドラインを参照しながら「システムへの影響度」と「攻撃の実現可能性」の2軸でリスクシナリオを策定。具体的な攻撃シナリオを作成して疑似攻撃を行い、Athena Firewallの適用有無によるリスク低減度合いや、正規の業務利用が過剰に遮断されないかといった実用性を比較評価した。さらに、発見された脆弱性に対して検知の閾値やポリシーの調整を行い、定期報告会を通じて進捗を共有した。

　レッドチーミングの結果、不適切出力や内部情報漏洩、入力データに悪意ある指示が含まれることによる入力汚染、大量入力への耐性という三つの脆弱性カテゴリを確認した。このうち不適切出力・内部情報漏洩と入力汚染に対してAthena Firewallの評価器を適用したところ、高い検知性能を確認できた。通常利用における誤検知率は1.7％にとどまり、業務の操作性に与える影響が限定的であることを確認した。明確なプロンプトインジェクションに対する見逃し率も4.7％と低水準に抑えられた。また、通常時のプロンプトに対するガードレール評価の処理時間は100ミリ秒以下であり、体感速度への影響も軽微であることが実証された。

　システムプロンプトの防御だけに依存しない多層的なセキュリティ機構の有効性と、業務を妨げない処理性能を確認できたことから、オムロンはプログラム検索要約サービスへの本番採用を決めた。今後は本番環境への展開を進めるとともに、高度な誘導手法に対する検出精度のさらなる向上などにも取り組む見通しだ。

ニュースリリース