AGC、KongのAPI管理サービスで共通AI基盤整備　マルチLLMの可視化と制御を両立

　AGCは、全社での安全なAI活用と開発効率化を支える取り組みの一環として、API管理・AIガバナンス機能を提供するKongのAPIマネジメントおよびAI Gateway関連サービスを採用した。5月21日、Kongが発表した。対話型AIサービスを含む複数の大規模言語モデル（LLM）アプリケーションを安全かつ効率的に活用するための共通プラットフォームとして、将来的な海外拠点への展開も視野に入れた全社共通のAI開発基盤整備を進める。

　AGCの社内では、Azure OpenAIを中心とした対話型AIサービスの活用が進む一方、用途や業務特性に応じてGeminiやAnthropicなどの異なるLLMを柔軟に使い分けたいという開発現場からの要望が高まっていた。しかし、事業部やプロジェクトごとに個別契約を結ぶ手法では、契約・請求処理が煩雑化するほか、導入のたびにセキュリティチェックや申請が必要となるため、スピード感を持った全社展開の足かせとなる懸念があった。また、各部門が個別にAPIを利用する環境では、利用状況やコストを正確に把握することが難しく、組織全体でのコスト管理やガバナンス統制が困難な状況であった。さらに、使いすぎによる高額請求への不安が、現場ユーザーにとって積極的なAI活用の心理的ブレーキになっていた。

　こうした背景から、AGCは利用状況とコストを可視化し、適切なガードレールを備えた共通のAI開発基盤の整備を重要視し、ソリューションの検討を進めた。

　Kongの採用にあたっては、まずAPI仕様の異なる複数のLLMを仲介・標準化するAI Gateway機能を評価した。これにより、開発者は単一の窓口を通じて最小限の変更コストで最適なAIモデルを柔軟に選択・切り替えできるようになる。また、セキュリティ審査済みの共通プラットフォームとしてKongを活用することで契約やガバナンス管理を集約し、事業部ごとの個別契約や都度の申請手続きを効率化できる点もポイントとなった。

　さらに、API利用者（Consumer）単位での管理機能により、部署や個人単位での利用状況を精緻に可視化でき、将来的な社内費用配賦の自動化に対応できる点も評価した。予算超過を防ぐガードレール機能（AI Rate Limiting Advanced）によって利用者ごとに利用枠やレートリミットを設定し、想定外の高額請求に対する現場の心理的不安を解消できる仕組みも備えている。単なるチャットボットにとどまらず、社内データや研究論文にアクセスするAIエージェントの開発構想に対応できる、MCP（Model Context Protocol）Gatewayとしての拡張性の高さも選定の決め手となった。なお、導入にあたっては既存のクラウド調達プロセスと整合性を保つため、AWS Marketplaceを通じて購入された。

　今後は、まず開発者層から利用を開始して段階的に展開し、将来的にはバックオフィスを含む幅広い社員によるAIアプリやAIエージェントの活用も視野に入れている。

　AGCデジタル・イノベーション統括部ビジネスイノベーション部DX統括グループリーダーの等々力宏氏は、「AGCでは、生成AIを一部門の取り組みではなく、全社的な競争力を高める基盤技術として位置付けている。Kongを採用したことで、複数のLLMを安全かつ柔軟に活用できる共通基盤の整備を進めることができる。今後は利用状況やコストを可視化し、ガバナンスを効かせながらAI活用を加速していく」と述べている。

ニュースリリース