クラウドネットワークス、Kongと提携し「Kong AI Gateway」の国内展開を開始

企業が生成AI（AI）を活用する過程で発生するモデル呼び出しやデータフローを管理する「AIゲートウェイ」製品が国内に導入される。複数の大規模言語モデル（LLM）を単一の体系で管理し、認証・セキュリティ・モニタリング機能を適用する仕組みだ。

18日、クラウドネットワークスはグローバルなAPI・AI接続性企業であるKongとパートナーシップを締結し、「Kong AI Gateway」の国内流通を開始すると発表した。

両社は、生成AIやLLMを実際の業務やサービスに適用する企業を対象に、AIトラフィック管理とガバナンス構築を支援する計画だ。LLMの呼び出し過程で必要となる認証、セキュリティ、モニタリングなどを中央で一括管理する体制を提供する。

LLMは主にAPIを通じて呼び出され、複数のモデルプロバイダーや検索拡張生成（RAG）、モデルContextプロトコル（MCP）、エージェント間の呼び出しなどが併用される。Kong AI Gatewayは、こうした環境で発生するAPIおよびエージェント間（A2A）のトラフィックを管理するように設計されている。

Kong AI Gatewayは、既存のKong Gatewayと同じランタイムを使用し、複数のLLMプロバイダーへの呼び出しを単一の標準インターフェースで管理する。既存のAPIに適用していた認証、認可、使用量制限、監査ログなどのポリシーを、AIの呼び出しにもそのまま適用することが可能だ。

ゲートウェイの段階で、個人識別情報（PII）のフィルタリング、プロンプト制御、意味ベースのキャッシング、トラフィック観測機能も提供する。企業が使用する複数のAIモデルと関連トラフィックを、一箇所で集約管理できる点が大きな特徴だ。

クラウドネットワークスは、製品の供給とともに、企業ごとの環境に合わせたアーキテクチャ設計、システム構築、既存システムとの連携、技術支援を提供する予定だ。既存のAI運用環境にゲートウェイベースの管理体系を連動させる事業も推進していく。

チョン・フンギュン クラウドネットワークス代表取締役は、「生成AIが実際の業務に適用されるにつれ、企業はモデルの性能だけでなく、AIの呼び出しをどのように制御し、観測するかを同時に考慮しなければならない状況にある」とし、「クラウドネットワークスはAI運用環境の構築経験を活かし、Kong AI Gatewayの供給を通じて国内企業のAIガバナンス体制を支援していく」と述べた。

David Carless Kong アジア太平洋・インド・日本地域副社長は、「今年は金融、製造、流通など、国内の主要企業を中心にKong AI Gatewayの導入が本格化する重要な時期だ」と語った。