2026年11月5日
日本電気株式会社

NECは、機密情報の自動検知・マスキング・秘匿問い合わせなどの高度なセキュリティ機能によってAI活用時の安全性を担保しつつ、プロンプト圧縮や適切なルーティング(注1)によるトークンコストの最適化を実現する「cotomi Gateway」を、本年11月から提供開始します。本サービスは、機密情報の保護、利便性、経済性を高い水準で兼ね備え、既存システムとのスムーズな連携により業務プロセスの最適化とAI活用範囲の拡大に貢献します。

背景と狙い

AIの本格活用が進む中、企業や組織では、業務やサービスで扱う機密情報を高性能AIモデルで処理したいというニーズが高まっています。その一方で、こうしたAI活用の拡大に伴い、トークンコストの増大が大きな課題となっています。また、セキュリティ対策と利便性の両立がこれまで以上に求められており、社内でのAI利用状況を把握・分析できる仕組みの重要性も高まっています。

こうした課題解決に向けて、NECは安全性とトークンコスト最適化の両立に加え、AI利用状況の可視化が可能な「cotomi Gateway」の提供を開始します。本サービスは、機密性・タスク難易度・回答品質・コストなど複数の要素を総合的に評価し、適切なAIモデルを自動で選択・ルーティングします。既存のシステムやアプリケーションとはAPI連携が可能で、業務フローや運用を大きく変えることなく、共通ゲートウェイによる一元管理でAI活用を効率化します。

「cotomi Gateway」の特長

1.トークンコスト最適化

処理内容に応じて必要な性能を判定し、機密性やタスクの難易度、コストなどに合わせて適切なAIモデルを自動で選択します。さらに、プロンプトの冗長部分や不要情報を圧縮することで、トークン消費を抑制します。軽量な回帰モデルや統計モデルも活用し、プロンプト内容に加えて過去の利用履歴や会話の流れ、キャッシュ状況など複数の要素を総合的に判断することで、トークンコストの最適化を実現します。

2.安全性

「cotomi Gateway」は、AI活用時に機密情報を自動で検知・マスキングし、秘匿した状態で外部AIモデルを利用できるため、機密情報の外部漏洩リスクを低減します。マスキングによって処理が難しいタスクについては、オンプレミス環境で稼働するAIモデルを利用し対応します。これらの秘匿化やルーティングを自動化することで、人手による運用負荷を軽減し、安全なAI活用の業務適用拡大に貢献します。

3.利用状況の可視化

AIの利用実績やコスト削減効果などのデータを活用し、ダッシュボード上でリアルタイムにモニタリングや評価が可能です。これにより、利用状況やコスト面の効果を一目で把握でき、運用状況の分析やAI活用の最適化にも役立ちます。

提供について

NECは、「AI Platform Service」(注2)の機能である「cotomi Gateway」のソフトウェア版を本年11月から提供開始し、その後SaaSとして順次展開していきます。

提供開始にあわせて、「cotomi Gateway」を「BluStellar Scenario(ブルーステラ シナリオ、注3・4)」に組み込み、お客さまの既存利用環境を柔軟に活かしながら、安全性とトークンコスト最適化を両立するAI利用環境の構築を推進します。これにより、AIの業務適用範囲の拡大と、お客さまの継続的な業務革新に貢献していきます。

NECは、価値創造モデル「BluStellar」のもと、業種横断の知見と最先端テクノロジーによりビジネスモデルを変革し、社会課題とお客さまの経営課題を解決に導きます。そのコアテクノロジーであるAIにおいては、NEC開発のAIコア技術「cotomi(コトミ、注5)」を中核としたAIサービスを展開しています。今後もサービスや機能の拡充などさらなる付加価値の創出とともに、セキュアで安全・安心なAI サービスの提供を通じて、お客さまの課題解決を目指します。

以上

本件に関するお客さまからのお問い合わせ先

お問い合わせは以下WEBサイトの「お問い合わせタブ」もしくは「お問い合わせボタン」からご連絡ください。
URL：https://jpn.nec.com/LLM/index.html