2024年4月24日
日本電気株式会社

NECは、NEC開発の生成AI「cotomi」(注1)のサービスラインアップを拡充し、専用アプライアンスサーバ「cotomi Appliance Server」を、ソフトウェアやサービスと組み合わせたソリューションとして、本年6月より販売します。なお本製品には、軽量で高性能な「cotomi Light」(注2)を搭載します。
金融業とコンタクトセンター向けから提供し、これらの取り組みを通じてNECは、生成AI関連事業において、2025年度末までに約500億円の売り上げを目指します。

昨今の生成AIの急速な発展に伴い、様々な企業や公共機関が生成AIを活用した業務変革の検討・検証を進めています。その需要は今後も増加すると予想されており、ビジネスシーンにおける利用においては、情報漏洩や脆弱性等のセキュリティ面や導入・利用時のコスト面など、ニーズにあわせた柔軟な提供形態が求められています。

NECは開発した軽量で高性能な「cotomi Light」を軸に、セキュアで安全・安心な生成AIサービスの活用を推進します。そのひとつとして、今回、専用アプライアンスサーバを活用した、オンプレミス環境での生成AI利用を実現するソリューションを提供します。これにより、コンサルティングサービスを通じて、お客様の状況に合わせて適切なLLMやその利用環境を選択することができます。

NECはパートナー企業との連携を強化しながら、お客様ニーズにあったサービスや機能の拡充など付加価値を高めるとともに、セキュアで安全・安心な生成AIサービスの提供を目指していきます。

特長

1.軽量でカスタマイズ可能な「cotomi Light」を搭載

専用アプライアンスサーバに搭載される「cotomi Light」は、世界トップクラスの日本語能力を持ちつつも、パラメータ数をコンパクトに抑えることで、モデルの省電力化・軽量化・高速化を実現するとともに、運用コストを抑制しています。

2.AI活用に必要な機能をワンパッケージ化

お客様に合わせたプロンプトテンプレート設定など、「cotomi」の利用に必要な機能をソフトウェアにした「NEC Generative AI Framework」をあわせて提供します。プロンプトエンジニアリングなどの専門知識がなくとも、Web画面での簡単な操作により「cotomi」を活用することが可能です。

3.「cotomi Appliance Server」の活用により、セキュアな環境を実現

今回開発した専用アプライアンスサーバは、NVIDIA GPUを搭載しており、推論モデル、推論+ファインチューニングモデルの2モデルあります。お客様拠点へ設置することで、レスポンス時間が短く、セキュアな生成AI利用環境を実現します。オンプレミス環境での利用は、秘匿性の高い業務に適しており、金融業とコンタクトセンターでの活用が期待できます。また、推論+ファインチューニングモデルを活用することで、お客様の業務に特化させた生成AIモデルを短期間で構築することができます。

なお、今回の発表にあたり、ソリューションディストリビューターの株式会社大塚商会、アクセラレーテッド コンピューティングで世界をリードするエヌビディアより、以下のエンドースメントをいただいています。

株式会社大塚商会は、NEC様のcotomi Appliance Server提供開始を心から歓迎します。弊社では、NECが開発したcotomiをいち早く自社でも活用しており、業務効率化を推進しております。生成AIを専用のハードウェアで活用できることは、セキュアな環境での利用を期待するお客様の要望に応えられるようになると考えます。わたしたち、大塚商会は、NECと協力し、安全で安心な環境で生成AIによる業務変革を実現していきます。

株式会社大塚商会 代表取締役社長 大塚裕司

生成AIは、社会の在り方を大きく変える可能性を秘めており、そのテクノロジの業務への適用は、業務変革をもたらし、企業価値向上につなげることができます。今回、NEC様の生成AI事業に、NVIDIAのアクセラレーテッド・コンピューティングを採用いただくことで、この変革に大きく寄与できると確信しております。

エヌビディア 日本代表 兼 米国本社副社長 大崎 真孝

以上

NEC Generative AI サービスについて

URL：https://jpn.nec.com/LLM/index.html

本件に関するお客様からのお問い合わせ先

お問い合わせは以下WEBサイトの「お問い合わせタブ」もしくは「お問い合わせボタン」からご連絡ください。
URL：https://jpn.nec.com/LLM/index.html