2024年11月27日
日本電気株式会社

NECは、お客様を未来へ導く、価値創造モデル「BluStellar(ブルーステラ、注1)」のキーテクノロジーであるNEC開発の生成AI「cotomi(注2)」を強化し、日本語ベンチマークにおいて圧倒的な高速性を維持しつつ世界トップクラスの精度を達成しました。本モデルは2024年12月から順次提供開始します。また、生成AIの性能を維持しながらもGPUの演算効率を2倍に高める技術も併せて開発しました。
高速性を維持しつつ精度の高い生成AIにより、実際の業務でストレスのない生成AIの活用を強力に推進できるとともに、AI需要の高まりに伴うGPU不足や電力問題なども改善し、AIをより身近に、かつ快適に活用できる環境づくりに貢献します。

生成AIの急速な発展により、様々な企業や公共機関が生成AIを活用した業務変革を進めています。これに伴い、より専門性の高い業務に合わせたユースケースや業務システムへの組み込みへの対応など、生成AI自体の機能・性能向上が求められています。
一方、今後の生成AI市場の世界需要額は2023年から2030年にかけて約20倍の成長(注3)が見込まれています。それに合わせてGPUの需要も急激に増大しており、データセンターにおける消費電力の増加が課題となっています。
これらの課題に対しNECは、cotomiの性能強化と使用時のGPUの演算効率を高める技術を開発し環境に配慮した生成AI活用環境を提供します。

今回、cotomiは性能強化を行い、日本語のLLM(Large Language Model:大規模言語モデル)ベンチマーク「Japanese MT-Bench」において、ClaudeやGPT-4、QwenなどのグローバルトップレベルのLLMに匹敵する精度を達成しました(注4)。さらに、代表的な商用LLMに比べ約2倍の速度を実現し、圧倒的な推論速度と、高精度を両立させることに成功しました。この性能強化により、NECは生成AIを用いた高度な専門業務の自動化を現実のものにします。

また、NECは生成AIの性能を最大限に引き出し、GPUの演算効率を高める技術も開発しました。生成AIは、実際に業務で使用する推論時に実行回数が多くなり、GPUへの負荷や総電力消費が増える傾向があります。さらに今後は生成AIの業務システムなどへの応用利用が広まることで、これらの課題が増大する懸念があります。
そこでNECは、推論処理あたりの消費電力を抑える技術を開発しました。本技術は、GPU内部の演算素子の利用効率を高めて並列処理を効率化することにより、GPUの演算効率を2倍に向上させ(当社比)、推論処理あたりの電力消費を抑えることを可能とします。これにより従来よりも少ないGPUで推論処理を実行でき、電力消費を抑えた活用を実現します。
なお、これらの取り組みを通じてNECは、生成AI関連事業において、2025年度末までに約500億円の売り上げを目指します。

NECはDXに関して、ビジネスモデル、テクノロジー、組織・人材の3軸で、戦略構想コンサルティングから実装に導くオファリングなど、End to Endのサービスを提供しています。さらに、従来型のSIerから「Value Driver」への進化を目指し、その価値創造モデルを「BluStellar(ブルーステラ)」として体系整理しました。業種横断の先進的な知見と研ぎ澄まされた最先端テクノロジーによりビジネスモデルを変革し、社会課題とお客様の経営課題を解決に導きます。

以上

NEC開発の生成AI 「cotomi(コトミ)」について

URL：https://jpn.nec.com/kokyo/digitalgov/solution/cotomi.html

本件に関するお客様からのお問い合わせ先

お問い合わせは以下WEBサイトの「お問い合わせタブ」もしくは「お問い合わせボタン」からご連絡ください。
URL：https://jpn.nec.com/LLM/index.html