2024年9月18日
日本電気株式会社

NECは、LLM(Large Language Models、大規模言語モデル)の信頼性を向上するハルシネーション(注1)対策に関連する機能を10月末より順次提供開始します。
本機能は、NEC開発の生成AI「cotomi」(注2)のほか「Microsoft Azure OpenAI Service」へも適用可能であり、幅広い用途において信頼できる生成AIを実現します。
NECは本機能を提供することで、今まで正確性が求められる業務、生成AI活用が難しいと考えられていた現場での活用を促進し、さらなる業務変革を支援します。

背景

昨今の生成AIの急速な発展に伴い、様々な企業や公共機関が生成AIを活用した業務変革の検討・検証を進めており、その需要は今後も増加すると予想されています。一方でハルシネーションと言われる、生成AIが事実に基づかない情報を生成してしまう現象が知られており、医療や金融など情報の正確性が求められる業務では、その対策として生成文章を人手で検証せざるを得ず、業務効率化と正確性・信頼性を両立できる技術が求められています。

今回提供開始する機能について

NECのテキスト分析技術およびLLMに関するノウハウを元に開発された本機能は、LLMが文章生成の元にした文章と生成した文章を比較して、齟齬があった場合は矛盾箇所を提示します。単純な単語の比較だけではなく、文章の意味を比較して判断することが可能で、情報の抜け漏れ、重複、元の文章と意味が変わった箇所などを提示します。本機能をLLMによる文章の要約に用いることで、要約前後の文章を比較しハルシネーション有無の判定が容易になるため、人的な確認作業の負担が軽減され、要約精度のさらなる向上が期待できます。
また、RAGに代表される情報検索用途においても、LLMに質問し得られた文章に対して、その根拠となる元の文章を提示することも可能であり、LLMが生成した文章の正確性を効率的に確認することも可能となります。

NECは今後、LLMの信頼性を向上に向けて、人物名や地名といった固有表現の一致度合いをスコア化する機能や文章に含まれる一貫性を検証する機能なども追加しハルシネーション対策機能をさらに強化するとともに、一部の機能についてはオンプレミス環境に対しても適用範囲を広げる予定です。NECは今後も、生成AIの業務活用を推進し、お客様の業務変革に貢献していきます。

NECはDXに関して、ビジネスモデル、テクノロジー、組織・人材の3軸で、戦略構想コンサルティングから実装に導くオファリングなど、End to Endのサービスを提供しています。さらに、従来型のSIerから「Value Driver」への進化を目指し、その価値創造モデルを「BluStellar(ブルーステラ)」(注3)として体系整理しました。業種横断の先進的な知見と研ぎ澄まされた最先端テクノロジーによりビジネスモデルを変革し、社会課題とお客様の経営課題を解決に導きます。

以上

NEC Generative AI サービスについて

URL：https://jpn.nec.com/LLM/index.html

本件に関するお客様からのお問い合わせ先

お問い合わせは以下WEB サイトの「お問い合わせタブ」もしくは「お問い合わせボタン」からご連絡ください。
URL：https://jpn.nec.com/LLM/index.html