2023年12月15日、NECは自社の研究開発の最新情報を投資家・メディア向けに発表するイベント「NEC Innovation Day 2023」を開催しました。2021年から始まり、今年で3回目を迎える本イベントの講演では、執行役Corporate EVP 兼 CTOの西原基夫に加え、今回初めて執行役Corporate EVP 兼 CDOの吉崎敏文も登壇。「NECの次なる成長を牽引する先端技術の研究開発と新事業の創出」と題し、研究開発とビジネスをシームレスで連携させる体制が強調されました。本記事ではその講演の模様と会場で展示された大規模言語モデル（LLM）を組み込んだ5つのデモンストレーションについてレポートします。

本稿では、大規模言語モデル（LLM）を用いて電子カルテと医療文書の作成を支援することで、医師の業務を効率化する技術について紹介します。電子カルテ作成支援は、医師と患者の対話音声を認識してカルテのドラフトを生成し、医療文書作成支援は、カルテから治療の経過を要約して保険診断書、紹介状などのドラフトを生成します。効率化の効果として、カルテ作成は年間116時間/医師、医療文書作成は同63時間/医師の削減が見込まれることがモデルケースで試算されます。技術開発が先行する医療文書作成については、実証実験で作成時間が半減することが確認されました。医師の働き方改革関連法の2024年4月施行に向けて技術開発を進めるとともに、インドなど国外での応用も目指します。

大規模言語モデル（LLM）の技術発展に伴い、交通や金融、物流、製造、建設、小売り、医療などさまざまな分野でLLMの活用が高く期待されています。これらの分野では、テキストだけでなく、音声や静止画、動画など複数の異種データを取り扱っているため、テキスト以外の複数データにも対応可能なLLM活用に関する技術開発と産業応用が求められています。世の中では、静止画に対応したLLMの開発が急速に進み、豊富な情報が含まれる動画への対応も重要視されつつあります。本稿では、NECにおいて長時間の動画処理を可能にしたLLM活用に関する最新の技術開発と、それを適用した報告書作成業務の自動化などの産業応用、及び今後の取り組みについて紹介します。

NECは、安全・安心・公平・効率のためにリアル世界の行動理解が重要だと考えています。しかし、従来の映像分析技術は複雑な行動や想定外の行動を理解するのが困難です。そこで、最近の生成AIを活用することで、行動の文脈を把握し、行動の意図や未来を予測する、リアル世界の行動理解技術を提案します。本稿では、映像分析技術と生成AIを活用したリアル世界の行動理解を実現する具体的なアーキテクチャを提案するとともに、提案したアーキテクチャによりオフィスビルにおける不審行動の理解が可能であることを実証した実験の結果について紹介します。

NECでは、サイバーセキュリティリスクの早期発見に向け、インテリジェンスアナリストが日々サイバーセキュリティ情報を収集し、蓄積や分析を行っています。しかし、収集対象が政治・経済・社会・技術動向などサイバー攻撃以外にも広がっており、いかに幅広い領域を収集対象としつつも情報源を的確に絞り込み分析を行うかが課題でした。分析を高精度かつ迅速に行うために、生成AIを活用しサイバー脅威インテリジェンスの生成自動化に取り組んでいます。本稿では、NECのサイバー脅威インテリジェンスの取り組みと課題、そして、開発中のサイバー脅威情報の抽出・要約パイプラインと、サイバー脅威関連情報の探索・分析パイプラインを紹介します。

2023年5月、生成AIの社内活用を目的にNEC Generative AI Service（NGS）を立ち上げました。大規模言語モデル（LLM）にはマイクロソフトのAzure OpenAI ServiceのGPT-3.5だけでなく、GPT-4やNECのLLMを採用しています。また、仕組みを用意しただけではなく、社員が適切に生成AIを利用できるルールの作成や、利活用の施策を用意しました。更に、NECグループ内で生成AIを徹底的に活用し圧倒的な生産性向上の実現をリードするため、NEC Generative AI変革オフィスを立ち上げ、2023年12月からはMyデータサービスも提供し、NGSの価値向上を目指しています。最後にはさまざまな活用事例も紹介します。

本稿では、ソフトウェア・システムの開発で生成AIをどのように活用できるのか概説し、NECグループでの取り組みについて紹介します。生成AIは大きな可能性を秘めていますが、現時点ではいくつかの技術的な課題があるため、ソフトウェア・システム開発は、当面は人中心のプロセスという点に変わりはありません。しかし、開発案件の性質に応じて、さまざまなタスクで生成AIを使って人の作業を効率化し、品質を向上させることができます。NECグループでは、生成AIを組織的に活用することで、ソフトウェア・システム開発の生産性と品質を向上させていく予定です。

本稿では、素材開発分野への大規模言語モデル（LLM）応用の取り組みを紹介します。NECでは素材開発プラットフォームの開発を進めています。調査活動、実験計画の2つの素材開発ステップに対して、それぞれ対応するコア技術を適用することで、論文・レポートなどの文書や実験結果などのデータを整理してユーザーにAIが対話的に提示したり、機械学習のモデルに物理や化学の原理を反映させる手法により、少ないデータでも学習でき正確な物性予測をすることが可能となります。このプラットフォームにより、マテリアルズ・インフォマティクス（MI）技術と膨大な業界文献・知識のシームレスな統合を実現し、素材開発プロセスに革新をもたらすことを目指しています。

近年の豪雨災害の激甚化や近い将来における巨大地震発生への懸念を背景に、災害対策のより一層の強化が求められています。災害発生時においては、避難誘導や救助活動などの初動を迅速に行い、被害を最小化できるよう、被災状況を素早く的確に把握することが重要です。本稿では、災害発生時に集まる膨大な被災現場の画像を活用し、大規模言語モデル（Large Language Model、LLM）と画像分析により被災状況を把握する技術について紹介します。

NECは日本語性能に優れた独自の大規模言語モデル（LLM）を開発し、社内活用や事業展開を進めています。本モデルはGPU1基でも動作するコンパクトな設計にもかかわらず、多量の高品質なデータによる長時間の学習、ロバストなアーキテクチャ、綿密な指示チューニングなどの工夫によって、世界トップレベルの日本語性能を有しています。また、「事業で使える」をモットーに、20万字を超える長文の処理、高速な推論など、実用面で言語モデルに必要となる要素を見極め、重点的に強化した、その設計思想、開発プロセス、性能について概説します。

近年、生成AIはパラメータ数の大規模化と学習データ量の増大により、劇的な進化を遂げています。また、言語に加え、画像・音声も含めた生成AIのマルチモーダル化により、桁違いの計算能力が必要となっています。そのため、生成AIの基盤モデルの開発には多数GPUを用いた大規模分散学習を効率的かつ安定的に行うシステムが必要不可欠です。本稿では、生成AIの学習を支えるAIスーパーコンピュータのシステムアーキテクチャと今後の取り組みについて紹介します。

大規模言語モデル（LLM）は私たちの世界に革命をもたらしています。LLMは、人間のユーザーが知的システムと対話する方法に根本的な変化をもたらす優れたテキスト能力を備えてはいますが、LLMで作業する際に留意すべき重要な複数の限界も存在します。NECでは、こうした限界に対処するための方法を2つの方向から探りました。第一に、（1）ユースケースのリスクを評価すること、（2）LLMから説明を引き出せるようにプロンプトを与えること、（3）LLMを人間中心のシステム設計基準に収めること、を含めた、既に利用可能な選択肢を検討しました。第二に、（1）高リスク領域でのLLMの品質をより正確に評価すること、（2）生成されたLLM出力を入力と結び付けて説明すること、（3）生成されたLLM出力を外部の信頼できるソースによってファクトチェックすること、などを可能にする現在開発中の技術について報告します。

深層学習に基づくAIの発展は目覚ましく、大規模言語モデル（LLM）は人間との自然なやり取りすら可能です。しかし、このようなAIを作成するためには多くのデータが必要であり、データ確保は非常に重要な課題です。連合学習は、その課題の一部である複数組織に散らばっている機密性の高いデータの活用を助ける技術です。本稿では、基本的な連合学習方式3種類（水平、垂直、転移）を解説したうえで、近年の注目の高いLLMなどの生成AIに対する連合学習の適用可能性について述べます。

半教師ありクラスタリングは従来の教師なしクラスタリングとは異なり、ユーザーがデータに意味のある構造を与えられるようにします。これは、クラスタリングアルゴリズムをユーザーの意図（インテント）に合致させることに役立ちます。しかし、既存のアプローチでは、クラスターを改善するためにエキスパートによる大量のフィードバックを必要としていました。本稿では、大規模言語モデル（LLM）がエキスパートのガイダンスを強化し、クエリ効率の高いFew-shot半教師ありテキストクラスタリングを実現できるかどうかを検討します。最初に、LLMがクラスタリングの改善に非常に効果的であることを示します。次に、LLMをクラスタリングに組み込む際の3つの段階として、クラスタリング前（入力特徴の改善）、クラスタリング中（クラスターに制約を提供）、クラスタリング後（LLMを使用した修正）の検討を行います。LLMを最初の2つの段階に組み込むことでクラスター品質が定常的に大きく改善し、またLLMによって所望のクラスターを生成する際にユーザーがコストと精度の兼ね合いを考慮できるようになることが明らかになりました。

常識推論のためのニューラル言語モデルは問題をQAタスクとして扱うことが多く、ファインチューニング後の言語の学習表現に基づいて予測を行います。ニューラル言語モデルはファインチューニングのデータや事前に定義された回答候補を提供しなくとも、外部知識のみに基づいて常識推論の質問に回答することが可能なのでしょうか。本稿では、回答候補やファインチューニングの実例を用意することなく質問への回答を目指す、ユニークながら難しさも伴う、オープンドメイン問題の常識推論について検討します。NECLA（NEC Laboratories America）、及びNECデジタルプラットフォームビジネスユニットで構成された研究チームでは、ニューラル言語モデルを用いて、タスク特有の指示が必要ない外部知識をベースとして推論チェーンを繰り返し検索する方法を提案しました。これらの推論チェーンは、常識質問とこれに付随する知識ステートメントに対する最も正しい回答を特定できるように支援し、選んだ回答の正当性を確認できます。この技術はさまざまなビジネスドメインにおいて、その有効性が証明されています。

本稿では、事前定義あるいはカスタム定義されたタスクに対するコンピュータビジョンソリューションの開発とデプロイを自動化するビジョンLLMのフレームワークを提案します。基盤レイヤは、既存の特定タスク向けAIモデルのAPI、技術文書や利用方法とともに、新たなユーザー定義のタスクの理解に基づいたPythonコードを生成するための、強化学習によって自己学習されたコードLLM AIオーケストレータを提供します。特定ドメインでのゼロショット能力は、既存のコンピュータビジョンモデルとデータセットを利用して低い計算コストで学習された視覚言語モデルから得られます。エンジンレイヤは、複数の特定タスク向け視覚言語エンジンで構成され、組み合わせて使用できます。アプリケーション固有レイヤは、標準のファインチューニングツール以外に、LLMによる新たなデータ増強と質問分解を使用してお客様固有のシナリオの性能を改善します。また、AI視覚アシスタントや視覚的対話、法執行、モビリティ、医療画像推論、リモートセンシングを含む広範囲なアプリケーションに適用可能です。

ユーザークエリに対し、より正確な回答を大規模言語モデル（LLM）に生成させるために企業所有のデータをコンテキストとして使用すると、LLM APIの使用コストは急激に上昇します。本稿では、こうしたコストを削減するために開発したLeanContextを紹介します。このシステムは、関連する企業データのコンテキストから、クエリを考慮し、コンパクトでAIモデルと親和性の高い要約を生成します。これはクエリを考慮せずに、人間に優しい要約を生成する従来のツールとは異なります。最初に、検索拡張生成（RAG）を使用して、重要でクエリに関連した企業データを含む、クエリを考慮した企業データのコンテキストを生成します。次に、強化学習を用いてコンテキストを更に縮小します。同時に、ユーザークエリと縮小コンテキストからなるプロンプトにより、元の企業データコンテキストを使用したプロンプトと同程度に正確な応答をLLMから引き出せるようにします。この縮小コンテキストは、クエリに依存するだけでなく、サイズの変更が可能です。実験の結果から、LeanContextは、（a）LLM応答の精度を維持しながらLLM API使用コストを（RAGとの比較で）37%～68%削減でき、（b）この最先端の要約ツールでRAGコンテキストを縮小すると応答の精度を26%～38%向上できることが明らかになりました。

NECは、AI技術の開発だけでなく社会実装のため、Institute of Electrical and Electronics Engineers（IEEE）や国際標準化機構/国際電気標準会議（ISO/IEC）、欧州電気通信標準化機構（ETSI）などの標準化団体における標準仕様の整備に貢献してきました。生成AIの登場を契機に、各国がAIに関する規制の強化に舵を切りつつあるなか、AIガバナンスに関連する標準が必要とされています。欧州、米国、日本国内の政策や、G7広島AIプロセスなど多国間の枠組みの動向、それに即したガイドライン整備、標準化の動向を解説します。また、関連するNECの取り組みについても紹介します。

NECは、AIの利活用に関連した事業活動が人権を尊重したものとなるよう、「NECグループ AIと人権に関するポリシー」を策定し、AIガバナンス実践のための社内体制やルール整備、人材育成などを行っています。また、外部の多様な有識者から構成される「デジタルトラスト諮問会議」を実施することで、AIの利活用において生じる新たな課題への対応力を強化しています。本稿では、生体認証を含むAI事業における、NECのAIガバナンスの取り組みを紹介します。

近年、AIの利用が広がるにつれ、AIの適切な利用のためのAIガバナンスに注目が集まっています。そしてAIガバナンスに関する規制のなかには、人間による適切なリスクマネジメントを求めるものもあります。そのため、今後、AIサービスのリスクマネジメントを行う人材の育成は重要な課題になると考えられます。NECでは東京大学と2021年から、東京大学が開発するRCModelというツールを用いて、AIのリスクマネジメントを担う人材の育成方法について共同研究を進めてきました。本稿では、その共同研究のなかで実施した人材育成プログラムの概要やその結果・成果、そして今後の展望について紹介します。