2023年5月、生成AIの社内活用を目的にNEC Generative AI Service（NGS）を立ち上げました。大規模言語モデル（LLM）にはマイクロソフトのAzure OpenAI ServiceのGPT-3.5だけでなく、GPT-4やNECのLLMを採用しています。また、仕組みを用意しただけではなく、社員が適切に生成AIを利用できるルールの作成や、利活用の施策を用意しました。更に、NECグループ内で生成AIを徹底的に活用し圧倒的な生産性向上の実現をリードするため、NEC Generative AI変革オフィスを立ち上げ、2023年12月からはMyデータサービスも提供し、NGSの価値向上を目指しています。最後にはさまざまな活用事例も紹介します。

1. はじめに

OpenAI社が2022年11月に公開したChatGPTにより、それまで専門家の間でしか話題になっていなかった生成AIが急速に注目されるようになりました。

そのようななか、NECは、「NECグループにおけるChatGPTの利用について」（2023年4月）というプレスリリースで、社内業務、研究開発、ビジネスで生成AIを積極的に利用していくことを国内外に宣言しました^1）。

この宣言に沿って社内業務で生成AI活用ができるよう、社内IT部門としてNECグループ社員が安心して生成AIを業務利用できるような仕掛けを提供する必要がありました。本稿では、これらをどのように準備・展開し、どのように活用されているのかを述べます。

2. NEC Generative AI Service（NGS）の立ち上げ

NEC Generative AI Service（以下、NGS）の検討は、2023年4月上旬から本格的にスタートしました。まず利用方針・ポリシー策定からはじまり、それに準拠したシステム作りを行い、効果的な利用のための仕掛けを準備しました。この三本柱をもとに2023年5月8日、NGSのサービス提供が始まりました。

2.1 利用方針・ポリシー策定

経営システム統括部、働き方DX開発センターを中心に利用方針を検討し、人事総務統括部、法務統括部、リスク・コンプライアンス統括部、デジタルトラスト推進統括部、ソフトウェア＆システムエンジニアリング統括部など、多くの関係部門で確認・評価をしました。比較的新しい分野にもかかわらず、リスクの本質を理解したうえで、生成AI活用には過度な制約を設けないルール作りにスピード感をもって対応しました。

策定にあたっての主な論点は、次となります。

これらを議論・検討し、作成したルールの概要は、次のとおりです。

これに同意し利用申請をした従業員だけが、NGSを利用できるようにしています。

このルールに加えて、情報漏えいや著作権侵害などのリスクを回避するため、NGSでは生成AIへの入出力のすべてにおいて、いつでも監査可能な形でロギングすることとしています。これによって、万が一生成AIの利用を起因として従業員が訴訟トラブルに巻き込まれた際に、どのような使い方をしたのかをトレースすることができ、スムーズな対応が可能です。

2.2 システム作り

NGSは、一般にはコンポーザブル・アーキテクチャと呼ばれる複数の疎なコンポーネントの組み合わせで実現しています。各サービスや基盤は、社内DX開発センター（NDX）で習熟しているものであり、結果としてスピード感ある開発を実現できました。具体的には、チャット画面のフロントエンドはMendix、APIはMuleSoft、ロギングはSnowflake、申請システムはServiceNowを使用しています。

一番重要な生成AIの心臓である大規模言語モデル（Large Language Model、以下、LLM）は、サービス開始時点では、マイクロソフト社がOpenAI社と提携して提供するAzure OpenAI Serviceを採用しました。すでにOpenAI社の技術がデファクトスタンダードである点、入力した情報をモデルのトレーニングやファインチューニングに使わない点が選定理由です。サービス開始時点では、GPT-3.5-Turboのみの提供でした。

構築した環境では、相応のセキュリティ要件を満たしているかの確認をしました。各基盤の導入時に基本的なチェックを行っているうえで、ネットワークやアクセス制御などを含めてサイバーセキュリティ戦略統括部とともにチェックをし、インフラ起因での情報漏えいのリスクがないことを十分確認してサービス提供をしています。

2.3 利活用のための仕掛け

生成AIというなじみの薄いサービスであるため、利活用の促進や可視化にも力を入れました。サービスリリース後に用意した主な利活用施策は次の通りです。

利活用状況ダッシュボードは、当初はサービス登録者数やチャット利用回数程度ではありましたが、その後モデル別の集計や組織別の集計もできるようになり、活用状況の可視化は継続的に進めています。

VoEは、2022年あたりからMicrosoft 365、Zoom、Box、NEC独自のアドオン機能をまとめて提供するサービスであるDigital Workplace（DWP）をはじめとして、社内ITで取り組んでいる施策の1つで、従業員の声を聴いてサービスを改善していく取り組みです。これをNGSにも適用し、利用者が必要としている機能改善を実施できるようにしました。「いいね」が多い要望を優先的に改善することで、比較的短い期間で使い勝手の向上が可能となりました。

生成AIの活用事例の集約にも力を入れています。まず、生成AIのプロンプトテンプレート共有サイトであるNEC Prompt Padを2023年8月に立ち上げ、プロンプト情報の集約を図り一定の成果を得られました。その後、広い活用事例やアイデアを扱うことを視野に、2023年11月にAX Acceleration Hubとしてリニューアル。毎月MVPを競うAwardも企画し、活用事例の蓄積を加速しています。

これら以外にも、各種社内メールマガジンやポータルでの紹介、動画による使い方マニュアル、社内の生成AIコンテストなどを通じて、一人でも多くの活用を進めたいと考えています。

2.4 NEC Generative AI変革オフィス

NECグループ内での生成AIを徹底的に活用し、圧倒的な生産性向上の実現をリードするため、2023年5月、CIO/CISO直下にバーチャル組織として「NEC Generative AI変革オフィス」を立ち上げました。役割・ミッションは次のとおりです。

3. サービス内容の拡充

3.1 GPT-4の提供

サービス開始当初はGPT-3.5-Turboのみでしたが、世の中ではGPT-4の圧倒的な能力に驚愕し始めている時期でした。

NECでは先行してマイクロソフト社に利用申請を出していたため、他社よりも比較的早いタイミングでGPT-4環境を入手でき、2023年5月末にはNGSで提供を開始しました。

特にGPT-4-32kは扱えるトークン数も多く、精度も高いため、多くの利用者が日常的に活用し、その恩恵を受けています。

3.2 NECのLLMの提供

2023年7月6日、NECは世界トップクラスの日本語性能を有する軽量なLLMの開発を発表しました。従業員にもゼロ番目の顧客「クライアントゼロ」として使ってもらおうと、発表に合わせてNGSでもNECの独自LLMモデルを利用できるようにしました。

3.3 Myデータサービス

NGSスタート後、多く寄せられた声の1つが、社内にあるコンテンツやナレッジをもとにした推論です。

生成AIにはいくつかの方法がありますが、NECは、検索拡張生成（RAG、Retrieval Augmented Generation）という手法を用いて実現することとしました。実装面ではLlamaIndexを採用しました。本稿では技術的な面は深くは触れませんが、あらかじめ手元にあるOffice文書やPDFを登録しておくことで、そのナレッジを生かすことができるようにしています。

2023年12月現在、まだ精度が高くない状況ですが、そうであっても積極的に試したい、という従業員の声を受けて提供を開始しました。LlamaIndex以外の仕組みへの置き換えも含めて、2023年度第4四半期は精度向上を目指しています。

4. NECグループ内での活用事例紹介

次の事例のように、さまざまな取り組みが始まっています。

このなかから、いくつかの事例を紹介します。

4.1 業務目標設定サポートツール

AIが “SMART” な業務目標の設定を支援し、目標の設定・合意をサポートします（図1）。

4.2 Outlook用 不審メールチェック Add-in

不審メールチェックのOutlook用Add-inを開発中です（図2）。NGSのAPIサービスを利用し、該当メールが不審メールでないかをチェックします。

これによって、従来のパターンマッチでの検出では難しかったケースへの対応が期待できます。

4.3 運用レピュテーションリスク分析と対策

NECに関連しそうなニュース記事から、レピュテーションリスク分析や対策案作成を自動化します（図3）。従来では人手で関連記事の内容を確認していましたが、生成AIによる自動化で工数を80％削減できています。

参考文献

執筆者プロフィール

関連URL