生成AIの社内活用を進めるNEC Generative AI Service(NGS)

Vol.75 No.2 2024年3月 ビジネスの常識を変える生成AI特集 ~社会実装に向けた取り組みと、それを支える生成AI技術~

2023年5月、生成AIの社内活用を目的にNEC Generative AI Service(NGS)を立ち上げました。大規模言語モデル(LLM)にはマイクロソフトのAzure OpenAI ServiceのGPT-3.5だけでなく、GPT-4やNECのLLMを採用しています。また、仕組みを用意しただけではなく、社員が適切に生成AIを利用できるルールの作成や、利活用の施策を用意しました。更に、NECグループ内で生成AIを徹底的に活用し圧倒的な生産性向上の実現をリードするため、NEC Generative AI変革オフィスを立ち上げ、2023年12月からはMyデータサービスも提供し、NGSの価値向上を目指しています。最後にはさまざまな活用事例も紹介します。

1. はじめに

OpenAI社が2022年11月に公開したChatGPTにより、それまで専門家の間でしか話題になっていなかった生成AIが急速に注目されるようになりました。

そのようななか、NECは、「NECグループにおけるChatGPTの利用について」(2023年4月)というプレスリリースで、社内業務、研究開発、ビジネスで生成AIを積極的に利用していくことを国内外に宣言しました1)

この宣言に沿って社内業務で生成AI活用ができるよう、社内IT部門としてNECグループ社員が安心して生成AIを業務利用できるような仕掛けを提供する必要がありました。本稿では、これらをどのように準備・展開し、どのように活用されているのかを述べます。

2. NEC Generative AI Service(NGS)の立ち上げ

NEC Generative AI Service(以下、NGS)の検討は、2023年4月上旬から本格的にスタートしました。まず利用方針・ポリシー策定からはじまり、それに準拠したシステム作りを行い、効果的な利用のための仕掛けを準備しました。この三本柱をもとに2023年5月8日、NGSのサービス提供が始まりました。

2.1 利用方針・ポリシー策定

経営システム統括部、働き方DX開発センターを中心に利用方針を検討し、人事総務統括部、法務統括部、リスク・コンプライアンス統括部、デジタルトラスト推進統括部、ソフトウェア&システムエンジニアリング統括部など、多くの関係部門で確認・評価をしました。比較的新しい分野にもかかわらず、リスクの本質を理解したうえで、生成AI活用には過度な制約を設けないルール作りにスピード感をもって対応しました。

策定にあたっての主な論点は、次となります。

  • 情報漏えいリスク
  • 著作権・知的財産の侵害リスク
  • 回答精度の低さ

これらを議論・検討し、作成したルールの概要は、次のとおりです。

  • (1)
    従業員は、「AI と人権に関するポリシー」「企業秘密管理規程」「情報セキュリティ基本規程」などの社内規程、及び次の基本方針を遵守し、生成AIを適切に利用すること
  • (2)
    企業秘密管理規程を遵守し、入力する情報に応じて、生成AIを適切に利用する
    • 最高機密事項、極秘事項、秘密事項(個人情報:個人情報保護法の対象)は利用不可
    • 秘密事項(個人情報を除く)、社外秘、NECグループ外秘はNGSに限り利用可
  • (3)
    アウトプットしたコンテンツの品質チェックを行い、リスクを考慮したうえで使用すること

これに同意し利用申請をした従業員だけが、NGSを利用できるようにしています。

このルールに加えて、情報漏えいや著作権侵害などのリスクを回避するため、NGSでは生成AIへの入出力のすべてにおいて、いつでも監査可能な形でロギングすることとしています。これによって、万が一生成AIの利用を起因として従業員が訴訟トラブルに巻き込まれた際に、どのような使い方をしたのかをトレースすることができ、スムーズな対応が可能です。

2.2 システム作り

NGSは、一般にはコンポーザブル・アーキテクチャと呼ばれる複数の疎なコンポーネントの組み合わせで実現しています。各サービスや基盤は、社内DX開発センター(NDX)で習熟しているものであり、結果としてスピード感ある開発を実現できました。具体的には、チャット画面のフロントエンドはMendix、APIはMuleSoft、ロギングはSnowflake、申請システムはServiceNowを使用しています。

一番重要な生成AIの心臓である大規模言語モデル(Large Language Model、以下、LLM)は、サービス開始時点では、マイクロソフト社がOpenAI社と提携して提供するAzure OpenAI Serviceを採用しました。すでにOpenAI社の技術がデファクトスタンダードである点、入力した情報をモデルのトレーニングやファインチューニングに使わない点が選定理由です。サービス開始時点では、GPT-3.5-Turboのみの提供でした。

構築した環境では、相応のセキュリティ要件を満たしているかの確認をしました。各基盤の導入時に基本的なチェックを行っているうえで、ネットワークやアクセス制御などを含めてサイバーセキュリティ戦略統括部とともにチェックをし、インフラ起因での情報漏えいのリスクがないことを十分確認してサービス提供をしています。

2.3 利活用のための仕掛け

生成AIというなじみの薄いサービスであるため、利活用の促進や可視化にも力を入れました。サービスリリース後に用意した主な利活用施策は次の通りです。

  • 利活用状況ダッシュボード
  • Voice of Employee (VoE)
  • AX Acceleration Hub / NEC Prompt Pad

利活用状況ダッシュボードは、当初はサービス登録者数やチャット利用回数程度ではありましたが、その後モデル別の集計や組織別の集計もできるようになり、活用状況の可視化は継続的に進めています。

VoEは、2022年あたりからMicrosoft 365、Zoom、Box、NEC独自のアドオン機能をまとめて提供するサービスであるDigital Workplace(DWP)をはじめとして、社内ITで取り組んでいる施策の1つで、従業員の声を聴いてサービスを改善していく取り組みです。これをNGSにも適用し、利用者が必要としている機能改善を実施できるようにしました。「いいね」が多い要望を優先的に改善することで、比較的短い期間で使い勝手の向上が可能となりました。

生成AIの活用事例の集約にも力を入れています。まず、生成AIのプロンプトテンプレート共有サイトであるNEC Prompt Padを2023年8月に立ち上げ、プロンプト情報の集約を図り一定の成果を得られました。その後、広い活用事例やアイデアを扱うことを視野に、2023年11月にAX Acceleration Hubとしてリニューアル。毎月MVPを競うAwardも企画し、活用事例の蓄積を加速しています。

これら以外にも、各種社内メールマガジンやポータルでの紹介、動画による使い方マニュアル、社内の生成AIコンテストなどを通じて、一人でも多くの活用を進めたいと考えています。

2.4 NEC Generative AI変革オフィス

NECグループ内での生成AIを徹底的に活用し、圧倒的な生産性向上の実現をリードするため、2023年5月、CIO/CISO直下にバーチャル組織として「NEC Generative AI変革オフィス」を立ち上げました。役割・ミッションは次のとおりです。

  • 活用効果の創出
    • -
      変革オフィスを中心に統合管理・活用を推進
    • -
      業務領域・部門にかかわらず圧倒的な生産性向上
  • NGSの高度化
    • -
      複数ベンダーソリューションに対応
    • -
      社内のあらゆるシステムと連携
  • 社内知見をお客様に還元
    • -
      クライアントゼロとしてアジャイル・クイックに実践
    • -
      知見をもとに、お客様の事業変革・生産性向上を支援

3. サービス内容の拡充

3.1 GPT-4の提供

サービス開始当初はGPT-3.5-Turboのみでしたが、世の中ではGPT-4の圧倒的な能力に驚愕し始めている時期でした。

NECでは先行してマイクロソフト社に利用申請を出していたため、他社よりも比較的早いタイミングでGPT-4環境を入手でき、2023年5月末にはNGSで提供を開始しました。

特にGPT-4-32kは扱えるトークン数も多く、精度も高いため、多くの利用者が日常的に活用し、その恩恵を受けています。

3.2 NECのLLMの提供

2023年7月6日、NECは世界トップクラスの日本語性能を有する軽量なLLMの開発を発表しました。従業員にもゼロ番目の顧客「クライアントゼロ」として使ってもらおうと、発表に合わせてNGSでもNECの独自LLMモデルを利用できるようにしました。

3.3 Myデータサービス

NGSスタート後、多く寄せられた声の1つが、社内にあるコンテンツやナレッジをもとにした推論です。

生成AIにはいくつかの方法がありますが、NECは、検索拡張生成(RAG、Retrieval Augmented Generation)という手法を用いて実現することとしました。実装面ではLlamaIndexを採用しました。本稿では技術的な面は深くは触れませんが、あらかじめ手元にあるOffice文書やPDFを登録しておくことで、そのナレッジを生かすことができるようにしています。

2023年12月現在、まだ精度が高くない状況ですが、そうであっても積極的に試したい、という従業員の声を受けて提供を開始しました。LlamaIndex以外の仕組みへの置き換えも含めて、2023年度第4四半期は精度向上を目指しています。

4. NECグループ内での活用事例紹介

次の事例のように、さまざまな取り組みが始まっています。

  • (1)
    共通業務支援
    • プロジェクト進捗報告の作成支援
    • 業務目標設定サポートツール
    • エンゲージメント施策案レポートの自動生成
    • NGSを活用したキャリアワークショップ
    • メンタリングシステム(研究施策)
    • AIを使った業績予想応答システム
    • Microsoft Teams用ボット (NEC Digital Assistant)
    • MIP-NEXTでのチャット支援
    • メール自動生成 Outlook用 Add-in
  • (2)
    開発
    • マクロの内容理解の簡易化
    • 生成AIによるMuleSoft APIの自動生成
    • 作成したAPIソースコードを全社で活用
    • 仕様書の自動作成
    • モダナイプロジェクト生成AI適用(SAP協業)
  • (3)
    セキュリティ
    • AI Red/Blueチームでの活用
    • Outlook用 不審メールチェック Add-in
    • セキュリティニュース記事配信
  • (4)
    運用
    • 運用レピュテーションリスク分析と対策

このなかから、いくつかの事例を紹介します。

4.1 業務目標設定サポートツール

AIが “SMART” な業務目標の設定を支援し、目標の設定・合意をサポートします(図1)。

図1 業務目標設定サポートツール

4.2 Outlook用 不審メールチェック Add-in

不審メールチェックのOutlook用Add-inを開発中です(図2)。NGSのAPIサービスを利用し、該当メールが不審メールでないかをチェックします。

図2 Outlook用 不審メールチェック Add-in

これによって、従来のパターンマッチでの検出では難しかったケースへの対応が期待できます。

4.3 運用レピュテーションリスク分析と対策

NECに関連しそうなニュース記事から、レピュテーションリスク分析や対策案作成を自動化します(図3)。従来では人手で関連記事の内容を確認していましたが、生成AIによる自動化で工数を80%削減できています。

図3 運用レピュテーションリスク分析と対策

  • *
    Mendixは、Mendix Technology B.V.の米国およびその他の国における商標または登録商標です。
  • *
    MuleSoftは、Salesforce,Inc.の米国およびその他の国における商標または登録商標です。
  • *
    Snowflakeは、Snowflake Inc.の米国およびその他の国における商標または登録商標です。
  • *
    ServiceNowは、ServiceNow, Inc.の米国およびその他の国における商標または登録商標です。
  • *
    マイクロソフト、Azure、Microsoft 365、Office、Microsoft Teams、Outlookは、Microsoft Corporation の米国およびその他の国における登録商標または商標です。
  • *
    ChatGPTは、米国OpenAI社の商標です。
  • *
    Zoomは、Zoom Video Communications, Inc.の米国およびその他の国における登録商標または商標です。
  • *
    Boxは、Box, Inc.の商標または登録商標です。
  • *
    その他記述された社名、製品名などは、該当する各社の商標または登録商標です。

参考文献

執筆者プロフィール

川戸 勝史
コーポレート・デジタルIT部門・働き方DX開発センター
ディレクター

関連URL