サイト内の現在位置

高秘匿連合学習 プライバシー・機密情報保護とAI活用を両立

2021年9月28日

AIの価値を発揮するためには量が多く、
種類も偏っていない学習データが必要 

AIの精度向上には、学習データの量が多く、偏りがないことが必要です。
自組織だけではその量や偏りに問題がある場合、他組織のデータも活用することがAIの精度向上に資することになりますが、各組織の学習データを一か所に集める必要が出てきます。しかし、対象の学習データが企業秘密や個人情報に該当する場合、セキュリティの観点から実現が困難です。

自組織の学習データを外に出さず
高精度なAIモデルを生成する連合学習

その解決策として、「連合学習」が注目されています。連合学習とは、各組織が有するデータそのものではなく、各組織で生成されたAIモデルを集約し、統合するものです。具体的なプロセスは以下のようになります。

  • 自組織(組織A)内の学習データで学習し、ローカルAIモデルを生成
  • ローカルAIモデルだけをモデル統合者に提供(自組織の学習データは外に一切出ません)​
  • モデル統合者で他組織(組織B・C)のローカルAIモデルと統合し、グローバルAIモデルを生成​
  • モデル統合者からグローバルAIモデルを各組織に配布して、新たな自組織のローカルAIモデルとして活用​
  • ①~④を必要に応じて、定期的にAIモデルをアップデート

連合学習における無視できないセキュリティ上の課題とNECの対応

連合学習では、各組織とモデル統合者の間のやり取りの中で、学習データそのものが組織外に出ることはありません。しかし、各組織とモデル統合者それぞれで、AIモデルのパラメータを分析することにより各組織の学習データを推測する攻撃が存在しています。この攻撃に対し、学習データにノイズを加える差分プライバシーという対策手法が既にありますが、データの推測を防ぐことができる反面、AIの精度劣化を引き起こします。

NECでは、モデル統合者における攻撃に対しては、秘密計算によりAIモデルのパラメータを秘匿化することで、学習データの推測を防ぎ、AIの精度劣化も回避しています。また、各組織における攻撃に対しては、AIの精度劣化を抑える対策手法を研究しています。これを通じ、学習データの推測を防ぎつつ、AIの精度をほとんど落とさない高秘匿連合学習の確立を目指しています。

ユースケース

連合学習の適用形態は以下の2種類があることを想定しています。

  • ご紹介のユースケースは想定のため、実現性や効果を保証するものではありません。

① 業界共通課題の解決

複数組織が連携して共同事業体を組成し、業界共通の課題を解決するものです。共同事業体がモデル統合者を担い、グローバルAIモデルを共同事業体の参加組織に配布します。

ユースケース例

【金融業】AML判断ソリューション
銀行等におけるAMLの正確な判断が一行のみでは難しい場合、複数の銀行が共同事業体を組成し、各行の顧客・取引データを集約せず学習することで、各行がより正確なAML判断AIを利用できます。

② AIサービス高度化

AIサービス提供者がサービスの利用組織に対して、一つの利用組織から生成されるAIに比べて、より高度なAIを提供するものです。AIサービス提供者がモデル統合者を担い、グローバルAIモデルを利用組織に配布します。

ユースケース例

【製造業】製造装置・ロボットの故障リスク診断ソリューション
製造装置・ロボットメーカーが自社製品の故障リスクの診断を高い精度で行うことが難しい場合、複数の顧客の稼働状況データを集約せず学習することで、より効果的な故障リスク診断AIを提供できます。

皆様との今後の取り組み

NECは、高秘匿連合学習が社会に受け入れられることを通じて、様々な企業の活動の幅が広がり、社会がより豊かになっていくと考えています。
ご関心がありましたら、ぜひお気軽にお問い合わせいただけますと幸いです。

資料ダウンロード

技術情報やユースケースのより詳しい情報はこちら

  • 連合学習によって実現できること
  • 連合学習の仕組み
  • 連合学習の課題とNECの高秘匿連合学習
  • 高秘匿連合学習に関する技術動向
  • ユースケース(金融業、製造業)

資料ダウンロード

お問い合わせ