AI（人工知能）の研究開発や利活用は、人々の生活を豊かにする反面、その使い方によってはプライバシー侵害をはじめとした人権課題を生み出すおそれがあります。このような課題に関しては、政府、学会、企業などにおいても活発な議論が行われており、立法化や指針（ガイドラインなど）の制定が急速に進められています。本稿では、NECが2019年4月に策定した「NECグループ AIと人権に関するポリシー」（以下、「AIと人権に関するポリシー」）の内容や策定の背景に加え、その実践に向けた取り組みを紹介します。

1. はじめに

AI技術の進展により、さまざまな社会課題の解決が見込まれています。例えば、ローン審査でAIを活用することにより、審査時間の大幅な短縮が可能となり^1）、また従来の審査では与信を受けられなかった個人事業主などが与信を受けられるようになると言われています。一方で、技術の進展に伴い新たな課題も生じています。最近でも、人事採用において、大手通販会社が履歴書の審査に使用していたAIシステムが、特定の職種で女性の評価を低く評価していたことが話題となりました。

本稿では、第2章においてこのようなAIの課題に触れ、第3章において関連する法規制や政府、学会などによる指針、企業における自主的な取り組みを確認し、第4章において「AIと人権に関するポリシー」とNECの取り組みを紹介します。

2. AIの課題

AIの課題として、内閣府の「人工知能と人間社会に関する懇談会」報告書（2017年）^2）では、6個の論点を挙げています。倫理、法、経済、教育、社会及び研究開発です。このなかで特に重要と考えられるのが、人権概念を含む倫理的な課題です。ここで言う倫理は、いわゆる道徳などとは異なり、「人間性の保持やプライバシーの保護、平等、安全性の確保などといった人類が長い歴史のなかで営々と築き上げてきた大事な価値観」を指すと言われています^3）。具体的な課題の例として、慶應義塾大学法科大学院の山本龍彦教授は、伝統的に存在してきた差別やバイアスを反映したデータ・セットをAIが学習することで、これらがアルゴリズムのなかに承継されてしまうこと（バイアスの承継問題）や、バイアスを含む不公正なプロファイリングによって信用スコアなどを低く見積られても、アルゴリズムのブラックボックス化によりバイアスの存在が不可視化し、その評価を覆すことが極めて困難になる問題（バーチャルスラム問題）などを挙げています^4）。前述の大手通販会社の事例は、バイアスの承継問題の一例と言えます。

このような課題を解決するためには、法令遵守にとどまらず、プライバシーや人権、倫理、社会受容性への配慮が求められます。また、AIを開発、提供する企業だけが課題解決の検討を行えばよいのではなく、AIを利用しサービスを提供する個人や団体などサプライチェーン全体を通じてAIの課題を正確に理解し、対応することが求められます（図1）。

3. AIに関する法規制、指針と企業の取り組み

3.1 法規制

近時、個人情報、プライバシー保護の観点から、急速に立法化が進められています。例えば、2018年5月に適用が開始されたEU一般データ保護規則（GDPR）では、プロファイリングに異議を述べる権利（第21条1項）や差別的決定の原則禁止（第22条1項）などが明文化されています。また、2020年1月に施行予定の米国カリフォルニア州消費者プライバシー法（CCPA）では、プロファイリングにより推測された情報も個人情報として保護の対象となることや商品・サービスの提供にかかる消費者の差別的な取り扱いを禁止しています。

3.2 政府、学会などの指針（ガイドラインなど）

また、さまざまな国の政府機関、学会、団体などがAIと倫理に関する指針を公表しています。例えば、EUのHigh-Level Expert Group on AIによる「Ethics Guidelines for Trustworthy AI」やOECDの「OECD Principles on Artificial Intelligence」、IEEEの「Ethically Aligned Design」などがあります。日本では、2019年3月に内閣府が「人間中心のAI社会原則」を、同8月には総務省が「AI利活用ガイドライン」をそれぞれ公表しました。いずれも、公平性、透明性、個人の尊厳・自律、アカウンタビリティ、プライバシー保護などに関して言及しています。

3.3 企業の取り組み

AIに関する法規制や政府、学会などの指針について、企業からは、個別事業の適法性や適正性の判断にあたりどの程度の取り組みが求められているのか分かりづらいといった指摘もなされています。

このような状況から、AI技術を有するテクノロジー企業を中心に自主的なルールを策定する動きがあります。マイクロソフト社やグーグル社など、米国巨大IT企業に始まり、日本企業にも広がっています（図2）。

4. NECの取り組み

4.1 NECグループ AIと人権に関するポリシー

NECは、AI技術群「NEC the WISE」や生体認証技術「Bio-IDiom」に代表される多くの先進的な技術を有しています。これらの技術が社会に受容されるためには、倫理や社会受容性への配慮が欠かせません。特に、顔照合をはじめとする生体認証技術は、プライバシー侵害のおそれに加え、人種差別の助長や大衆監視による表現の自由への萎縮なども含む人権侵害が問題視されています。

このような背景から、NECでは、2019年4月にAIの社会実装やパーソナルデータの利活用に関する自社の考えを明らかにし、NECグループが一丸となってこれら技術の課題に取り組むことを宣言するために「NECグループ AIと人権に関するポリシー」を策定、公表しました^5）。具体的な指針として7つの項目を掲げており（図3）、ここではそのなかで代表的なものを紹介します。

まず、「AIと人権に関するポリシー」では、いわゆる深層学習AIに関連するものに限定せず、顔照合をはじめとする生体認証技術やパーソナルデータの利活用に関連するものもその対象に含めることを明記しています。また、その名称からも明らかなように倫理のなかでも人権尊重の考えを特に重視しています。

更に、透明性の一部として説明する責任を規定しています。これは、AIの社会実装やパーソナルデータの利活用に関し、生活者に正しく理解していただくために不断の努力を重ねることを明らかにするものです。例えば、人流分析を行うために来街者をカメラで撮影するケースでは、訪日外国人が多いエリアでは告知文の一部に外国語表記を行うことや、カメラ設置場所に告知文を掲載するだけではなく来街者に配布するイベントのチラシにも掲載する取り組みも行っています（図4）。

これらに加えて、「AIと人権に関するポリシー」では、お客様やパートナーがNECの技術を適正にご利用いただくことを目指す「適正利用」を規定しています。

4.2 NECグループ内の取り組み

法律が予定していない領域（グレーゾーン）において、過度なリスク回避の考えは、新たなイノベーションを阻害するとともに事業機会をも喪失させてしまいます。NECは、「AIと人権に関するポリシー」を策定することにより人権尊重の考え方を最優先とし、利便性と安全性の調和をはかるための社内プロセス構築を目指しています。「AIと人権に関するポリシー」に基づく事業別のガイドラインなどを策定するとともに、そのレビュープロセスを整備しています。また、個別の案件の性質によっては外部有識者の意見を求めることもあります。特に、顔照合技術に関しては、行政機関における利用を禁止する米国カリフォルニア州サンフランシスコ市の条例が施行されるなど環境変化のスピードが速いため、タイムリーに状況を把握し、ガイドラインなどに反映するように努めています。

更に、企画・設計段階から人権尊重の考え方を組み込むための研究、商品開発やNECグループ社員の意識向上にも取り組んでいます。外部有識者を招いた社内セミナーを定期的に開催するとともに、生体認証関連事業に携わる社員向けの個別セミナーも実施しています。これらに加え、NECグループ会社を対象とするWeb研修も行っています。

4.3 NECによるグループ外での取り組み

NECグループでは、前述の社内の取り組みを外部に広げる活動を行っています。

例えば、産学連携の一環として、慶應義塾大学の研究機関である慶應義塾大学グローバルリサーチインスティテュート（KGRI）ととともに調査研究を行っています。この取り組みのなかで、NECが提供するユースケースにおける人権、プライバシー上のチェックポイントのリスト化を目指しています。例えば、顔照合技術の関係では、プライバシーの観点からみて一般的に撮影されることを望まないような施設の近辺ではカメラ設置を原則禁止する項目などが含まれており、前述の社内ガイドラインにも同様の項目を組み込んでいます。

また、ESG（環境・社会・ガバナンス）視点の経営優先テーマであるマテリアリティに関するマルチステークホルダー（中長期投資家、サステナビリティ経営専門家、大学教授、弁護士、NPO、消費者代表など）との対話会を定期的に開催しています。2019年4月に実施した対話会では、外部有識者から「AIと人権に関するポリシー」の実践に向けた助言を受けています（図5）。更に、2019年度からは、AIの社会実装とパーソナルデータの利活用に関する外部有識者から構成される「デジタルトラスト諮問会議」を設置し、議論を深めています。

なお、NECでは、マテリアリティの1つとして、「社会受容性に配慮したプライバシー」を特定し、その取り組み状況をサステナビリティレポート^6）に開示しています。

5. まとめ

NECは、「AIと人権に関するポリシー」を策定し、新たな技術に関する人権尊重の考えを最重要なものとして位置付けることを明文化するとともに、社外ステークホルダーとの緊密なコミュニケーションを通じた施策を推進しています。NECは、お客様やパートナー含めて人権尊重の考えを中心とする倫理的な技術の利活用を促進することにより、すべての人々が安心してデジタルの恩恵を享受できるデジタルインクルーシブな世界を実現していきます。

参考文献

執筆者プロフィール

関連URL