Japan
サイト内の現在位置を表示しています。
AIエージェント時代における人間・AIの役割・責任
NECは、AIの利活用に伴う新たな課題への対応を強化するため、AIと人権に関するガバナンスの遂行責任者が、法制度や人権、プライバシー、倫理に関する専門的な知見を有する外部有識者（議員）に、NECグループにおける取り組みを諮問するデジタルトラスト諮問会議（以下、諮問会議）を開催しています。諮問会議は2019年から毎年開催しており、外部有識者（議員）との対話をとおして取り組みの高度化と改善を図っています。
2026年3月の諮問会議より、外部有識者（議員）として、株式会社コンセント 代表／武蔵野美術大学 造形構想学部 教授の長谷川敦士様、スマートガバナンス株式会社 代表取締役CEOの羽深宏樹様に新たにご参画いただきました。ガバナンス、サービスデザインおよび人間中心設計に関する知見が新たに加わったことで、より多角的な議論を進めていきます。本レポートでは、2026年3月に開催した諮問会議において、「AIエージェント時代における人間・AIの役割・責任」について諮問した内容の概要を紹介します。
諮問の背景およびテーマ
NECは、高度な専門業務の自動化による生産性向上の実現を目指し、生成AIをはじめとする様々なAIやITサービスなどを連携させ、業務を自律的に遂行するAIエージェントを、2025年1月から順次提供し、AIによる業務プロセスの変革を目指しています。
AIエージェントの普及に伴い、AIの役割は「支援ツール」から、会社の業務プロセス全体において主体的な役割を果たす存在へと進化しつつあります。加えて、AIが業務プロセス全体のなかで連続的・自律的・相互作用的に判断・提案・合意形成まで担う局面も増加してきています。
NECは、このような変化を踏まえたうえで、市場全体でのAIによる業務プロセスの変革を適切に促進していくため、これまで前提とされてきた人間とAIの役割・責任の考え方について、その妥当性や限界を含めて、改めて整理・検討する必要性を感じています。
したがって、今回の会議では、人間中心設計や、その実装・運用上の手段のひとつであるHuman-in-the-loopを例に、AIエージェント時代における人間とAIの役割・責任の考え方について、今後必要となる論点整理の方向性を諮問しました。
【関連リンク】
人間中心のAI 社会原則議員の皆様からいただいたご意見
議員の皆様からは、多様な観点から、以下のようなご意見をいただきました。
Human-in-the-loop以外の人間関与のモデル（例）
- Human-over-the-loop：アウトプットを一個一個、人間がチェックする文脈で使われることが多いHuman-in-the-loopとは異なり、全体のリスクやパフォーマンスをモニターする発想としてHuman-over-the-loopがある。
- Human Oversight：EU AI ActにおけるHuman Oversightも近時は人間がアウトプットを逐次でチェックする文脈ではなく「人間の監視が実効的に機能している状態」を意味するという説明が増えている。
人間が関与する場合の弊害および考慮すべき論点
- 例えば、自動運転において、事故の直前にシステムが人間に制御を渡しても事故を回避することはできない。その結果として、人間が責任を吸い取るだけの形骸化された存在となり得るといった、人間の尊厳に関わる問題が生じ得る。
- AIによる自動化のプロセスに人間が関与している場合であっても、必要な局面において人間が適切に対応・判断する能力が減退していくという課題がある。
人間が関与すべき領域の例や判断要素
- 人間が関与すべき領域は、ケースバイケースであるため、 AIの活用領域ごとに整理し、関与の在り方を検討していくことが重要である。正確性や安全性をパーセンテージで測る類型ではなく「プロセスが正しかったか」「結果に人間が納得するか」が重要になる領域は、人間が関与する方向になるのではないか。
- 裁判は “裁判官が長い時間かけて出した判決”というプロセスが、当事者の納得を支える場合がある。したがって、交通事故等、AIでも結論は出せるものの、AI裁判官はありがたみが無いという見方もある。他方で、少額のEコマース紛争などでは、ユーザーは自分が敗けてもいいので速い解決を好むといった研究結果もある。
人間中心設計の再定義
- 人間中心設計（human-centered design）は本来、ビジネス中心／デザイナー中心／テクノロジー中心への対抗概念として1990年代に立ち上がった相対概念である。
- 「AIエージェント時代における人間中心とは何か」については容易に答えが出るものではないが、NEC自らが問い直し、継続的に議論をしていくこと自体が重要になってくる。
NECは、今回の諮問会議を通じて得られた意見を踏まえ、AIエージェント時代における人間中心の再考に向けて、社内外ステークホルダーとの継続的な対話と検討を進めていきます。
