2022年1月31日

AIが抱えるリスクに立ち向かう

セキュアシステム研究所
シニアリサーチャー
柿崎 和也（かきざき かずや）

プロフィール

学生時代の専攻分野はプライバシー保護を考慮した機械学習やデータマイニング。修士号を取得後、2017年4月にNECへ入社。研究論文は、機械学習系の難関会議の一つであるInternational Conference on Machine Learning（ICML）に採択されている。現在、筑波大学に国内留学中。

AIセキュリティのニーズに着目

大学の修士課程でインターンシップを経験したことが、NEC入社のきっかけとなりました。優秀な研究者が多く、議論がすごく楽しかったのを覚えています。研究所の雰囲気が和やかで、研究がしやすそうな環境だと実感しました。

学生時代の専攻はAI、機械学習です。プライバシーを保護しながら機械学習を行う研究をしていました。近年は、アカデミアでもAIに対する数多くの攻撃が提案されています。堅固なセキュリティはAIの社会実装にとって必須です。

現在、私はNECセキュアシステム研究所で「Adversarial Example」に対するリスクの評価とその対策方法に関する研究をしています。「Adversarial Example」とは、AIに対する入力を悪用目的で修正して、AIを誤動作させる攻撃です。たとえば、自動運転の領域においては、交通標識に人目では不自然とは感じない程度の汚れをつけるような攻撃が考えられています。これにより、本来は停止と判断するはずのものであっても、画像認識AIは時速30Kmで進めと理解してしまうのです。私たちは、このようなAI自体を攻撃する、またはAIに意図しない動作をさせる脆弱性の影響を評価するとともに、誤った判断を防ぐ対策の確立を目指しています。

AI技術は、われわれの生活を便利にしてくれると確信しています。まずはNEC内のシステムを皮切りに、いずれは他社のシステムを守る活動へと広げ、便利で安全安心な社会を実現していきたいです。

AIセキュリティチームは、私が本分野の重要性が高まると考え、2018年に仲間と立ち上げた組織です。2019年からはメンバーの一人として、チーム内の技術的な部分を先導する役割を担っています。活動のゴールはもちろん社会実装なのですが、論文執筆・学会参加などのアカデミックな活動も研究所が推奨してくれるので、活発に行っています。これは、研究者にとってありがたいことです。新しい技術をつくったとき、社内だけに閉じ込めておかず、社会に発信していけるのは、NECの大きな魅力です。

研究に対する裁量の広さ

NECで働く仲間には、自分が本当に必要だと思う技術を自発的に突き詰める研究者が多いと感じています。また、NECにはそれを実現するための環境が整っています。

具体的には、セキュアシステム研究所には、働く時間の20%以内であれば自分の好きな研究ができる「20%ルール（注）」という制度や、自分のやりたい研究を提案することで研究予算が分配される「ゼロ次提案」という制度があり、研究者の意思をよく尊重してくれます。これらの制度を活用することで、論文の難関国際会議への採択や、事業化を達成した人もいます。私たちのチームもこれらの制度を活用することで、「Adversarial Example」だけに限らず、アカデミアで提案された新しい攻撃の評価とその対策方法の検討を進めています。
「すぐに必要なものではないから」などと研究したいテーマが却下されることなく、研究者の意思を尊重し、好きなテーマに取り組む時間と予算を一定数与えてくれる裁量の広さには、本当に感謝しています。

（注） 研究所によって15％～20％と割合が異なる

自分の専門性を極める

私は普段から自分の専門性を高め、研究者としてのプレゼンスを高めることを意識して研究しています。現在、AI・機械学習の領域はますます世界で注目を集めており、その研究者、投稿論文数は年々増加し続けています。

このような状況下で研究者として生き残っていくためには、まずは何か一つでも自分の専門分野を確立し、成果をアピールしていくことが大切なのではないでしょうか。それができれば、社内外から共同研究に誘ってもらえるなど、活躍の機会はより一層増えていくはずです。

そういう意味では、NECの研究環境は良い選択肢となると思います。前述の通り、研究に対する裁量が広いですし、事業化だけでなく論文投稿などの社外発表も推奨されています。やはり、研究者として成し遂げたいことをきちんと尊重してくれる点がNECの大きな魅力です。私も今後より一層AI×セキュリティの領域で専門性・プレゼンスを高めていけるように努力していきたいと考えています。

私の一日ご紹介

学生時代の自分へ