サイト内の現在位置

根拠まで論理立てて説明できる論理思考AI

NECの最先端技術

2018年12月12日

NECが開発に成功した論理思考AIとは、いったいどのようなAIで、どのようなシーンで役立つものなのか。研究のキーパーソンに聞きました。

仮説と同時に、納得できる根拠まで提示するAI

セキュリティ研究所
研究部長 副島 賢司

― 論理思考AIは、これまでのAIと何が違うのでしょうか?

論理思考AIは、人間の「知恵」を上手く活用しようとするAIです。私たち人間の意思決定を支援できるようなAIを実用化するために開発を進めています。
たとえば、工業プラントで何らかの異常が発生して、すばやく適切な判断をしなければならないケースを考えてみてください。プラントでは、安全な運用を支援するAIが導入されていたとしましょう。しかしこのとき、従来型AIが提示できるのは「バルブAとバルブBを閉めてください」というような結論だけでした。なぜそうしなければならないのかという根拠は示されません。それに、このAIはただ数値データから学習して仮説をはじき出しているだけですから、働いている現場の人間からすると、この提案は通常では考えられない突飛なものである可能性も拭いきれません。この状態では、私たち人間がAIを信じて行動することは難しくなります。もし仮説が誤っていた場合、プラント全体に大きな損害を与えてしまうリスクもありますし、その責任を負わなければならないのは結局、私たち人間だからです。
それに対して、論理思考AIでは数値データから学習するだけでなく、プラントの運用マニュアルなどをもとにした人間の「知恵」も学習します。これによって、「バルブAとバルブBを閉めてください」という提示に対して「これはマニュアルの何ページと何ページを参照して導きました」という納得できる根拠を示せるようになります。また、運用マニュアルなどの知恵を参照するため、企業やチームのルールを大きく逸脱せず、妥当性のある仮説を提示することができるようになるわけです。
もちろん、並行して従来型の機械学習もしっかり行います。たとえば、プラントを運用するうえでは、バルブをどれだけ回すと効率が変わる等、マニュアルなどでは言語化できない熟練者のノウハウもあるでしょう。こうした部分はシミュレーションを活用した機械学習によって、精度を十分に上げていくことができます。
論理思考AIは、名探偵の推理のようなものだといえばわかりやすいかもしれません。たとえば、推理小説の最後で探偵が犯人の名前だけを言って終わってしまうのでは、誰も納得できないでしょう。なぜ犯人だと考えられるかという納得できる推理を根拠やロジックとともに提示できるのが、私たちのAIです。

図:論理推論とは

論理推論によって、機械学習の学習期間を大幅に短縮

― 論理思考AIにはどのような技術が活きているのでしょうか?

じつは、今回の技術のアイデアは1980年代に世界で盛んに研究されたエキスパート・システムという技術を起点としています。エキスパート・システムというのは、専門家の意思決定をコンピュータ上で再現しようとしたもので、人間の知恵を活用しようとした技術の先駆けでした。しかし、このシステムを大規模な問題に適用するためには、量子コンピュータが必要とされるほどの膨大な計算が求められます。そのため、大規模なプラントなどの運用には向かず、当時は普及にまで至りませんでした。
今回の技術は、このエキスパート・システムのエッセンスを活かしながら実用化レベルへ進化させようとしたものです。私たちは今回、ここに機械学習を組み合わせることで新たな価値を創り出すことに成功しました。
先ほど述べたように、言語化できない熟練者のノウハウをシステムに反映するためには、シミュレーションを活用した機械学習によって、精度を十分に上げていく必要があります。しかし、従来の機械学習ではあらゆる可能性を想定してシミュレータで膨大な試行錯誤を繰り返すため、年単位での学習期間が必要とされていました。しかし、今回の技術では運用マニュアルなどの人間の知恵を用いることで、シミュレータによる試行錯誤を最適な範囲に絞りこめるようにしています。これによって、学習期間は数日間へと大幅に削減できるようになりました。いよいよ、現実的な運用が可能になったわけです。
このように、論理思考AIは、エキスパート・システムのような人間の知恵の活用と、現在盛んに活用が進んでいる機械学習のようなデータの活用をうまく組み合わせて、大規模・複雑な課題を解こうとするシステムなのです。

図:論理思考AIによるプラント運転支援

大規模なプラントなど、人間の判断を促す現場で活用

― どのような応用先を考えていますか?

現時点では、化学プラントのような大規模なプラントですね。天候などの外乱の影響を鑑みて、品質をどれだけ安定させられるかという実証に現在取り組んでいるところです。また、今回の技術は人材育成にも役立つのではないかと考えています。熟練した人材が育つためには長い年月が必要とされますが、本技術を使えばシミュレータを通じてその期間をぐっと短縮して効率のよい操作プランを策定できるようになります。
AIというと、いまは効率化を追求する自動化の部分に注目が集まってしまいがちです。もちろんそれも重要なテーマですし、私たちも突き詰めていくべき分野です。しかし、いくらAIが広まって自動化が進んでいっても、最終的に人間が判断をしなければならないシーンは残ると思うんですよね。実世界では、必ずある程度のリスクが残ります。そのリスクは、最後には必ず人間が責任をもって背負って判断しなくてはならないはずです。こうしたシーンで、きちんと論理立てた根拠を示せてこそ、はじめて本当にAIが世の中で実用化されていくのだと考えています。

副島 賢司のインタビューの様子

関連研究所