【報告書】「AI活用勉強会」 第3回　‘説明可能なAI（XAI）の最前線を知る’　（2020年07月19日）

点線

開催日：

2020年07月19日

開催場所：

オンライン形式

イベントリポート

メンター部会　庭野　真理子

2019年7月からスタートした「AI活用勉強会」第3回のテーマは、「説明可能なAI（XAI, Explainable AI）」です。

従来、AI研究は分類・予測の精度向上がメインテーマでした。しかし、昨今、人間がAIを使っていかに意思決定をするかがAIの社会実装の大きなポイントになっています。そこで、今回は、「説明可能なAI（XAI, Explainable AI）」の研究に着目し、AIが予測した結果についてその理由を人間がよりわかりやすく理解するには、AIにどのような説明の仕組みを持たせればよいか、この最新の動向について学ぶこととしました。

前半の話題は、代表的なアプローチである大局的説明および局所的説明の2つについてでした。そして今回は、学習モデルが複雑なディープラーニングにおいても説明性が期待されている局所的説明をメインにお話いただきました。予測結果の主要因を定量的に可視化する仕組み、より人間を意識して言語的説明や改善アクションを提示する方法に関し、概論から今後の課題までわかりやすく教えていただきました。

後半は、さらに一歩踏み込み、「説明できる　＝　理解できる」ではない、という問題提起から始まりました。人間がAIの下した判断根拠を直観的に理解するには、理屈に沿った言語的説明（左脳）だけでなく、直観的に理解できる視覚的説明（右脳）の両方が必要とのことでした。実際に、東芝で実現するAIサービスであるSATLYS（‘サトリス’、Solutions by AI Technologies for anaLYSisの略）を用いた病理画像解析の説明例も提示いただきました。

そして最後にAIの利活用には、「AIは間違える」と考えるのではなく、「確率論的にリスクを示すツール」と捉えることが重要という議論がありました。今後AIがどんなに発展しても、人間がこのリスクをどう判断し意思決定をするか、我々は常に向き合っていくことになりそうです。

今回ご登壇いただいた湯浅様は、大学時代に素粒子の研究、入社後は画像認識そして現在社内外でAIの応用推進活動に従事されているという、幅広い研究キャリアをお持ちです。ご講演準備だけでなく、参加者の多分野からの質問にも最後まで分かりやすく答えていただき、大変感謝しています。

昨今、AIに関するセミナーはたくさんありますが、この勉強会は、みなさんの日頃の問題意識を出発点に学びを深めていけるように企画しています。こんなことを知りたい、こんな話題を提供できるという方、是非一緒に企画しましょう！（すでにお声がけいただいた方、ありがとうございます！）

参加者のみなさんからの声

• 法人会員　柴田博司さん

ディープラーニングでも説明可能な分野である局所的説明について事例を交えて紹介があった。説明可能＝理解可能ではなく、理屈で分かるにはまだ人間の手がかかる問題があることが分かった。質問や議論の時間が半分程度取られており質問の回答や議論の時間が取られていたのは良かった。東京都立大学の学生も2名参加しており素直な疑問や質問が出ていた。

• アンケート

・AIについて初心者の自分でも理解を深めることができたと感じた
・AI基礎知識がなかったので、講演は難しかったが、最新動向が聞けておもしろかった
・専門分野ではあるので、割とフォローしている情報も多かったです。
・現場で使っている方、使おうとしている方の声が聴きたいと思っていたので、期待通りでした。
・説明可能なAIの分類といった学びがあったため内容の紹介だけでなく、議論の時間がしっかり取れていたのが良かったと思います。最初にブレイクアウトするのは斬新で良いと思います。
・製品としての先端技術についてうかがうことができた。
・発表の構成がわかりやすく途中で脱落することなく基礎から理解を進めることができた。
・教育の現場にいると、技術以外の点が分からないので、今日の契約（瑕疵担保責任）の話はとても面白かったです。

• 今後取り上げてほしいテーマ（⇒是非次回以降のテーマ候補にしましょう！）

・マテリアルインフォマティックス
・AIとビッグデータ、AIとクラウドorエッジコンピューティング、AIと自然言語処理
・省エネ、生産量とエネルギーの最適解の検討
・今までのシステム開発とAIの開発で客対応が大きく変わった点
・AIの瑕疵担保責任について
・GANの応用例について
・AIのプログラム構築についての講義
・AIの品質保証

イベントの元記事

http://www.jwef.jp/activity/setevt_20200624213543090161358056.html

参加人数報告

個人会員：

9名

法人会員：

7名

学生会員：

4名

会員外：

2名