ホワイトボックス型AIとは何ぞや “What Explainable AI really is”

ホワイトボックス型AIとは何ぞや “What Explainable AI Really Is”

この記事は、前回書いた『ディープラーニングはもう要らない? 〜ブラックボックス化されたものはビジネス世界で導入できない理由〜』の続きです。

2018年9月号の日経エレクトロニクスに「もうブラックボックスじゃない、根拠を示してAIの用途拡大」というタイトルで記事が出ていたので、ちょっと自分の思うところについて今回は書いてみます。

あ、ちなみに上の写真は、自分が新卒で就職した会社が当時作っていた通称ブラックボックスことGScubeです。プレステとほぼ同じ部品を使ってるんですが、たぶんゲーム好きの人でも知らんほどのレアなハードウェアです。このGScube、プレステのゲームは一切起動できません。何に使うかは、ご想像にお任せします。

 

さて、日経エレの記事では、米国DARPAのExplainable AI(XAI)プログラム、GDPRによるAIの透明性に対する要求、富士通・NEC・米simMachinesのホワイトボックス型AIの取り組みなどが紹介されてます。

これはこれでええんですが、この手の記事にありがちな「じゃあ、どうやって技術的に説明可能なAIを作るのか」という話にだいぶ偏っている気がして、もうちょっと現場寄りというか、ユーザー目線の内容もあってええんじゃないかと、いつもこういう記事を読むと思ってしまいます。

もっと言うと、今のAI関連の学会や勉強会は、ほとんどが技術的な話ばかりで、本当にAIを使いたいと考えている人が不在の状態で、情報系の内輪の人だけで議論している感じが何となくしてます。お医者さんが誰も参加していないのに、MRI/CT画像解析や疾患予測の話をしているAI研究者の発表会ほど寒いものはないです。

 

最近、ハカルスのアドバイザーに就任頂いた滋賀大学データサイエンス学部教授の河本薫先生は、大阪ガスのビジネスアナリシスセンター所長を務められ、日経情報ストラテジーが選ぶ初代データサイエンス・オブ・ザ・イヤーを受賞されてます。

河本さんの著書『会社を変える分析の力』『最強のデータ分析組織』を読まれた人は分かると思いますが、河本さんの書籍には技術の話がほとんど出てきません。逆に、いかにデータ分析をビジネスで使うか、どうすれば現場で使われるものとして定着させられるかといった、ユーザ側の視点や「人」に関する内容にフォーカスされてます。

この河本さんの「現場に受け入れられないAIなんて、意味ないねん。使ってもらえるんやったら、AIでなくてもええねん。」という考えに心底惚れ込んで、ハカルスのアドバイザー就任をお願いした、というのが本音です。

 

以下は、ハカルスがお客さんに開示している、スパースモデリングの仕組みの説明資料です。おいおい端折りすぎやろという突っ込みが聞こえてきそうですが、ハカルスのAI技術がディープラーニングを含めた他の技術とどう違うのかを説明するために、こういう資料は一応用意してます。

ただし、こういう技術的な資料を見て納得するお客さんは、ぶっちゃけハカルスのお客さんではないのかなぁ、と思ってます。技術的な資料を見て納得する方は、言い方はアレですが、要するに技術だけに興味があるわけで、ハカルスとしては別に技術を売り込んでるワケではないんですね。

POCなり、パイロットを経て、本番導入後に腹落ちできるものが得られるのであれば、中身は何でもええと思うんですね。そして、この「腹落ちできるもの」を実現するために、たまたま今はスパースモデリング技術を機械学習に応用して、AIを作っているだけです。お客さんが腹落ちするのではあれば、極端な話、線形モデルでも良いと思ってます。無理にAIや複雑な手法を使う必要はないです。

 

この腹落ちについて、具体的な例を1つ示すと、NHKのドクターGがベストです。ベテラン医師と研修医が一緒になって、徐々に明らかになる患者さんの症状や問診結果をベースに、可能性の高い疾患をみんなで推理しながら絞り込んでいく、という番組です。

あの番組を見ると、専門知識が無い一般の視聴者でも、最後はなんとなく「分かった」気になります。実際、研修医も最後は腹落ちした表情で、番組はチャンチャンと終わります。番組をAIと紐づけるのは多少乱暴やけど、患者さんに関する追加情報が得られる各段階で「なぜ、そういう疾患だと思ったのか」という理由を明確にしている点が、まさにホワイトボックス型AIに通じるところやと思います。

「腹落ち」って、ええ言葉やと思います。社名を変えて「株式会社腹落ちAI」にしてもいいんじゃないかと、最近真剣に思い始めてます。ここまで期待して読んで頂いた方、すいません。ということで、今回はホワイトボックス型AIは腹落ちするAIである、ということで片付けさせて頂きます。日本語って便利ですね。

ニュースレター購読Newsletter

登録はこちら