人工知能は日本企業の好機となるか ～ディープラーニングが変える社会～［3］
木村：AIも基点はデータという話で良いのだろうか。たとえば「AIが進化すれば、こういうデータが宝の山になって新しいチャンスになる」といった予測があれば。
森：「欲しいデータが実際に取れなくて大丈夫」というのが、ディープラーニングに限らず機械学習の便利なところだ。たとえば駐車場がどんな風に混むのかといったことは、その駐車場にセンサをつけなくても、駐車場と契約している方々のケータイ情報があれば簡単に取れてしまう。その意味では、「どのデータで代替できるか」といった可能性を発見することが今後は勝負になると思う。もちろんセンサを設置すればデータを取ることはできるけれども、それをせずとも、今までのデータとAIで近似データができるというような。実はデータ勝負だけれどもデータ勝負じゃないというか。
武田：それはどういう風に証明するのだろう。総当りで試す感じだろうか。
森：精度の問題と言える。たとえば従来の手法で90％の精度を出すところにディープラーニングを使って、それで同70％になったとする。この70％という精度をどう捉えるかはビジネス判断。「3割外れるという話だよね」と考えて採用しないのか、「今までリーチできなかった層に70％までリーチできるようになる」と捉えるのか。それによって話はまったく変わると思う。
松尾：先行指標を見つけるという話だと思う。そもそも生物の知能がなんのためにあるかを考えてみると、特に生存に関わる予測性を高めるため。たとえば普段通る道に何か変な足跡があると、「敵がいるんじゃないか」と推論する。これは足跡という情報から敵の存在を察知しているわけだ。つまり、ある情報が別の情報の先行指標になっている。そこを見つける仕組みが知能の仕組みだと思う。
で、僕としてはその辺を究極的に考えるとこういう話になると思っている。まず、世界にありとあらゆる情報がある、と。で、ある情報は別の情報の先行指標になっていて情報間の関係性を考えることができる。観測できる情報とできない情報、つまり生存に有利な情報と不利な情報があるわけだ。となると、解かなければいけない問題は「観測し得る情報からつないでいくことで、生存上有利な情報を得ること」という風に考えることができる。そこでセンサを置くのは割りと単純な手段だけれども、すでに観測できる情報からどうやって必要な情報を見つけるか、その情報へつなぐのかということが、大変重要になるのかなと思っている。
武田：先ほど森さんがおっしゃっていたことは本当に重要だと思う。私もよくそういう現場に遭遇する。70％当たっている状態で「30％も外れるんだ」と解釈されてしまうような。この辺、経営層の方々がAIをきちんと使っていけるか否かの分岐点になると思う。お客様とお話をしていて驚くことがある。「こんな解析ができて、こんなことが分かります」とお伝えして、それをどう使うか議論しようとすると、「それを人工知能が考えてくれるんじゃないんですか？」と言われるケースが少なからずある（笑）。
木村：難しいのは、ヒューマンエラーに対する許容度と違って機械のエラーに対する許容度が大変低い点だ。自動運転もそう。人間の運転よりも事故率を圧倒的に下げても、1件事故が起きたら「ほら見ろ大変だ」なんて話になると思う。今のお話はその辺の問題に近いと感じる。要はどこまでエラーを許容するのか。画像認識にしたって最早ディープラーニングのほうが人間より高い精度を実現しているわけで、その辺も踏まえて人間としてAIをどう認めるかという話なのかな、と。
松尾：いくつかあって、まず人間は謝ることができるというか、責任を取ることができるので（笑）。あとは事故が起きたときの説明性。人間は事故をたくさん起こすけれども、そこで、「考え事をしていてブレーキとアクセルをうっかり踏み間違えました」なんて説明したりする。考え事なんていつもしているわけで、実際、それはなんの理由にもならない（笑）。でも、そう言われるとなんとなく、「あ、しょうがないな」なんて感じが（会場笑）。だから人工知能もそんな風に納得してもらいやすい説明ができればと思う。そもそも現象は非線形で、何かひとつの要因で説明しきることなんて不可能だ。でも、人間はそこを無理矢理にでも説明しちゃう。それと同じことをコンピュータもできるようになる技術が出たら（会場笑）、受容性も少し変わるかなと。
木村：機械学習が自動的に学習するプロセスではまだエラーも多く、失敗によって生まれるコストも結構大きい。その辺はどう許容するべきだろう。これは企業の問題でも社会の問題でもあって、そこも乗り越えないと先がないような気がする。
松尾：必ずしもリアルな環境で学習する必要はないから、各種テスト環境を用意してきちんと動くようになってからビジネスなりに使えばいい。ただ、そうは言ってもリアルな現場でうまくいかないことはあって、それを随時学習データに反映させる必要もある。それで安定するまでは相当長く試行錯誤を繰り返さないといけないかもしれない。グーグルカーがカリフォルニアを走り続けるのはそういう理由もあると思う。
武田：ひとつには走りながら考えること。そのなかで人工知能がどう習熟したかを見える化して、説明できる状態にするのも大事だと思う。我々の監査でも、その判断がどれほどうまく立っているかの過程を分析して、お客様に報告するサービスを最近はじめた。そうした説明性が、特にサービスの初期段階で重要になると思う。
森：適用領域によってはハイブリッド型にするというのもある。コンピュータが自動的にここまでやるけれども、それで本当に「Go」という話で良いのかどうか、今までの業務を担当していた人が経験と知識で判定するような仕組みえをつくることはできる。商品レコメンドのような領域ではそうなると思う。あと、一気にユーザーへ届くような、サービス提供側の人間も分からないようなものに関しては、社会やユーザーの側から「これはOK」「これは考えなきゃいけないケースだね」といったフィードバックをいただく形もある。不確実性の高いものはインプットしてまた学習していくのが機械学習理論の枠組みなので、そういうやり方もある。人間がダメ出しし続けることは大変重要だ。それが精度を上げていくので。
個人情報はどのように扱われるべき？
木村：では、会場からも質問を募りたい。
会場：3点ほど。ディープラーニングを使った推論はそもそもの学習データがなくても出るか、あるいは元になるようなデータを入れて初めて出るのかという点を改めて教えていただきたい。あと、本気度の高いコメントを分析して表示させるという仮説自体は人間が考えたのだろうか。それともディープラーニングが「そこを抽出すれば売上が100億上がるよ」という風に出したのだろうか。それと、「ガバナンスとして個人情報を持たないような時代が来る」とのお話だったが、アマゾンもグーグルもそこでごりごり解析したからこそ今の強みがあると感じる。そこで踏み込んで解析しないと競争優位性を担保できないと感じるが、その点はどうお考えだろう。
会場（中野智哉氏：株式会社i-plug代表取締役社長）：人材業界でビジネスをしている。人工知能はキャリアマッチングでどれほど有効だろうか。そこで、たとえば企業が求職者を選ぶうえで有効だったり、求職者が自分に合った会社を選ぶうえで有効だったり、求職者が誰と働いたらパフォーマンスを発揮できるかを探るうえで有効だったり等々、特に有効な領域があればそちらも併せてお聞きしたい。
会場：テクノロジが進んだ先でAIと社会がどのように接するのかを伺いたい。たとえば監査サービスで事前チェックができるとのことで、それは社内なら「ちょっとやばいんじゃないの？」という抑止力になると思う。ただ、社外だと大変だ。「不正な使い方をしてませんか？」「何を根拠に言っているんだ？」「いや、pepper君が言うので」は通じないし（笑）。そんな風に、技術が社会にぐっと近づいたときの対監査性を現時点でどう捉えたら良いのか、ヒントをいただきたいと思う。
森：最初の3つにお答えしたい。推論の精度はサンプル情報があれば当然高まる。ただ、ディープラーニングが驚異的なのはそれがなくても使える精度まで高めることができる可能性がある点だ。パブリケーションしていないのでシビアな話はあまりできないが、仮に株価情報なしで株価を予想するとする。この場合、たとえばウィキペディアへのアクセス情報と株価の関係を調べると、ある程度の精度で株価の動きが分かるとか。要はまったく関係ないデータというか、手に入るデータから別のデータが、サンプルなしに見えてきたりする。ディープラーニングを用いたそうしたマーケティング適用例が今は見えてきている状態だ。
あと、レビューの仮説に関して、「こういう風に分析したほうがいい」というモデルは自然言語処理の研究者が立てた。従って人間が立てたという話になるが、ちなみにその例ではディープラーニングでなく従来型の機械学習を使っている。
そして3つ目。個人情報に限った話ではないが、いかに情報データを活用するかが競争力のひとつというは間違いない。ただ、近い将来…、今もそうだけれど、自分たちが考えるよりはるかに多くの個人情報を実は持っていたという話になる。そこでデータのガバナンスが効かないのは危険だ。「知らないうちにこの情報を持っていた」「実はこういう情報をリークしていた」となってしまう可能性があるので。そうした状態でプライバシーに配慮していないサービスやキャンペーンを仕掛けて問題等を起こさないためにも、「個人情報はこういう範囲内で使う」という設計は必要だと思う。
木村：個人情報だと目的外使用で問題になるケースが多いと思うが。
森：昔は分かりやすかった。「こちらへご記入ください」と言われるだけで、なんの情報を書いて、どんな情報を取られて、それがどう使われるのか、お客様の側も文脈からすべて分かったので。でも、今はスマホ経由にせよセンサ経由にせよ、知らないうちにデータが集まるから何が目的で何が目的外かなんて誰も分からない。なので企業側にはコードオブエシックスが必要。「我々はこういう目的でしか使いませんよ」という宣言が大変重要になると思う。
松尾：個人情報に関して私もお答えしたい。現状では、たとえばグーグルのなかで完結した使用であれば問題にならず、あるサービスで取ったメール情報を別のサービスで使えたりする。で、これが別会社になるとダメだという。「その根本的な違いってなんなんだろう」というところから、本来はちゃんと考える必要があるのではないか。大事なのは「個人情報が云々」「目的を規定して云々」といった話でなく、どこまで信頼を担保するかだと思うので、そこの仕組みが必要だと思っている。
あと、キャリアマッチング分野では人工知能がすごく使えると思う。マッチング系は人工知能の力を発揮しやすい。この場合、どういったデータを取って、特にどういう属性に注目してマッチングさせると良いのかという設計の部分が大変重要になる。それと、たとえば「転職なり就職なりを行って結果的に良かったかどうか」といった長期的情報も教師データとしてうまく使うことが大きな鍵になっていくと思う。
武田：不利益につながるような場合にどう対処するかというと、段階があると思う。まず、社外といってもパートナーさんつまり調達先と、ユーザーさんつまりお客様がいる。で、たとえば訴訟分野に関してパートナーさんのお話をすると、初期段階でQCを行い、そこで判断が悪い弁護士さんとは契約を解除する。そういう風に調達をより厳しくするのに使う。一方でユーザーさんに関しては、ある程度は規約のようなものを整理しながら、「これ以上の使い方はダメですよ」と、丁寧に説明するしかないと思う。警告を出しつつ、場合によってはサービスを止めざるを得ないケースもあると思う。
会場（瀬尾傑氏：株式会社講談社「現代ビジネス」編集長）：AIの分野は日本企業が勝てる領域なのだろうか。あるいは、やっぱりグーグルのように圧倒的な資本やヒューマンリソースを持つところが強いものなのか。日本企業が勝てるジャンルまたは条件みたいなものがあれば併せて教えていただきたい。
会場：ディープラーニングに関してAKBのCD売上では予測が効かなかったとのお話があった。そうした新しくかつリアルタイムで変化する事象に、ディープラーニングはどこまで追いついていけるものなのだろうか。
武田：テクノロジそのものの優位性、サービスやアプリケーション設計の優位性、あるいはサービス提供に関する優位性等々、競争力といってもいろいろある。また、技術を持っているだけでは難しく、大変良い技術を持っていながらアプリケーション化に失敗したという話はよく聞く。だから、どんな風に使うのかという活用方法の見出し方次第で、日本企業の勝機が大いにあると思っている。
たとえばコミュニケーションが要求されるような仕事は日本人が得意とする領域だ。そこで、たとえば我々は電子カルテを解析して入院患者様の転倒・転落防止システムというものを研究している。今はそのための事前分析を行っているけれども、これは大変な負荷がかかるし、現場の看護士さんたちは「こんな分析はしたくない」とおっしゃる。「我々は患者さんに向き合うことに時間を多く使いたいんです」と。だから、そういう部分を人工知能が代替して、人間のほうはヒューマンタッチの領域に特化すれば、それは大きな競争力になると思う。
松尾：たしかに人工知能のテクノロジという意味ではグーグルやフェイスブック、あるいはアメリカの各大学が進んでいると思う。ただ、それをどんな事業領域に使うのか次第でチャンスは数多く生まれる。特にディープラーニングにおける画像認識や運動の習熟は機械・ロボット系と相性がいい。私としては、そこで建設や農業や食品加工といった分野の日本企業に大きなチャンスがあるのではないかなと思う。
あと、「不連続な、今までのパターンとは異なるもの」に関して言うと、結局、新しいことというのは人間にもどうなるか分からない。ただ、もし人間がそれを何かで予想しているとすると、新しいものを要素へ分解している。そのうえで、その組み合わせで予想するとか、違う領域の知識を転移させることで予想するという作業をしている筈だ。今はそういった仕組み自体もAIの世界で研究されている。従って、それも少しずつできるようになってくるのかなという風に思っている。
森：日本の強みに関して言うと、まず日本がもともと強かったインダストリーには大量の、しかも最適化された結果データが存在している。従って、そこに機械学習やディープラーニングを適用すれば今後も強くあり続けると思う。逆に、たとえば画像認識のように最先端の競争が大変激しいところはなかなか大変かもしれない。いずれにしても、たとえば素材産業のように従来産業でも日本がとりわけ強い分野がある。インダストリー4.0ではないけれど、そうした領域とAIおよびディープラーニングの融合というのは、日本ではおおいにあり得ると思う。
あと、「今まさに起きている枠組みの変化をどこまで追いかけることができるか」というご質問は、かなり本質的な問題をはらんでいる。松尾先生のご解答がまさにそれだと思うけれども、実はそこに関して問題意識を持って取り組みたいという研究者はすごく多い。まさに、目下研究されているところだと思う。
木村：研究室ごとグーグルさんとかに買収されちゃったりするので、その辺の頭脳流出は避けたいところだ。あと、松尾先生からは「建設や農業や食品加工分野で」というお話があった。これは典型的な機械系の組み立て分野でなく、否定形なワークが数多く混じっている領域ということだと思う。
松尾：そう。その意味では組み立てや加工であれば超少量多品種のものも対象になる。また、物流でも戸口の配送や積み替えといった、定形でない対象を扱う業務は多いので、そういうのも自動化できる余地が相当にあると思う。
木村：その辺はすべて日本が伝統的ｉに強かった領域だ。そこでAIを上手に活用してモデルチェンジを行えば日本はさらに強くなるというお話なのかな、と。
松尾：その通りだと思う。それに、最終的には日常の生活や仕事のなかでロボットや人工知能が相当使われていく筈だ。そこへどうやって進むのか。そこで、グーグルやフェイスブックのようにネットの情報から進むパスと、リアルな仕事の補助から進むパスのふたつがあるのだと思う。日本企業が勝てるとしたら、そこで後者のリアルな仕事補助というパスになるのかなと思っている。
木村：パネリスト御三方の平均年齢は今回の会議で最年少かと思うが、これ、技術の進化スピードがそれほど速いという話だと思う。投資の世界には「まだはもうなり」という言葉がある。「AIはもうちょっと先かな」と捉えるのでなく、今から自社でできることは何かを考えたうえで早くアクションを起こしていただきたい。そうでないと日本の優位性が失われてしまう領域は多いと思う。今日の議論をきっかけに、そうしたこともお考えいただければ、それが本セッションの意義にもなる。では、パネリストの皆さまに盛大な拍手をお願い致します。本日はありがとうございました（会場拍手）。
※開催日：2015年11月3日
