人工知能にできないことは?人間の役割はこう変わる

人工知能は日本企業の好機となるか ~ディープラーニングが変える社会~[2]

木村:AIの進化によって人間が想像・発見できなかったこともできるようになる、と。こうなると、人間が本来持つ「ちょっと見られたくないところ」とか「まあいいか」なんて思っていた部分もどんどん許されない世界が来るのかなと思う。それで、よく冗談で言うのだけれども、「我々のレストランは現金オンリー。カメラも何もなくログも付きません」みたいな超アナログレストランが逆に流行ったりするのかな、と。そうした、人間としての権利や従来持っていたものの変化について皆さんはどうお考えだろう。

森:それは本当に重要だと思う。今後、サービスやアプリケーションの設計はプライバシーの設計とほぼイコールになると思う。それで「我々はこのデータを取っていません」「このデータは捨てています」といった宣言をすることで、サービスに関してユーザーに安心してもらうことが大切になっていく。

特にIoTの時代になると、なんだかよく分からないまま大量にデータが取れちゃう。それで自分たちも知らない大量のデータがあって、「気付いたらそれがリークされて大問題になっていた」なんて話にもなり得る。従って、データ取り扱いに関するガバナンスを効かせるためにも、顧客の信頼を得るためにも、「自分たちはこのデータを使っていません」といったメッセージを出すことは重要だ。楽天技術研究所でも「研究者はユーザーのデータを触っていません」と宣言している。ユーザーのデータを触らなくてもできることは多いので。敢えてそうしたメッセージを出すことで、サービスの安全性をアピールするというのは多いに有りだと思う。

松尾:実際、いろいろと難しい問題があると思う。たとえば会場の皆さんがそれぞれの事業ドメインで、「うちのお客さんはこういう感じ。こういうときはこういうものを必要とするんだよ」なんて言ったとする。その知識はどこで得たのかというと、恐らくお客さんの行動を数多く観察し、それらを抽象化しているわけだ。もともとは個別のデータだった。ただ、そうした個別データが残っているのはまずいし、「Aのお客さんはこう言った」と言うのもまずい。でも、抽象化するとOKになる。つまり、ポイントは個別情報をどこまで捨てながら抽象化したものを活用するか。逆に言えば、抽象化して個々が特定できないような情報粒度にしたうえで処理をすることが大事なのだと思う。

武田:そのあたりの感覚はtoCとtoBでも少し違いがあるように思う。たとえば我々がつくった監査の仕組みを入れているところでは、「すべてのメールを見られている」といった根強い拒絶感みたいなものもないわけじゃない。ただ、一方では監査の担当者が感謝されることもある。というのも、そもそも最初から監査をまったくしていなかったわけではなく、ぜんぶ見切れなかっただけ。一部は人間がサンプル的に見ていた。これを従業員の立場で考えるとどうか。人間の担当に見られるのと、まず機械が見て関係がありそうなものだけ抽出するのでは、「後者のほうがいいんじゃない?」と。見なくていいようなものを機械に見させるからこそ、見ないで済む面もあると思う。

木村:ディープラーニングの応用例として防犯カメラでの活用もよく言われる。人を認識させ、「犯罪や起こりえるリスクを未然に防ごう」と。これ、松尾先生がおっしゃる通り、個人と紐付けなければ大丈夫ということだろうか。

松尾:そう。だから実はカメラについてもいろいろ考えないといけない。これまでは画像の処理技術がなかったから、カメラで撮ることもたいしたことじゃなかった。でも、今は処理技術がある。撮った時点で誰がどういう人と一緒にいて、どんな表情で、どういう服を着ていたのか、技術的には分かる。そこは恐らくコントロールしないといけないから、「個人が同定できるような特徴量は使っていません」といった宣言を行うとか、なんらかの管理手法が必要になってくるのではないかなと思う。

木村:だんだん悪いことがやりづらい世界になってきて(笑)。

松尾:逆に、人は悪いことをやる権利があると考えるべきで(会場笑)。

木村:なるほど(笑)。その権利はどうやって担保されるのかな、と(会場笑)。

松尾:多少悪いことをしても、1回目は「お前、それちょっとまずいんじゃない?」という警告を受ける権利とか(会場笑)、そういうものがあるんじゃないかと思う。

武田:我々の監査システムでは不正の段階をモデリングしている。たとえば情報漏洩に関しては3段階に分けている。1段階目は「醸成」。これは会社に対して不満が溜まって、「もう辞めてやる」「ほかの会社に移る」という段階だ。で、次が「準備」。これは次のところへ行くための“おみやげ”を集める段階になる。ここに来ると、たとえば技術や顧客や製品の情報を集めはじめる。以前所属していた部署の人に声を掛けて「アレ送ってくれない?」なんていうコミュニケーションをしたりする。

で、最終的な「実行」段階で外へ持ち出す。これはもうアウト。ただ、我々のシステムをうまく使っていらっしゃるお客様は…、これはカルテルの話だけれども、たとえば競合とすごく仲良くなっていく最初の段階で、「あ、それレギュレーション踏みそうだよ? 止めたほうがいいよ?」なんて言って教育に使っている。実際に最後までやってしまえば逮捕されてしまうわけで、そういう段階に入る前から人間がうまくコントロールするという使い方はできると思う。

森:たしかに機械の判定は‘Yes’か‘No’かではなくてスペクトラムで、だんだん濃くなっていく。だから薄い段階では薄い警告を出していくと教育効果のようになると感じる。その意味では大きな意義がありそうだ。

木村:今でもメール本文を検索して、送信時に「このメールで大丈夫?」といったアラートを出す仕組みはある。それに近いのかもしれない。

武田:そう。そうした機能を高度化した感じになる。

AIが進化したら人間の役割はどう変わる?

木村:さて、次は経営に関する話も振ってみたい。私としては、従来型の機械学習を含めたAIの世界では、ナレッジというか、付加価値がAI側にどんどん寄っていくようになると感じていた。つまり、ブラックボックス化してしまうのではないかな、と。AI活用のなかで人間側はどのように付加価値を乗せていくようになるのだろう。

武田:ある程度の枠組みが決まっているなかで最適化するというのは、機械学習が得意とする領域だと思う。ある品物をあるあるユーザーに売るとか、そういったものがすごく多様になるから、そのパターンを見つけ出す。ただ、枠組み自体が変わってもあらゆる現象に適用できるかというと、そこはまだまだこれから。今はどんなゴールに基づいてそれを分析させたいのか、ある程度ダイレクションをする必要がある。

木村:いわゆる目的設定を行うという…。

武田:そう。あとは出口のところ。出てきたものを使って何をするかというディシジョンをして、次の戦略を策定するといった部分は当面人間側に残ると思う。

木村:人工知能に関しては「目的と報酬」というキーワードもよく出てくる。その辺も含め、松尾先生は人間がどのように付加価値を乗せるべきだとお考えだろう。

松尾:機械学習でも正解のラベルを与えないといけない。何が良くて何が悪いのかを設定しないといけないわけだ。強化学習というタイプの機械学習でも「何を報酬にするか」ということで、その報酬を最大化する行動を学習するし、やっぱり報酬の設定が重要になる。従って、人間の仕事としては目的設定が重要になって、その目的をどう実現するかという手段の部分で人工知能が活用されていくと思う。結局、我々の社会でも目的設定が実は一番重要なこと。政治家や経営者の方々が日々取り組んでいる問題を見ても、実はほぼすべて、「目的をどう設定するか」という話になると思う。そこに人間のリソースがより使われるようになると感じる。

木村:Whatの部分が人間に残って、Howはある程度自動化できると。

松尾:そうです。その通り。

森:ネットの小売にはロングテールという非常に大きなテーマがある。これ、簡単に言うと「データも商品もユーザー行動もほぼすべてロングテールになる」というもので、テール部分の売上が全体の90%を占める。ただ、そこではまりがちなのが、「じゃあニッチなものを売らなきゃ」という話になること。テールはテールであって、個別に見れば年間売上は数十万円程度だったりする。だから、そのためにデータサイエンティスト3人とマーケッター4人のチームでPDCAを3ヶ月回し、「こういう仮説を議論してデータ分析のうえフィードバックしたら売上が30万から60万になりました」となっても、誰の給料も払えない。従って、ほぼすべてがテールになるならそれは機械がやるしかないという重要な問題がある。

楽天は需要予測システムというものをつくっている。これは機械学習でありテールの商品ほどよく当たるけれども、では今まで予測を担当していたマーケッターやバイヤーは何をするのか。実はこのシステムでも予測できないものがある。分かりやすい例はAKB48のCD売上。握手券付きCDの販売が過去に例のない売り方というか、過去の秩序にない新しい枠組みだったからだ。そこは秋元康さんが天才で、業界の枠組みを破壊したという話だと思う。そうした例を見るかぎり人のやることは明確で、ルールや既存の枠組みを変えること。機械がその枠組みで予測するのなら、枠組み自体を破壊することが人間のやることだというのはAKBの1件でよく学んだ。

木村:面白い。以前聞いた話では、過去10年間ほどにわたって自動車の販売実績や関わった人の各種データをすべて入力していくと、今のAIであれば8割ぐらいの精度で売れる車のデザインをしてくれるそうだ。けれども、今のお話と同じで、その手法だとそれこそ6輪車なんていう発想は絶対に出てこない。

森:そう。でも、そういう発想が新しいマーケットをつくるのかもしれない。

武田:これ、商品をつくるうえでよく交わされる、「プロダクトアウトかマーケットインか」という議論にも近いと思う。機械学習はどうしても過去のデータから未来を予測するから、既存の枠組みを超えるものがなかなかつくれない。従って、データのすべてをマーケットに求めるような解析をしてしまうと、逆に売れるものがつくれないようになってしまう。となると、ある程度はプロダクトアウト的に、「これが良いのでは?」と提案することの重要性がさらに高まると思う。

木村:一方、「こちらのほうは、近いうちコストでもスピードでもAIを使うほうが圧倒的に良くなる」という領域はどの辺だろう。UBICさんも、かつて弁護士の方々がやっていた部分を完全に置き換えたわけだ。AIの進化で「企業のこうした業務はAIが担うようになる」「この辺の業種が置き換わるのでは?」といった予測が何かあれば。

松尾:ディープラーニングで画像認識の精度が大きく向上したので、それが必要になるような業務は相当自動化できると思う。具体的には…、よく思うのだけれど、会社ではだいたい上司の机の前で部下が仕事をしている。なぜそんな配置かというと、部下がちゃんと仕事をしているか上司が見張るから(笑)。「それ、人工知能で監視できればいいじゃないか」と(会場笑)。ネットで調べ物をしているのか野球ニュースを見ているだけなのか、後ろから見ていれば分かるので。まあ、そういう、結構えげつないことや労務管理もできちゃったりすると思う。

森:推論の世界も意外とあるように思う。ディープラーニングは推論にも使える。存在しないデータをつくり出すという話だけれども、そのデータに価値がある。「そのデータでこういうことがしたい」というニーズがあるので。たとえば、今までシニア向け商品をつくっていた企業が今後は女子高生向けの商品もつくりたいというとき、「でも、女子高生のデータがないし」という話に、もうならない。ディープラーニングがつくるから。そうした話も含め、AIはマーケティングの概念を次々塗り替えると思う。

木村:武田さんは、現在のビジネス以外で狙っている領域はあるだろうか。

武田:経理や保険や会計監査のように、特定のレギュレーションに基づいて審査のようなことをする業態・業務は、基本的には置き換えられていくかなと予測している。あと、処方のパターンがある程度決まっている医療や看護の一部領域も、業務的に置き換えが進んでいくと思う。

松尾:そのうちUBICさんを使う会社が訴訟を起こしている相手もUBICを使ったりして、UBIC対UBICなんて話になっていくような気がする(会場笑)。

武田:一部で起こりつつあって(会場笑)。ただ、どうしてもコンフリクトの問題は起こり得る。たとえば双方の弁護士事務所が同じというのも、基本的にはまずいだろうという話がある。で、厳密に言うとシステムは同じでも構わない筈だけれど、そのメタファーというか、「システムも違うほうがいい」という、主に心理的障壁から忌避されるケースが多い。社内的にはファイヤーウォールを築き、「システムも人もすべて分けて対応します」というのが基本的な対応になるけれども。

木村:本当は両側についたほうが分析の精度も上がるんですよね?

武田:そう。前提が同じになるから、そのほうが絶対にいい筈だ。だから両方で使っていただきたいと思っているけれども。

松尾:あと、UBICさんの監査はどこがやるんですか?(会場笑)。

武田:(笑)。第3者にお願いしたいと思います。

木村:M&Aで売り手と買い手に同じフィナンシャルアドバイザーがついて、「ウォールも引いてパートナーも分けるから大丈夫です」と言うのと一緒だ。本当はそちらのほうが効率はいいが、「でも、…それってどうなの?」というのがあるのかな、と。

武田:そうした障壁も今後は低くなると思う。話は違うかもしれないが、クラウドに関しても当初はデータを外に出す心理障壁が高かった。でも、最近は多くの会社さんが各業務に利用しているし、同様のことが我々の分野でも起きるように思う。

→人工知能は日本企業の好機となるか ~ディープラーニングが変える社会~[3]は12/20公開予定

※開催日:2015年11月3日

RELATED CONTENTS