生成AIの規制、フェイクニュース・動画への対応をどうすべきか？

G1サミット2024 第6分科会T
「AI・プラットフォーム規制をどうすべきか？」平将明×蜷川聡子×羽深宏樹×村井純×宮澤弦
（2024年2月24日開催／沖縄万国津梁館）

Generative AIの革新を牽引してきた米国は昨年秋に大統領令を発令し、AI技術の開発・利用の規制に舵を切った。安全保障や公共の利益に悪影響が及ぶのを防ぐ目的という。世界で最もAIに寛容だといわれる日本で、今後この分野の規制はどうしていくべきなのか。新たな時代のAI・プラットフォーム規制のベストなあり方を考える。（肩書きは2024年2月24日登壇当時のもの)

00:00　オープニング

01:09　規制についての世界の動き(羽深氏)

-規制に対して最先端を走っているのがEU。2023年12月に大筋合意がなされた。5つのカテゴリーごとに異なるレベルの規制を入れていく形。アメリカでは2023年11月に大統領令を発令、生成AI事業者が自主的にコミットしたことをベースに必要な対応を行なっていく形。日本ではAIを積極活用する方向で規制改革が進んでいる。

05:52　日本のAI規制に関する動き(平氏)

-2022年のG1経営者会議のセッションを受けて、ホワイトペーパーをまとめてその政策を実現してきた。AIを強力に規制することは考えておらず、既存の法律や行政で行けるところまで行くことを考えながら、最先端のAIリスクについては規制することを考えなければならない。自民党でもAIを作っている状況。

11:34　インターネットの歴史を含めてAIの規制をどのように育んでいくか(村井氏)

-デジタル社会のAIアプローチを大きく捉えたアーキテクチャーという視点をポリシーリーダーには持ってもらいたい。AIがどんな役割を果たすのか、どんな課題があるのかをドメインを定めて議論することが必要なのではないか。

15:21　メディアとAIの関係性と今後のリスク(蜷川氏)

-フェイクニュースも問題だが、著作権などの権利も問題のひとつ。最近は検索すると、まとめたものが出てくる。そうすると、メディアの方には来てくれない。そうなると利益が得られなくなって、メディアが作れなくなってしまう。正しい情報をどのように届けるかを考えなければならない。

19:23　選挙×フェイクニュース×AIについて(羽深氏、村井氏、蜷川氏、平氏)

-これは生成AIだけの問題ではない。もっともらしい動画や画像を作って、拡散できてしまう。一体どこに規制を掛ければ良いのか難しい問題。一定程度規制をかけないと、民主主義が守れなくなってしまう状況が起きるかもしれない。評価に十分なデータを集めるところからポリシーメイキングが始まっていくことが重要。
-オフェンシブにフェイクニュースの問題を考えるべきではないか。今年は世界中で大きな選挙があるため、大事な年になると思う。
-フェイクニュースがなぜ広まるのかを考える時、エコシステムの問題。例えば、石川県の震災でのフェイクニュースのツイートをしていたのは、海外からだった。X上でのインプレッションがつくと、お金がもらえる仕組みになっているため、生活の糧にする人が投稿していた。
-自分が炎上するより、それを拡散するリスクの方が高い。拡散させた方も責任があることを認識させることが大事。
-生成AIがあろうがなかろうが、フェイクニュースは出来る。生成AIのキャパシティを制限するのではなく、モニタリングするところにAIを使うのことが大事。いい加減なことをやって煽る人たちは、ファクトベースで潰しにかからないといけない。
-岸田総理のフェイク動画がニュースになって流れたが、こういうことが出来ると国民に広く知らしめることができた。落選運動に対してどのように対応すべきかは、党内でも議論になっている。もはや生成AIは関係ない。

31:14　議論を踏まえてAIについての意見(村井氏、羽深氏、蜷川氏)

-フェイクを見破るための技術が重要になる。プラットフォームを締め付けても、解決する問題は多くない。悪いことを仕掛ける人が悪いやつだと認識できる仕組みを作ることが大事。発信元が信頼されるような技術を、プラットフォーマーは考えるべき。
-我々が普段目にするものは、検索エンジンや動画サイトで上位に来るものばかり。その基準はプラットフォームが決めている。その精度は、プラットフォームも努力している。中立の第三者が、プラットフォームが評価したコンテンツを評価することも求められる。
-メディア側がこれからも良いコンテンツを作れるように、検索エンジン上で見せた分に関しても配分できる等の仕組みができると良い。
-いい記事を書くジャーナリストが減ったら、社会は困る。メディアにもそのような議論が必要。フェイクニュースをスピード命で見破らなければならない。身近にあるAI能力の向上が起ってくるので、AIの技術が日本のコンテクストで発展することを薦めなければならない。たくさんのステークホルダーを入れて議論することも重要。

43:22　質疑応答①

-ヨーロッパの規制には、人権への意識を感じる。日本の規制の基本はどこに置くのか。
-SNSのプラットフォーム、特にMetaの詐欺広告が日本で放置されている状況は行政の介入が必要なのではないか。
-プラットフォーマー側でどのように発展していくのか。

50:35　質疑応答②

-インプレッションゾンビ問題について。情報開示しようとしたら半年後になる。日本は、XやMetaになめられている。
-メディアが潰れてしまったら、AIの品質が下がる。それを見越して国が決める現状はあるのか。
-選挙だけに関わらず、フェイクニュースによる最悪のシナリオを想定すべきか。