岸田総理「フェイク動画騒動」 5年後にやってくる“やっかいな状況”とは
“本当に本人が映っているのか”
「AIで作られた動画は変なノイズがあったりして、注意してみれば分かったりします。それを誤魔化すためにあえて画質を荒くすることで格段に見分けはつかなくなります。音声に関しては動画以上に本物と聞き分けがつかないものを作成することが誰でもでき、実際、中国ではこういったAI音声を使った詐欺が発生していることで知られています。SNSの動画にアップしている一般人の音声や留守電に吹き込まれている音声を入手し、その声をAIで再現して、その人の知人や親族に詐欺を仕掛けることだって可能なのです」
今後やってくるのは、「AIリテラシー」が必要とされる世界だと、篠原氏は続ける。
「イスラエル政府が先日、ハマスの攻撃で亡くなった赤ちゃんの画像を公開しました。それをある人が『AI or Not』というAIかどうかを判別する無料ツールにかけたところ、『この画像はAI生成したものである』という結果が出てしまい、大混乱になりました。このことで“イスラエルはAIを使って誤情報を流している”という認識が広がりましたが、結果的にこの判定が誤りであったことが指摘されています。しかし、その訂正情報は広まりませんでした。今後、5年ほどしたら、著名人の映像や発言がネット上に流れてきたときに“これは本当に本人が映っているのか”“本人の発言なのか”を確認しなくてはいけない時代がやってきます。いわば“AIリテラシー”が必要になるわけです。現状、ネットリテラシーがある人ですら、AIに騙されてしまいますし、真実でない言動が拡散されれば、後から訂正するのは非常に困難であることは先にお話しした通りです。これから日本でもAIがらみの訴訟や騒動は増えていくのではないでしょうか」
