「小保方晴子さんはAI的」？――AI化する人間たちの末路

「2045年にAI（人工知能）が人間を追い抜く」「一部の有能なエリート以外の人間は、すべてお払い箱となる」――このような「シンギュラリティ」仮説をまことしやかに説く人がいる。

　しかし、歴史学者の與那覇潤さんは、「いま心配しなければならないのは、AIが人間を追い抜くことではなく、むしろ人間がAIに近づいてしまっていること」だという。

　どういうことか？　精神科医・斎藤環さんと與那覇潤さんの対談本『心を病んだらいけないの？　うつ病社会の処方箋』から、一部を再編集してお伝えする。

　＊＊＊

速報「娘はフェイク情報を信じて拒食症で死んだ」「同級生が違法薬物にハマり行方不明に」　豪「SNS禁止法」の深刻過ぎる背景

速報「ウンチでも食ってろ！と写真を添付し…」　兵庫県知事選、斎藤元彦氏の対抗馬らが受けた暴言、いやがらせの数々

與那覇　AIブーム華やかなりし頃のバズワードが「シンギュラリティ」（技術的特異点）で、いま人工知能はどんどん優秀になっているから、2045年には人間を追い抜くんだと。なんでその年なんですかと聞いても、そこでグラフが交わるからだみたいな怪しい図表しか出てこないんですけど（笑）、とにかくそういう話が流行しました。

　ぼくはそんな風潮を見て、ああ、ついに日本の知的世界も来るところまで来ちゃったなと感じました。2014年にSTAP細胞事件（※注）が起きて、あれだけ世界的な問題になったにもかかわらず、この国の有識者はどこまでも「小保方さん」を甘やかし続けるんだなと。

斎藤　えっ、小保方晴子さんですか？　この文脈で出てくるには意外な名前ですが……。

與那覇　新井紀子さん（数理論理学）の『AI vs. 教科書が読めない子どもたち』によると、AIが人間に追いつけない最大の理由は「意味を理解できないから」ですよね。人工知能に機械学習をさせると、たとえばリンゴの写真をインプットして「これはなに？」と尋ねたら、「リンゴです」と答えるようにはなる。

　でもそれは「リンゴとはそもそもなにか（寒冷地に育つ果物で、家庭のおやつの定番で、調理してパイにもする……）」を理解して回答しているのではなく、単に「これまで大量に読みこまされた、『リンゴ』というタグのついている、赤っぽくて丸っぽい画像パターン」に似ているから、リンゴと答えるだけである。つまり「そう答えたら、統計的にいって当たりになりそうな文字列」をアウトプットしているだけで、回答の内容を“わかっている”わけではないと。

　これって、まさに小保方さんがやっていたことだと思うんです。彼女は写真やグラフの「切り貼り」を論文だと自称していたわけですが、それができちゃうのは自分の研究の意味を、自分でわかっていないからでしょう。「こういうデータを出せば周りの人は喜ぶ確率が高いな」という思考法で、じゃあ実験の結果自体を加工しちゃいましょうよと。内容を理解していなくても、外見上「正解だと言ってもらえる」パターンが続くかぎり、それが研究なんだと心底信じていた。

斎藤　うーん、なるほど。彼女の不祥事については「自己愛の強さが生んだのでは」といった分析をする人が目立ちましたが、認知の面に課題があったと。

　ただ最後までわからないのは、小学生の観察日記のようで理系の人が見れば全員ひっくり返る「実験ノート」を、自分で公開してしまったことです。周囲の反応を予測して行動するなら、それこそコピペでもなんでもして、それっぽいノートを創作しそうなものですが……。しかしそこも含めて、「肝心なところで意味を読み間違う」のがAIっぽいとは言えるかもしれません。

與那覇　彼女はやったことが大きすぎたから叩かれただけで、大学教員として「プチ小保方さん」には大量に出会いました。「これを入れておけば、先生がほめてくれそうな用語・要素」をレポートや卒論に盛り込んで卒業していくけど、教室や口頭試問で対話するとあきらかに本人が含意を理解できていない。ところがそれを「すごいだろう。うちのゼミの学生は××を読んでいるんだ！」とちやほやする教師がいるわけです。

　そうした経験から振り返ると、目下の日本では「AIが人間に近づいている」のではなく「人間がAIに近づいている」ように思えてきます。あたかもAIのように、自分の行為の意味なんか考えずに「統計上、やったらほめられそうなこと」を繰り返し続けるのが、いちばん効率のいいライフハック（処世術）なんだと。だから、AI論壇と自己啓発本とが結びつく。

斎藤　「意味を理解しないままで情報を処理する」という、数学者・新井紀子さんが指摘するAIの特徴が、むしろ人間において発現しはじめていると見るわけですか。そう考えると、いま変化しつつあるのはテクノロジーではなく、人間自身のほうだとも思えます。実際に新井さんもAI自体より、まるでAIのようにしか教科書を読めない中高生を危惧していますね。

與那覇　いわば逆シンギュラリティこそが迫りつつあって、「人間がAIに追いつく」。本当はどういう意味かを問わずに、「とりあえずこう言っておけば評価される」ことを唱えるだけの人ほど出世していく状況は、いろんな職場で起きていると思いますよ。「中身はわからないけど、とにかくこのパワポでプレゼンすれば業績が上がる」といった働き方は典型です。そちらのほうが「AIがもたらす失業」などよりも、はるかに脅威ではないでしょうか。

　＊＊＊

（※注）「万能細胞を発見した」として世界的な一流誌に掲載が決まっていた理化学研究所勤務の小保方晴子氏の研究が、実際には切り貼りされたデータに基づく無根拠なものだったと判明した事件。論文は取り下げられ、研究チーム内から自殺者も出したが、小保方氏本人はいまも自説を撤回していない。

　＊＊＊

デイリー新潮編集部

斎藤環（さいとう・たまき）
1961年、岩手県生まれ。精神科医。筑波大学医学研究科博士課程修了。爽風会佐々木病院等を経て、筑波大学医学医療系社会精神保健学教授。専門は思春期・青年期の精神病理学、「ひきこもり」の治療・支援ならびに啓蒙活動。著書に『社会的ひきこもり』、『中高年ひきこもり』、『世界が土曜の夜の夢なら』（角川財団学芸賞）、『オープンダイアローグとは何か』、『「社会的うつ病」の治し方』ほか多数

與那覇潤（よなは・じゅん）
1979年、神奈川県生まれ。歴史学者。東京大学大学院総合文化研究科博士課程修了。学者時代の専門は日本近代史。地方公立大学准教授として教鞭をとった後、双極性障害にともなう重度のうつにより退職。2018年に自身の病気と離職の体験を綴った『知性は死なない』が話題となる。著書に『中国化する日本』、『日本人はなぜ存在するか』、『歴史がおわるまえに』、『荒れ野の六十年』ほか多数

2020年6月2日掲載