自宅に監視カメラ、行動履歴の掌握、犯罪「候補」者の摘発――AIが人間を監視する「ウイグル」の現在
実に驚くべき書籍である。ジェフリー・ケイン（訳・濱野大道）『ＡＩ監獄ウイグル』は、テクノロジーを政治的弾圧にどのように使っているのかを徹底的に明るみに出しており、このような内容の書籍は過去に類を見ない。
本書で描かれている中でも最もわかりやすい事例は、ウイグル人への「予測的取り締まり」だろう。AI（人工知能）とパーソナルデータによって、将来の犯罪者候補を抽出し、犯行の前に警察が取り締まるというものだ――こう書くと、ピンと来る人も多いだろう。そう、トム・クルーズ主演の2002年の映画「マイノリティ・リポート」である。殺人予知システムが実用化された未来の米国では、警察の犯罪予防局が未然に殺人者を摘発し、殺人発生率がゼロに抑え込まれている。まさにこの作品と同じ事態が、いま新疆で進んでいるのである。
映画では超能力者が犯罪を予知するという設定だったが、ウイグルで行われている予測的取り締まりの立役者はAIだ。2010年代に入ってからのAIの進化は凄まじいものがあり、データを十分に集めることができれば、人間の目ではまったく気づかないような傾向や特徴などでも即座に発見してしまうことができる。
われわれがその凄さを最初に見せつけられたのは、2015年に登場した囲碁プログラム「AlphaGo」だろう。2016年に世界トップクラスの棋士である韓国のイ・セドル九段を四勝一敗で制し、人々に衝撃を与えた。膨大な数が蓄積されている過去の人間の棋譜を読み込んで、どのような局面でどのような手を打てば勝利に近づけるのかというデータを抽出。さらにはプログラム同士での「自己対戦」も大量に行って、人間の棋士を寄せつけない棋力を身につけるようになった。
このAlphaGoの出現に衝撃を受けたのは、われわれ一般社会の人間だけではない。中国共産党政府もそうだった。囲碁はそもそも古代中国で生まれたゲームだが、そのゲームに欧米のAIが勝利したのだ。この衝撃がどれほどのものであったか。本書では、台湾出身で中国在住のコンピューター科学者カイフ・リーの実に的確なことばが紹介されている。
「中国のスプートニク的瞬間」
スプートニクとは1957年、ソ連によって打ち上げられた人類初の人工衛星である。この成功がアメリカをはじめとする西側諸国に「科学技術分野でソ連に凌駕されてしまう」という衝撃を与え、「スプートニクショック」とも呼ばれた。それと同じように中国もアメリカのAIに衝撃を受け、AI分野でアメリカに追いつき追い越さなければならないと考えるようになったのだ。
実際に2016年以降、中国のAI分野への投資はものすごい。たとえば2018年には、全世界のAI研究開発投資額の4分の3が中国企業によるものであったと中国政府は表明している。AIで世界をリードしてきたのはAlphaGoの開発企業を傘下に置くグーグルやアマゾンなど日本では「GAFA」とも呼ばれる米国テック企業群だが、近年は中国のバイドゥ、アリババ、テンセント、ファーウェイの4社の台頭が目覚ましい。この4社の頭文字をとって「BATH」とも呼ばれ、「GAFAの次はBATHではないか」とまで言われるようになった。
逆に米国では、GAFAが逆風に晒されている。膨大な個人データを利用者から吸い上げて広告やマーケティングに利用し、これらが大統領選にまで影響を与えていることに批判が高まっている。個人を監視したデータをもとにしたビジネスであることから「監視資本主義」とまで呼ばれているのだ。この逆風によって米国では個人データの利用が今後は難しくなり、AIの進化にも影響を与えるのではないかという危惧もテック業界からは出ている。
ところが中国では、そんな懸念はまったく存在しない。懸念どころか、中国共産党が国を挙げてAIによる個人データの収集に突き進んでいる。とはいえ――本書では残念ながらこのポイントが説明されていないのだが、中国でのこの方向は決して全面否定されるべきでもない。
なぜか。20世紀の中国では毛沢東時代の大躍進運動や文化大革命によって、人と人が信頼しあうという社会資本が基盤から破壊され、長期的な良い人間関係よりも「目先の利益に走ればいい」という風潮が当たり前になってしまったと言われている。ところがAIによる監視が導入されたことによって、信頼が回復しつつあるのである。
中国では国民に対する監視によって、国民ひとりひとりにクレジットを与える「社会信用システム」が実装されつつある。クレジットが増えれば融資枠が増えたり、行政窓口で優先的に遇されたりなどのメリットがある。逆にクレジットが減少すると旅行の禁止や社会的ステータスの低下などの罰がある。これによって人々は行動を律するようになり、個人間の信頼回復に寄与しているというのである。
中国系大手テック企業に勤務する私の知人の中国人はこう話してくれたことがある。「人間が監視するのでなく、AIが監視するだけなのだから私は気にならない。それ以上に、中国の社会は明らかによくなってきてると感じるんですよ。欧米からは批判されているようですが、このシステムの何が問題なのでしょう」
確かに大きなメリットなのだと思う。
しかし同時に、この社会信用システムはウイグル人への抑圧にも悪用されている。そしてウイグル人に対する監視はもっと徹底的だ。本書ではその監視の細部が実にこと細かに描かれ、圧巻としか言いようがない。
先に紹介した「予測的取り締まり」では、娯楽施設やスーパーマーケット、学校、宗教指導者の自宅などあらゆる場所に顔認証カメラや暗視できる赤外線カメラを設置。人の出入りが管理されている共同体の訪問者管理システムや地域の検問所などからクルマのナンバーや市民の身分証明書番号なども取得し、さらには一帯で使われている無線LANのエリア内にあるすべてのパソコンやスマホの機器固有アドレスを収集できるシステムまであるのだという。これらの膨大なデータから、AIが犯罪容疑者や将来の犯罪者候補をピックアップし、治安当局の担当者にプッシュ通知。それをもとに警察官が戸別訪問したり、移動制限したりするなどの措置をとる。
そして「信用できる規準を満たしていない」とされたウイグル人の家庭には、住宅内にまで監視カメラを設置するよう命じられている。なんと電機店で自腹で購入させられ、勝手にいじったり、電源を切ったりすることができないようにプラスチックのカバーをかぶせて設置するという念の入れようである。
さらに驚くのは、刃物によるテロ攻撃を避けるため日用雑貨店で売られている包丁まで管理しているというエピソードだ。包丁を買った人の顔写真と住所氏名、民族などのデータへのアクセスをQRコードに変換。これを包丁の刃に刻印できる数十万円もする装置を、小さな店舗でも導入が義務づけられたのだという。すさまじいばかりの徹底であり、すでに映画「マイノリティ・リポート」の設定を超えてしまっている。
刃物は人を殺すのにも使えるが、素晴らしい料理をこしらえることにも使える。それと同じようにテクノロジーはつねに諸刃の剣である。AIとデータによる監視をもとにした社会信用システムが中国社会に信頼を回復させているいっぽうで、同じテクノロジーが恐ろしいばかりの弾圧にも使われている。
「良いテクノロジー」「悪いテクノロジー」があるわけではない。テクノロジーには意識や倫理はなく、わたしたちがそれをどう使いこなすのかにかかっている。本書が描く新疆での実態は、その二面性の問題をリアルに鋭く突きつけてきている。
