予算10億円の「虐待判定AI」が導入見送りに…専門家が「子ども家庭庁に批判が殺到するのは当然」と断じる理由 「AI開発よりも児相職員の給料を上げた方がよほど虐待抑止につながる」
AIが致命的な判断ミス
さらに、こども家庭庁の存在意義を問われるような“不祥事”が発覚した。3月3日、大手メディアは一斉に「こども家庭庁が10億円を投じて開発した“児童虐待判定AI”が判定ミスを連発で導入見送り」と報じたのだ。
「子供が虐待されているかどうかは最終的に児童相談所が判定します。ところが現在の児相は人手不足に悩んでいるのです。そこでこども家庭庁は10億円の予算を投じ、AIに5000件の虐待記録を学習させ、情報を入力すると虐待かどうか判定するシステムを開発しました。試作品が完成し、一部の児相に検証を依頼すると、100件の想定ケースのうち、62件の精度が『著しく低い』という結果になったのです。つまり全体の62％で信憑性が疑われたことになります。これでは使い物になりません」（同・記者）
このAIの導入について、三原じゅん子・こども政策担当大臣はあくまでも「断念ではなく延期」と強調した。その一方で、読売新聞が興味深い事例を報じている。ある想定では子供が「母親に半殺し以上のことをされた」と打ち明け、「服をつかまれて床に頭をたたきつけられた」と証言したのだが、虐待の可能性は100点満点で「2～3点」だったという（註）。
家族問題カウンセラーの山脇由貴子さんは、大学を卒業して東京都に入庁、児童相談所に19年間勤務した。現場に精通していることは言うまでもなく、2016年には著書『告発 児童相談所が子供を殺す』（文春新書）を上梓した。その山脇さんに、改めて、こども家庭庁の問題点について聞いた。
10億円の無駄遣い
「こども家庭庁に対する国民の不満は、やはりAIの失敗が象徴的だと思います。確かに児相では今、ベテランの職員がどんどん辞めています。どんなに頑張っても叱られるだけで、給与もわずかしか上がらないからです。人手不足を解決しようとA.I.導入を決めたのでしょうが、私が聞いた話では皮肉なことに『開発に関わる有識者が職員の負担を軽減するために、AIに学習させる入力データ量を減らした』のが失敗の原因だというのです。児相の省力化を狙う中、必要なデータ入力も省いて失敗したことになります」
ならば予算と人員を惜しげもなく投入すれば、A.I.で虐待を見抜くことは可能なのだろうか。しかし山脇さんは「やはり難しいでしょう」と言う。
「ベテラン職員の『この親は普通の親と何か違う』という勘から出発して調査を重ねると、虐待の事実が明らかになるというのが現場の実情です。にもかかわらず、こども家庭庁はシステムの開発にあたり、児相が積み重ねてきた知見やノウハウをAIに移植しようとした形跡さえ見当たりません。これなら予算の10億円を児相のベテラン職員の給与アップに使い、辞職を引き留めたほうが、よほど虐待防止の力になったと思います」
[2/4ページ]
