読売新聞が「１０億円かけた虐待判定ＡＩ、こども家庭庁が導入見送り…ミス６割で「実用化困難」」という記事を出している。10億円で児童相談所の人員を増強すればよかったのにもったいないなあと思った。
これをQuoraで書いたところ様々な声をもらった。浮かび上がってきたのは日本人の戦略思考のなさだ。ただ、それをまとめて課題を抽出しようという人はだれもいない。つまり10億円の失敗から学ぶこともないのだから、この10億円は本当に単なる無駄遣いに終わってしまうだろう。実にもったいない。
このシステムは
- 慢性的な人手不足解消の目的で
- 児相の利用を想定し
- 5000件のデータを集め
- 10億円をかけて
- 2021年から
作った。
失敗要因は
- 5000件とデータが少なかったこと
- 体重減少など重要な項目が抜け落ちていたこと
である、とされている。
10億円では少なすぎる
まずQuoraで多かった意見は「そもそも10億円は少なすぎる」というものだった。少し意外な気がするのだが「単体のプロジェクト」で10億円づつ無駄遣いされても困るので汎用意思決定システムを作り簡単なものから始めるべきだったということになる。
現在の国家予算はすべて単年度・省庁主義になっているため「総合意思決定システム」のようなものは作られない。これを変えてゆくのが行政改革だと思うのだが何十年も全く議論が進展しない。個別プロジェクトの失敗から課題を抽出視共有するという作業を怠っているからだろう。
プロトタイプから始めるべきだった
まずテストプロジェクトから始めるべきだという指摘はYahooニュースのコメント欄にも出ている。
これを克服するためにはまず「何をAI化すべきか」を決めたうえでテストプロジェクトを走らせる必要がある。そのためにはまずAIによる意思決定補助が予算削減につながるであろうというゴールを決めたうえで綿密な計画を建てなければならない。
もちろんこれを実現する自由度はプロジェクトにはなかっただろう。そもそも起点が「児相人員不足の解消」だからだ。
この綿密な計画を戦略と言っている。つまり日本の行政に戦略志向がないことが失敗の原因だったとわかる。そして今の国家予算の立て方は戦略志向のアプローチに向いていないということがわかる。このため戦略特区を作ろうという動きはあるがたいてい誰かの利権を確保するためだけに使われてしまっている。
戦略的思考ができないからまずお金を積んでおこうということになる
戦略的な思考がないため、各省庁にはいつも「人とお金が足りない」という感覚がつきまとう。結果、各省庁はなんとしてでも自分たちが自由にできるお金を積んでおかなければという強迫観念にとらわれる。これが積もり積もったのが立憲民主党が指摘した各種基金である。
問題は思考法なのだから基金を一つひとつあげつらって「あれは無駄、これはだめ」と言っていても何も始まらない。
しかしこれも失敗事例から課題を抽出しないのでいつまで経っても気づきに結びつかない。
項目が足りない
国家予算の立て方云々の話ばかりをしていても仕方がないのでプロジェクト管理についても見てゆこう。
ヤフーコメントでは「項目が足りない」という指摘が出ている。これはかなり気になる。
最初のシステムで項目が足りないねということになった。普通は「では項目を足してみましょう」ということになるはずだが、今回は「じゃあ10億円はすべてなかったことに」となってしまっている。なぜここで諦めてしまったのかが全く謎なのだ。
エキスパートの中には「膨大な資料の入力が手間だった」と言っている人もいるがそもそもなぜ入力しなければならないのかがわからない。AIに聞き取りさせたうえで文字起こししてやればいい。
ただし（どういう理由かはわからないが）調査票を作ってからそれを入力させるという方式に拘っていたことがわかる。ChatGPT（SFではなくすでに出来ている）のような自由会話形式ではなかった。
日本の生産性を大きく阻害する職人気質という罠
ある識者は「感覚が重要」と言っている。日本は職人気質の暗黙知の国なのでこうした発言は肯定的に受け止められる。児童相談所の職員は長い時間をかけて感覚を研鑽しなければならない。これを「道」と言って尊んだりする。
しかし形式知の国では「感覚的な経験にとどまり定式化出来ていない」とみなされる。汎用性がなく生産性が上げられない。
しかし、仮に児童相談所の職員にそんなことを言おうものなら大騒ぎになるだろう。
- あなたは私が長年培ってきた感覚を否定するんですか！
- もしかしてAIも我々をリストラするための口実なのでは！
- そもそも児童相談所の職員は足りていないのです！
- マネジメントはすべてを現場に押し付けている！！！
プロジェクト担当者が児相の敵と認定される瞬間だ。
このエキスパートは「児童相談所の職員と家庭とのふれあいが大切」といっている。そんな繊細なものを機械に取って代わられてたまるかということだ。プロジェクトの失敗を通じて「私の仕事はかけがえのないものだった」と認識してしまう人がいる。
また、別の識者は「実際に判断は１つ１つが異なる」と主張する。日本人はそもそも生産性を上げるより「自分の仕事の芸術性」に拘ってしまうということがわかる。
これを回避するためにはAIを「オラクル」から「意思決定補助者」に切り替えなければならない。つまりAIは新しい支配者ではなくあなたの従者だということだ。ドリルダウン・会話型のChatGPTはその一つの成功例だ。
一つひとつの判断にもそれぞれ共通するキードライバーがあるはずだ。ところがエキスパートの話を聞く限り現場は何がキードライバーなのかわかっていない。であればそれをAIに支援させて発見すれば良いだけの話だ。現場の判断を精緻化し次世代の相談員の育成が楽になり児相の職員の負担が減る。
つまりこれは児相の職員を助けるためのプロジェクトであると見せなければいけないということだ。このようにプロジェクトを浸透させるためにはそれをBuy-in（賛同・良いものと受け入れてもらうこと）してもらう仕組みが必要だがそのような戦略の痕跡もない。
と同時に児相の職員のなかにある「私たちが長年培ってきた感と経験を理解されてたまるか」という気持ちが組織全体の生産性を下げていることに気がついてもらわなければならないだろう。意思変革も重要だ。
自前主義と敗北主義
実はこのニュースには報道されていないことがある。
音声認識で内容を要約するというサービスはすでに完成している。その代表例がChatGTPだ。会話式なので使っているうちに項目も整理される。最初は児相の職員が思いつくままに自分の考えを入れてゆくが、そのうちに「何を聞けばいいか」という要点を学習しAIがプロアクティブに質問をするようなしかけも作ることができる。
すでに実装されているサービスが全く考慮されていないことから「おそらく国産AI開発の口実に利用されたのだろう」という推論が成り立つ。
これは「車輪の再発明」と呼ばれる最も無駄な行為である。
さらにQuoraで気になったのは10億円では足りませんよという「識者」たちの諦めだ。とはいえ建設的な提案はなく「だからいつまで経っても日本のAIはダメなんだよねえ」で終わっている。日本は30年もの間AIプロジェクトで成功していないため引用できる成功事例が少ない。自分は成功事例がないという無力感に直面したくない人たち陥るのが「だからダメなんだ」主義だ。では20億あれば成功したのかを問うのはやめた。おそらく返事はないだろう。
今回は短いニュースを題材に課題を抽出するという作業をやってみた。Quoraの政治スペースは8700人規模だがそれなりの知見やコメントが対話型で抽出できるくらいの人が揃っている。マスコミはもっと大掛かりなパネルを持っているはずなのでやる気になれば課題の抽出くらいは簡単にできるはずなのだ。
なぜそれを誰もやろうとしないのかと考えてみたのだが理由がわからない。いずれにせよ失敗例から学ばなければこの10億円は本当にただの無駄金になってしまう。こんなもったいない話はない。