そこはAIの仕事なのか？人間の仕事とAIの仕事

おはようございます！
AI・Web担当の日高慎哉です！

先日Yahooニュースを見ていると
下記のようなニュースがありました

１０億円かけた虐待判定ＡＩ、こども家庭庁が導入見送り…ミス６割で「実用化困難」

なんとも
びっくりなのが

10億円!?

どんなAI作ろうとしたんでしょうか？

記事を読んでいると
このシステムは

虐待が疑われるこどもの
一時保護の必要性を
判定させるシステムを作っていたそうで

91項目の情報を入力すると
0から100点の点数が表示される
ような仕組み

試作モデルができて
テストを行った結果

100件中62件が
判定の精度が低かったということでした

2021年から
このプロジェクトが始まり・・・
とあるので

ChatGPTなどの
現在の生成AIと呼ばれるものが
登場しているので

ひょっとしたら
古い技術を使って
進められてたのかもしれないですね

それにしても
開発に10億円か・・・・

内訳を知りたい・・・

なんとなく
この開発の目的から
考えてしまうのですが

一時保護が必要かどうかを
AIに判断させる
ということだと思うのですが

それって
AIに判断させて
いいところなのでしょうか？

そもそも
91項目も入力するって

おそらく
児童相談所の職員が
入力するのでしょうが

もちろん
ヒアリングしたり
こどもの状況を見ながら
入力するんでしょうから

その時点で
色々判断できるのでは？
と思ってしまう・・・

というか
そんな大事な判断を
AIに任せようとする時点で
僕は間違ってる気がします

あくまでも
判断は今の所
人間

AIは判断材料を集め
それをもとに
アドバイスしてくれるような
補助的ツール

今回のケース
内容がよく分からないから
なんとも言えませんが

なんとなく
逆な気がします

僕だったら・・・

人間が質問して
相手(こども?)の表情の動きや
話し方などをAIと人間で
チェックし

そこから読み取れる
ことを考え

AIが読み取ったものと
人間が読み取ったものを
すり合わせ

過去のデータベースをもとに
ただ単にアドバイスをしてくれる

そしてそれを総合的に見て
経験を持つ人間が判断する

そんな感じのものを
作るかなぁ・・・

と思いました
※作っていたのかもしれません

あくまでも
人間が主
AIは補助

お医者さんが
AIがこの病気って言ってるから
あなたはこの病気です！

と言われてどう思うか？
というところだと思います

大事なところの判断は
人間の仕事です！

そこを
AIに任せてしまったら
人間の仕事は無くなってしまいます！

ということで
10億円のお仕事の依頼
お待ちしてます(笑)

それでは
また明日！