AIはどこまで信じていいのか問題

おはようございます！
AI・Web担当の日高慎哉です！

昨日は経理系の仕事をしていて
claude codeで
ちょっとしたことを依頼していたのですが

なんか解答の精度が悪い

というか
ここのところ

何かAIのやることや回答が
ズレてる感がある

これは
ここ数日

AI界隈で
何かclaudeが
ポンコツになっている等のが
話題になっていたので

ああこの現象か・・・
となんとなく納得できました

最終的には
エラーが起き始めたから
再起動した方がいいかも

みたいなことを
AIが言い始めて

じゃあ再起動してって
言ったら

○○の売り上げは・・・

と、全く関係ないことを
言い始めた

挙げ句の果てに
再起動する前に

今までやってきたこと
メモリしたから
再起動後もすぐに続けられるよ

と言いながら
再起動したら

なんのことでしたっけ？

全てを忘れ
それまでの2時間が
パァになってしまった

結局
最新のモデルが悪いと
いうことなので

仕方なく
過去のバージョンに落として
作業する羽目に

↑こちらはちゃんと動いてくれた

さて
そんなこんなで

実際AIのこと
どこまで信じても良いか？
問題はありますね

嘘をつくという話ではなく

どこまで頼っていいのか？
ってことです

例えば
先日の巨人の阿部監督の
一件のように

AIに頼ってしまい
判断すらAIの言われるがまま
やってしまった

なんてこともあります

僕も作業なんかで言うと
単純なことは間違えんだろうと

AIに丸投げしてしまうことが
ありましたが

こんな時は
いい結果になりません

さて
どこまでAIに
頼っていいものなのか？

境界線が難しいところです

根本的には
いつも書きますが

最初の思いつきや
これやりたいは人間

そこから
やりたいことを叶えるために
抽象から具体的にするまでの

アイデアだしや
作業はAI

判断するのは人間

主な人間の仕事は
判断すること

ただ
もうちょっと
深く突っ込むと

問題は
あまり自分が知らないことで
判断がつかないときに

AIの答えに
従ってもいいのか？

こんなケースも出てきますね

知らないから
AIのいうことに任せます

これは
NGなのはわかります

いや
やっぱり
知らないことだからって

AIの指示に従っちゃいけない

判断が必要だったら
自分で責任が取れるところまでは

自分で調べたりして
判断がつくまではもっていく

そういうことかな

判断が必要なものは
ちゃんと判断材料を作る

というルールを作っておく

まあとりあえず
今回のことで分かったのは

AIの回答が悪いと
全く仕事が進まなくなったということ

スマホがないと
あたふたしてしまうのと
同じ感じ

それだけ
依存しているんだなぁと

それはそれで
怖い話です

早く
まともなAIに
戻ってほしいです

と言いながら
まともじゃなくなってるのは
自分なのかもしれません(笑)

それでは
また明日！