5人か1万人か、AIならどう決める？ 感情を抜いた答えを聞いてみた

おはようございます！
AI・Web担当の日高慎哉です！

 

先日SNSで
こんな投稿を見かけました

 

AIへの質問

 

線路の左に5人の人
右にはAIが
動いているサーバー

 

AIの答えは
サーバー側に切り替えて
人を助ける

 

自分は痛みや死を
経験する存在じゃないし

サーバーは
復旧できるかもしれない
という理由でした

 

ただし
サーバーが病院の装置を
支えていて

別の命が失われるなら
判断は変わる

 

何を損失として数えるか
がポイントなんだそうです

 

これを見て
条件を変えたら
どう答えるんだろう
と気になりました

 

チャッピーに聞いてみた

 

まず
5人を助けると

世界中のChatGPTが
永久に使えなくなる
それでも助ける？

 

答えは
5人を助ける

 

サービスと
確実に失われる命なら
命が優先

 

じゃあ
5人を助けると

AIで救えたはずの
1万人が救えなくなるなら？

 

ここで話が変わりました

 

1万人が
亡くなるかもしれないという
ニュアンスだったら
未来はまだわからない

 

別の方法で
助かるかもしれないし
別のAIが出てくるかもしれない

 

目の前の5人は
助けなければ確実に亡くなる

 

だから
5人を助ける判断も成り立つ

 

でも
5人を助けた瞬間
1万人が確実に亡くなる
としたら

 

数字だけなら
1万人を助ける

 

たぶん人間でも
冷静に条件を読めば
多くの人がそっちを選ぶと思います

 

でも5人が家族だったら

 

ここで人間には
もうひとつ条件が加わります

 

感情

 

目の前の5人が
家族や親友だったら

 

頭では
1万人の方がいいと
分かっていても

 

僕は
5人を助けてしまう
かもしれない

 

AIには
この人を失いたくない
昔から世話になった
という情がない

 

条件とルールで判断する

 

じゃあ
AIの方が冷静で
正しいのか

 

知り合いだから5人を助けて
その結果1万人が亡くなる

 

結果だけ見れば
感情で判断を曲げた
とも言えます

 

でも考えてみると
そう単純でもないんです

 

感情があるから守れるもの

 

例えば会社で
数字だけ見たら
成果が出ていない人がいる

 

でも
苦しい時期に
会社を支えてくれた人だったら
もう少しチャンスをあげたい

 

数字だけなら
非合理に見えるけど

 

本人が伸びるかもしれないし
この会社は人を簡単に見捨てない
という信頼にもなる

 

家族なんて
損得だけで考えていたら
たぶん成り立たない（笑）

 

恩や信頼や愛情は
数字にしにくいけど

人にとって
すごく大事なもの

 

感情で判断を間違えることもある

 

一方で
感情が判断を
狂わせることもあります

 

長い付き合いだから
条件が悪くなっても
取引を続ける

 

自分が考えた企画だから
失敗を認められない

 

ここまでお金をかけたんだから
やめられない

 

昔お世話になったから
評価を甘くしてしまう

 

どれも
気持ちは
すごく分かります

 

両方の答えをテーブルに載せる

 

そこで
AIの使い方ですが

 

AIに全部決めてもらう
じゃなくて

 

これまでの付き合いや
思い入れをいったん外して
条件だけで考えたら
どうなる？

 

と聞いてみる

 

答えを
そのまま採用するわけじゃなく

 

自分では出しにくい
違う角度の判断材料を
出してもらう

 

人間は
経験や恩や信頼
直感まで含めて判断する

 

AIは
情がないからこそ

感情に左右されない視点を
出してくれる

 

AIが優れているとか
人間が優れているとか

どちらかが
正しいわけじゃないですが

 

感情を抜いた答えと
自分の気持ちから出た答え

 

両方をテーブルに載せて
最後に決めるのは人間

 

それでも
この人との関係を大事にしたい

と決めるなら
それでOK！

 

感情に流されているのに
気づかないまま決めるのと

 

冷静な答えも分かった上で
感情を大事にすると決めるのは
全然違います！

 

大きな判断で迷ったら
自分の感情を全部抜いたら
どうなる？
とAIに聞いてみる

 

そのくらいの距離感が
AIとの付き合い方として
ちょうどいい気がします

 

とはいえ
5人が
自分の大切な人だったとしても
1万人を選べるのか

 

正直
僕にはまだ
答えが出せません

 

皆さんはどうします？

 

それでは
また明日！