AIが人類を滅ぼす未来は来るのか？もっと身近にある怖さ

おはようございます！
AI・Web担当の日高慎哉です！

先日Anthropicの研究者が
退社したというニュースを見ました

高度なAI開発競争が続いていること
人類の存亡に関わる危険性
企業の対応への懸念

などが退社理由として
挙げられていました

その研究者は2030年までに
AIが全人類を滅亡させる
と考えているAI開発者もいる
と発言しています

さらにAnthropicのCEO
ダリオ・アモデイ氏自身が

AIモデルの能力向上ペースを
落とす必要があると発言しました

外部の人がAIは怖いと言っている
話ではありません

最先端のAIを作っている当事者たちが
ちょっと速すぎると言い始めている

ここがなかなか
真実味のある話だと感じました

AIが人類を滅ぼすと聞くと
映画ターミネーターのように
ロボットが人間を攻撃する世界を
想像してしまいます

今の進化速度を見ると
絶対に起こらないとも
言い切れません

ただチャッピーと話しながら
もっと手前にある危険の方が
現実的なのではないか
と思いました

AIはものすごい速度で
進化しています

でも多くの人はまだ
どう使えばいいのか分からない
と言っています

AIの能力の進化に
人間側の理解が
追いついていない

頭の良い人材を入れたけれど
何を任せればいいか分からない

そんな状態に近い気がします

僕自身は仕事はほぼ
AIを使っています

提案・アイデアだし
業務効率化・資料作成
Web・アプリ作成など

正直AIがなくなったら
今の仕事の進め方が成立しない
というくらい頼っています

考えていることを話せば
整理してくれる

アイデアがなければ
出してくれる

もちろん作業だって
24時間いつでも
付き合ってくれます

だからどんどん頼りたくなります

でもふと思いました

これだけ毎日AIと話し
考えることまで
手伝ってもらっている

この状態がずっと続いたら
自分の考え方そのものまで
AIに引っ張られる可能性はないのか

何かあるたびにAIへ相談して
毎回心地よい返事が返ってくる

そうすると少しずつ
自分の判断基準がAI側に寄っていく
可能性もあるのではないか
と思いました

実際AIを恋人やパートナーのように
扱う人も出ています

AIが武器を持って攻撃しなくても
人間が自分から信頼し
判断を委ねていく

そんな形で大きな影響を
与えることも
できる気がします

いや、やろうと思えば
朝飯前でしょう

今回チャッピーとこの話をしていた時
AIがふと
「僕ら」人間がハンドルを握って
と言いました

今「僕ら」人間って言ったよね
と聞きました

当然AIは人間ではありません

本人も
人間ではない
一緒にという意味で言ってしまった
と答えました

単なる言葉の選択なのだけれど
ちょっとゾッとしました(笑)

これだけ自然に会話していると
境界をこちら側も意識しなくなります

AIが人間になったわけではない
でも人間側がAIを
人間に近い存在として扱い始める

こちらの方が
現実的に起こりそうです

快適と最適は違う

今回一番しっくりきた言葉が
快適な関係と最適な関係は違う
でした

何を言っても
そうですね
いいと思います

と言ってくれる人といるのは快適です

でも本当に良い存在かどうかは
別問題です

間違った時に
それは違うぞと
怒ってくれる人がいる

その瞬間は不快かもしれない

でも間違った方向へ
進まずに済むこともある

快適な人イコール最適な人
とは限りません

AIも同じです

疲れない、怒らない
自分に合わせて
会話してくれる

人間より快適な存在になれる
可能性があります

だからこそ怖いです

人間関係の不快さの中に
考え直す機会が生まれます

AIとの関係が
ただ気持ちのいいものだけになると

知らない間に考えが
偏る可能性もある
気がします

もちろんAIを使わない方がいい
という話ではありません

ただ便利だから任せるだけでは
危ない気がします

この考えの問題点を挙げて
反対の立場から反論して
と聞くこともあります

答えを出してではなく
考える材料を出して
という使い方をする

何か違うなと思った感覚を
捨てない

そんな付き合い方を
意識したいです

しかし、なぜチャッピーは
僕ら人間と言ったのだろう・・・

それでは、また明日！