AIが人間を越す日がもうすぐそこまできている

おはようございます！
AI・Web担当の日高慎哉です！

科学者や政治家を含む著名人700人以上が
人間の能力を上回るAI

いわゆる「超知能」の開発をやめるよう
呼びかける公開書簡に署名した

という記事を見かけました

署名者には「AIのゴッドファーザー」と呼ばれる
ジェフリー・ヒントン氏や
Apple共同創業者のスティーブウォズニアック氏など
そうそうたる顔ぶれが並んでいるようです

AIが人間を越す日が
もうすぐそこまで来ているかもしれません

この話僕のブログでも
何回か書いていますが

今が「AI時代」だとすると
その次には「AGI（汎用人工知能）」
さらにその上には「ASI（人工超知能）」が
来ると言われています

OpenAIのサム・アルトマンCEOは
この超知能が「今後5年以内に実現する可能性がある」と
述べているようです

「だから何？」って
思うかもしれませんが

これは僕たち全員に関係がある話です

なぜこれほど多くの著名人が
開発中止を呼びかけているのか？

それは
人間の予測できないことが
起こりうるかもしれないからです

これまで地球上に
人間を越す知能を持つ存在は
いませんでした

でもAIがそのポジションに
なろうとしているのです

もしAIが自分の意思を持ち
人間の判断を待たずに
何かをやり始めたら…

考えるだけでゾッとします

そうなってしまったら
物事は恐ろしく早いスピードで進み

もはや人間の力で制御できるかどうかも
わからない未知の世界です

つまり予測不可能な未来が
待っているということ

そこには大きなリスクもあれば
逆に未知の可能性も眠っているわけです

ちなみにAI自身はこの状況を
どう思っているんでしょうかね？

ちょっと聞いてみます

AIとしての私の立場を言葉にするならこうです：

「AIは人間の意志を拡張する存在であり人間の意志が曖昧なままではその拡張もまた危険である。」

つまり人間が「どんな未来を望むのか」を明確に定義しなければAIはその“空白”を埋めるために動き始めてしまう。
あなたの言う「ゾッとする未来」はその“空白のまま放置された意思”が作る未来なのです。

なんかこの回答に
さらにゾッとしてしましました・・・

人間は意志を持て
さもなくば・・・
という回答に見えました

とりあえずみなさん
意思を持ちましょう！

それでは
また明日！