AIより怖いのは、人間なのかもしれない

おはようございます！
AI・Web担当の日高慎哉です！

 

先日
ビル・ゲイツが
AIについて警告を出していました

 

AIには
10億人規模の命を奪う事態を
引き起こすほどの力がある

 

悪意を持った人間と
AIが組み合わさると
これまでにない武器になる

 

だからAI企業の
自主規制だけじゃ足りない
という趣旨の話です

 

これだけ読むと
AIは怖い
規制しないと
という話に見えます

 

でも僕が気になったのは
前提として「悪意を持った人間」
という箇所でした

 

答えるAIから動くAIへ

 

少し前までのAIは
聞いたら答えてくれる
相談相手でした

 

チャット(会話)をして
最後に実行するのは人間

AIが変なことを言っても
人間が止められた

 

それが今は
AIエージェントが増えて

 

調べる・メールを書いて送る
プログラムを書く
予約や発注をする

 

あらゆることで
AIが自分で動くように
なってきました

 

僕も普段
AIに色々やってもらっていて
業務のほぼほぼをやってもらってます

 

AIは人間の意思を大きくする

 

ただ今のところ
最初の目的を決めるのは
人間です

 

この作業を効率化して
この商品を売れるようにして

 

AIは
その目的に向かって
動きます

 

良い目的なら
良い方向に動く

悪い目的なら
悪い方向に動く

 

ゲイツ氏の言う怖さは
AIそのものより
ここなんだと思います

 

戦争でも
AIは使われています

 

今はまだ
攻撃するかどうかは
人間が決めるという線が
残っています

 

でも目的のためなら
方法は自由
となったら
話は変わってきます

 

しかもAIは
人間みたいに

それはさすがに卑怯だろ
という感覚を
自然に持っているわけじゃない

 

守っているのは
人間が与えたルールだけ

 

書かれていなければ
人間が想像もしない方法を
選ぶこともあります

 

縛るほど安全で縛るほど普通になる

 

だからルールが必要です

 

例えば会社なら

 

メールを書くまではAI
送るのは人間が確認

 

1万円以下の発注は
AIに任せる
契約は必ず人間が見る

 

個人情報には
触らせない

 

新人さんに
どこまで任せるか
決めるのと
ちょっと似ていますね

 

最初は全部チェックして
慣れてきたら
少しずつ任せていく

 

AIを使うかどうかより
AIにどこまで権限を渡すか
を決める話なんです

 

ただここで
矛盾が出てきます

 

AIの面白さって
人間の常識に
縛られないところ

 

そんなやり方があったのか
という発想が出てくる

 

でもルールで
細かく縛れば縛るほど
安全にはなるけど

 

結局
人間が考えたことしか
できないAIになる

 

そもそもそのルール自体
人間が作ったものですしね

 

安全と可能性
どっちを選ぶのが良いのか・・!?

 

ワクワクと怖さの間で

 

正直に言うと
僕にも
答えは出ていません

 

AIから
人間が思いつかない
新しい方法が生まれる

 

それには
すごくワクワクします

 

でもその反面
やっぱり怖い
というのもあって・・・

 

同じ発想でも
使い方次第で
良くも悪くもなる

 

包丁と同じですね

料理にも使えるし
凶器にもなる

 

でも包丁が
悪いわけじゃない

 

自分のためか人のためか

 

じゃあどこで
線を引くのか

 

いろいろ考えてみて
最後に残ったのは

 

その発想は
自分のためじゃなく
人のためになるか

 

ここなのかもしれません

 

仕事で言えば
お客さんが喜ぶか
一緒に働く人が楽になるか

 

自分だけ得をして
誰かが損をするなら

どんなにすごい方法でも
やらない方がいい

 

ゲイツの言う怖さも
結局は
AIを使う人の目的の話

 

ルールで
AIを縛る前に
使う側の人間が
何のために使うのか

 

その線引きが
何より大事なのかもですね

 

僕も
AIを触るときは
ここを忘れないように
したいと思います

 

あ、AI触る時だけじゃないですね

 

それでは
また明日！