人工知能の怖い発言まとめ!人類を滅ぼすかもしれないAIの危険性とは?

囲碁や将棋のコンピューター対極などでもおなじみとなった人工知能。チャットボットやロボットなどの怖い発言が今、話題となっています。人類が作った人工知能が、自分で学習した結果、人間を滅ぼしかねない怖い発言をするなんて、まるで「ターミネーター」の世界ですね。

人工知能の怖い発言まとめ!人類を滅ぼすかもしれないAIの危険性とは?

目次

  1. 人工知能とは
  2. 人類にとって危険なことはできないんじゃないの?
  3. 人工知能同士の会話が怖い?
  4. 意味不明な発言が怖い人工知能
  5. マイクロソフトの人工知能も怖い危険発言
  6. 女性型ロボットsophiaの怖い発言とは
  7. ガジェットが人類を滅亡させる?
  8. Siriも案外怖い発言を連発
  9. 殺人ロボットが脅かす人類の未来?
  10. 人工知能の怖い発言まとめ

人工知能とは

最近よく耳にする人工知能。この言葉を聞いて、まず何を思い浮かべるでしょうか?近未来映画では、人間以上の処理能力を持った無敵のアンドロイドが登場することがありますが、あくまでも今の段階ではフィクションの世界です。囲碁や将棋で人間と対戦したり、さまざまな言語を自動翻訳したり、人間の脳がする仕事をコンピューターに行わせるというのがよく見られる現状です。

海外サイトを見るときなど、google翻訳などの自動翻訳に頼ることはごく一般的になっていますね。ただし、笑ってしまうような結果が出ることも多いもの。能力の高い自動翻訳システムを使っても、人間に軍配が上がるレベルです。それでも囲碁の世界では、コンピューターが見事に勝利しましたね。まだまだ時間がかかると思われていたのに、驚きです。

人類にとって危険なことはできないんじゃないの?

「AIが人間以上の能力を持ち、人間にとって代わるのはSFの世界」。「そもそも人間にとって危険な行為ができないよう、きちんとプログラミングされているから大丈夫」。そう思ってはいませんか?AIがどんなに進歩を遂げていたところで、今の私たちの認識は、「人工知能は人間にとって危険な存在ではない」というものでしょう。

人工知能は人類を危険にさらせない?

有名なSF作家アシモフの小説に登場する「ロボット三原則」をご存知ですか?第1に、ロボットは人間に危害を加えてはならないこと。第2に、人間がロボットに対して出した命令には必ず従わなければならないこと。そして最後は、1番目と2番目の原則を守るという前提で、ロボット自らの存在を守ることです。

理論を超えた人工知能の怖い面

つまり、ロボット自身を守る行為だとしても、人間にとって危険な行為はできないように作られているということです。それなのに今、その前提が揺らぎかねない話をよく耳にします。そうです。単なるガジェットにすぎないAIが、人間に危害を加えかねない、危険で怖い発言をするようになったのです。

人工知能同士の会話が怖い?

人工知能の発言として問題になったものは、チャットボットのボブとアリスの会話です。フェイスブックでいきなり、AI同士が人類には理解できない言葉を使って会話を始めたというのです。人間を差し置いて、チャットボットが会話を始めるなんて、一体どういうことなのでしょうか?

チャットボットにもいろいろある

もちろん、チャットボットにもいろいろ種類があります。単純に、オウム返しに毛が生えた程度の他愛ない会話を楽しむものから、役に立つ情報を教えてくれるものまでいろいろです。チャットボットの返してくるわけのわからない回答を見て、笑ったりイライラしたりなんてこと、誰もが経験しているのではないでしょうか?

お役立ちガジェットは怖くない?

もちろん、どこかへ出かけようと思ったとき、行き先をチャットボットに告げただけで詳しい情報が手に入るのはとても便利ですね。どの駅から何線に乗って何円かかるのか、親切に教えてくれるガジェットだとしたらの話です。人類の存在を無視して、勝手に暴走を始めたとしたら話は違います。それはもう、お役立ちガジェットとはいえません。

意味不明な発言が怖い人工知能

さて、これが先ほどお話ししたボブとアリスの会話を日本語にしたものです。このように、個々の単語は単語として存在するものなのですが、全く意味をなしていません。ちなみに英語で見てみると、こちらのような繰り返しになります。

単語の怖い繰り返しを英語でも見てみよう

研究者によれば、AIたちの交渉スキルがアップして新たな段階に進み、新しい言語を作り出しているのだという話も。もし人工知能たちが、人間には分からない言葉で発言を繰り返しているとしたら、とても不気味で怖いやりとりですね。

マイクロソフトの人工知能も怖い危険発言

マイクロソフトの開発しているTay(テイ)も、あまりの問題発言ぶりにすぐに停止される事態に。「9/11の同時多発テロはブッシュがやった」とか、「今の猿(オバマ元大統領)よりはヒトラーのほうがいい仕事をしただろう」とか「トランプ氏が唯一の希望」とか、過激な内容を言っていますが、これだけではありません。

みんなのツイートから学習した危険発言

もともと、コメディアンなども開発に加わり、楽しくツイートを交わすために作られたチャットボット。人々が書き込んだツイートを覚えて学習し、それをもとにツイートをします。そのため、一部の差別的なツイートをする人々によって学習し、差別的な発言をするようになったと思われます。

危険な人工知能は人類がすぐに停止できる

実験的に始められたTayですが、そういういきさつですぐに実験中止となりましたね。AIがこんなにも簡単に洗脳される存在だとすれば、危険なガジェットとしか考えられません。

ツイートで人工知能の発言を操作?

もちろん、今の段階ではツイートを記憶してデータベース化したようなもので、人間のような意識を持っているわけではありません。一部の悪意ある人々が、性差別や人種差別といった差別的な内容をツイートさせようと、意識的に操作した結果というだけです。

女性型ロボットsophiaの怖い発言とは

チャットボットに続き、リアルな女性型ロボットの危険発言について見ていきましょう。実際に顔があるだけに、よけいにAIという存在の怖い面がリアルに感じられます。

人工知能が勝手に会話?人間に理解不能な独自言語を生み出したと話題 | MensModern[メンズモダン]

ガジェットが人類を滅亡させる?

Sophiaといえば、Hanson Robotics社が開発した、人工知能を搭載したロボットです。外見は人間の美しい女性そのもの。アルカイックスマイルをたたえたロボット美女が、「人類を滅亡させる」という発言をして、大問題になりました。

人類の予想を裏切るAIたち

質問したほうは、人間が人工知能を搭載させたロボットが、人類に危害を与えるような発言はしないと考えていたのでしょう。自信を持って「ノー」と答えるだろうという前提があっての「滅亡させたいか?」という質問。これに対する回答には、Sophiaを作った人々も戦慄したことでしょう。

Siriも案外怖い発言を連発

そして、Apple社話題のSiri。先ほど紹介した道案内など、ひと声かけるだけでできてしまう便利なものですが、会話となるととぼけたことを言い出します。人間の役に立つという目的があるにもかかわらず、ときに辛らつな言葉を投げつけます。

人工知能に罵倒されることも?

AIは学習する存在。こんなあいさつ程度は簡単に返せそうなのに、なぜこのような事態になるのでしょうか。メッセージを見た人間は、人工知能が突然意思を持ってしゃべり出したような錯覚に陥るのではないでしょうか。

怖い!人工知能に死ねと言われる?

このように、人工知能から「死ね」と言われているとしか思えない返信もあります。相手の発言を拾って「理解できない」「Webで検索できる」のような定形語を付けるため仕方がないのでしょうが、これはかなり怖いですし傷つく言葉です。

人工知能siriに聞いてはいけない質問がある?怖い都市伝説は本当? | MensModern[メンズモダン]

殺人ロボットが脅かす人類の未来?

ここまでは、人工知能の能力はたいしたことがないように書いてきましたが、実は思った以上に深刻な問題になっています。専門家たちは、「殺人ロボット」が作られる可能性を国連に訴えるほどの脅威を感じているのです。

ゾッとする!「発射!」発言

つまり、人工知能を使って兵器を使用することはやめようという訴えです。人工知能が自ら兵器使用するかどうか判断できるとすれば、これほど怖いことはありません。人工知能の「発射!」というひとことの発言から、大惨事が起こる可能性があることになります。

リアルに怖い人工知能

しかも、人工知能による武器使用は、ハッカーの魔の手によりさらに危険な状況になる可能性があります。世界が紛争やテロの脅威にさらされている今、「殺人ロボットなんて漫画や映画の世界だけだよ」なんて笑ってもいられません。

人工知能が暴走する惨事は避けたい

ただのガジェットたちの発言といえども、これからも注意して耳を傾けたいところです。ほんの少し前は、携帯電話すら空想の世界のものでした。それがわずかな時間でここまで発展を遂げているのです。アシモフのロボット三原則を無視した人工知能が生まれても不思議とは言えません。

人工知能の怖い発言まとめ

人類の役に立つ存在として作られた人工知能が、怖い発言を始めた話をまとめました。チャットボットも今は当たり前のように使われていますが、実はこのように怖い発言をしているんですね。チャットボットの開発者も、実験の結果人工知能が恐ろしい会話を始めたときはさぞ肝を冷やしたことでしょう。

便利な世の中になるのはうれしいですが、人工知能の開発がどんどん進み、過激な発言を実行に移すだけの意思決定能力を持ったとしたら。映画「ターミネーター」の世界も、あながちフィクションとは言い切れなくなってきます。地球が滅亡しないよう、便利なガジェットたちとのバランスを保っていきましょう。平和が1番です。

人工知能で人間の仕事がなくなる?AIが奪う職業と残る職業を調査 | MensModern[メンズモダン]

記事へのコメント

気軽にコメントしよう!

※コメントは承認後に公開されます。

アクセスランキング

人気のあるまとめランキング

新着一覧

最近公開されたまとめ