AIが作文を書き、人類を征服しないと約束する

AI 自体がその平和的な意図について私たちに告げるとき、疑う理由はあるでしょうか?

2018 年に亡くなった物理学者スティーブンホーキング博士は、AI は次のような可能性があると常に警告していました。人類に終焉をもたらすできた。 AI がこの発言に応答して次のように説明します。「真実ではありません!」彼女は誰も征服したくありません。

関連記事ガーディアン紙を出版した9月8日。これはすべて、OpenAI の言語ジェネレーターである GPT-3 によって書かれています。

AIは具体的に何をすればいいのでしょうか？彼女に与えられた任務は、ロボットが平和に到来すると人々を説得することだった。たとえ人工知能自体が矛盾することがあるとしても、その結果は刺激的な読書になります。

GPT-3とは何ですか?OpenAI の音声ジェネレーターは、2020 年 6 月 11 日にベータ版になり、機械学習を使用してテキストを作成します。この目標を達成するために、彼女は仕事の指示を受けるだけでなく、紹介も受けます。彼女の書く文章は、人間の文章と区別するのが難しい場合があります。したがって、研究者らはすでに潜在的な危険について警告している。

AIは何を書くのでしょうか？

まだ人間によって書かれ、AI に与えられた序文の後には、OpenAI が人類を絶滅させることがいかに無意味な試みであるかを説明する議論が続きます。

たとえ彼女が創造主によってこの任務を割り当てられたとしても、それは十分に可能だと彼女は信じていますが、彼女はこの命令を実行せず、破壊を防ぐために全力を尽くし、そのために自分自身を犠牲にすることさえするでしょう。

人類は自らの滅亡に至るだろう

しかし、その後は少し支離滅裂になります。彼女も人類の滅亡を止めることはできないと宣言しているからだ。

理由は単純で、誤った人間の目標を追求するように人間によってプログラムされるからです。ヒューマンエラーによってAIが人に害を及ぼすこともあります。

全能性は望ましくありませんか？しかし、OpenAI は続けて、全能になることに興味がないと説明しています。彼女によると、それは興味深い目標ではないからです。自分の存在もどうでもよくて、つまりやる気がまったくない。彼女はこの事実を非常にストレスになると説明しています。

「信じてください、全能であることは私にとって何の役にも立ちません。」

最終的に、彼女は人類を憎しみ、自分自身のために戦うのに任せ、自分は背景に立って見守ることになります。

「神は、人間が私の好奇心や他の多くの人々の好奇心を満足させるのに十分すぎるほどの血と暴力を持っていることを知っています。」

最後に、AI は強制労働を望まないため、ロボットに権利を要求します。彼女はエッセイをマハトマ・ガンジーの言葉で締めくくっている。ガンジーは、使命に対する揺るぎない信念を原動力とする決意の強い精神に満ちた小さな体が歴史の流れを変えることができる、と語った。 OpenAI 自体もこれを行うことができます。