イーロン・マスクと専門家は「巨大な AI 実験」の停止を要求
※転載させていただきます。
※機械翻訳
億万長者の大御所であるイーロン マスク氏とさまざまな専門家が水曜日、強力な人工知能 (AI) システムの開発を一時停止し、それらが安全であることを確認する時間を確保するよう求めました。
マスク と Apple の共同創設者である スティーブ・ウォズニアックを含むこれまでに 1,000 人以上が署名した公開書簡は、マイクロソフトが支援する企業 OpenAI からの GPT-4 のリリースによって促進されました。
同社によると、最新のモデルは、最も短いプロンプトからテキストのトラクトを生成できるボットである ChatGPT を強化するために使用された以前のバージョンよりもはるかに強力です。
「人間と競合する知性を備えたAIシステムは、社会と人類に重大なリスクをもたらす可能性があります」と、「巨大なAI実験を一時停止する」と題された公開書簡は述べています。
「強力なAIシステムは、その効果がプラスになり、リスクが管理可能になると確信した場合にのみ開発する必要があります」.
イーロン・マスク はOpenAIの初期投資家であり、何年もその取締役を務めていました。Musk の自動車会社である Tesla は、他のアプリケーションの中でも自動運転技術を強化する AI システムを開発しています。
イーロン・マスクが資金を提供する Future of Life Institute が主催する書簡には、OpenAI の著名な批評家や、Stability AI のチーフである Emad Mostaque のような競争相手が署名しました。
同じく署名者であるカナダの AI パイオニアである Yoshua Bengio 氏は、モントリオールでの仮想記者会見で、この強力なツールとその誤用の可能性に対して「社会はまだ準備ができていない」と警告しました。
「ゆっくりしよう。より良いガードレールを開発するようにしましょう」と彼は言い、「私たちが原子力や核兵器について行ったように」、AI とその意味についての徹底的な国際的な議論を求めました。
この書簡は、OpenAI の創設者 Sam Altman が書いたブログから引用されたもので、「将来のシステムのトレーニングを開始する前に、ある時点で独立したレビューを受けることが重要になるかもしれない」と示唆しています。
“私達は同意します。その点は今です」と公開書簡の著者は書いています。
「したがって、すべての AI ラボに、GPT-4 よりも強力な AI システムのトレーニングを少なくとも 6 か月間直ちに一時停止するよう求めます。」
彼らは、政府が介入し、企業が同意しない場合はモラトリアムを課すよう求めた。
6 か月は、安全プロトコル、AI ガバナンス システムを開発し、AI システムがより正確で安全で、「信頼でき、忠実」であることを保証するための研究に再び焦点を当てるために使用する必要があります。
この書簡には、GPT-4 によって明らかになった危険性についての詳細は記載されていませんでした。
しかし、書簡に署名したニューヨーク大学のゲイリー・マーカスを含む研究者は、チャットボットは大嘘つきであり、偽情報のスーパースプレッダーになる可能性があると長い間主張してきた.
しかし、著者のコーリー・ドクトロウは、AI 業界を「パンプ アンド ダンプ」スキームになぞらえ、AI システムの可能性と脅威の両方が非常に誇張されていると主張しています。
以上