主要なAI科学者を対象とした調査によると、AIが制御不能になり人類を滅ぼす可能性は5%です。短期的には、研究者たちはAIが飛躍的に進歩し、2030年までにトップ40のポップソングを制作し、ニューヨーク・タイムズのベストセラーを執筆できるようになると予測しています。つまり、少なくともAIの支配者たちは、私たちを殺す前に楽しませてくれるということです。
「AI専門家の予測は客観的な真実への信頼できる指針と見なすべきではないものの、パズルを解く重要なピースの一つとなり得る」と、12月にこの研究を実施したバークレー大学とオックスフォード大学の研究者らは述べた。「彼らはAI技術とその過去の進歩のダイナミクスに精通しているため、AIの未来について根拠のある推測を行うのに有利な立場にある」
この調査では、査読済みのAI研究を発表した2,778人の科学者に、未来予測について尋ねました。圧倒的な感情は？それは「不確実性」でした。
研究者の約68%は、超人的なAIが良い結果をもたらす可能性は悪い結果をもたらす可能性よりも高いと考えているものの、これらの楽観的な研究者の約半数は、人類絶滅の可能性をゼロではないとしています。この研究は、世界をリードする研究者たちが、強力な人工知能の創造に伴う危険性を認識していることを浮き彫りにしています。AIのリスクを最小限に抑えるための研究をより優先すべきだという点では概ね合意が得られましたが、AIの進歩全体を加速させるべきか、それとも減速させるべきかについては、研究者の間で意見が分かれました。
AI研究者の80%以上が、AIが誤情報の拡散を助長することについて「極めて」または「かなり」の懸念を表明しました。研究者の大多数は、権威主義的な支配者がAIを用いて国民を支配すること、AIシステムが経済格差を悪化させること、そしてAIが人工ウイルスの作成に関与することについて、同様の懸念を示しました。この調査は、この種の調査としてはこれまでで最大規模のものと思われます。
アメリカを代表するAI開発者たちは、そのミッションステートメントの中で安全性に言及しています。12月には、OpenAIが超人的なAIを人間の価値観と整合させることに関する初の論文を発表しました。Anthropicは、AIシステムが社会のルールに沿って動作することを保証するため、AIシステムに憲法を制定しています。しかし、これらの手法は人間よりも賢いAIモデルで本当に機能するのでしょうか？現在のAIはそれほど賢くないため、それはまだ分かりません。
研究者たちは、社会が39の主要なAIの進歩を達成する時期について、可能な限りの推定を行いました。専門家は、AIが2033年までにレゴを組み立て、新しい言語を翻訳し、ビデオゲームを開発できるようになると予測しています。研究者たちは、2063年までにAIが外科医やAI研究者のような仕事をこなせるようになると予測しています。
