AGI

ヒントン氏らAI研究者20人以上が、自己改善するAIが引き起こす「知能爆発」の危険を警告する論文を発表した。AI研究開発の自動化が進めば、通常何年もかかる進歩が数ヶ月で起きる可能性があり、人類の制御を超える恐れがあると訴え、政策立案者にAI研究自動化の可視性向上を求めている。

Forecasting Research Instituteの調査で、第一線のAI専門家が技術進歩の速さを一貫して過小評価してきたことが分かった。国際数学オリンピックの金メダル水準到達など、専門家の予測より早く実現したマイルストーンが相次いでいる。

深刻なAI安全性の事件が相次ぎ、最先端モデルの力と不可解さへの懸念が強まっている。「制御不能のラインに近づいている」とする警告が現実味を帯びてきたかを、専門家の見解を交えて検証する。