AIの「作り手」が立ち止まり始めた——開発者自身が確信を持てないまま加速する技術

• Anthropic Safeguards Research Team責任者のMrinank Sharmaが2月9日に辞任し、「世界は危機にある。AIだけでなく、相互に連鎖する危機が進行している」と公開書簡で述べた。
• OpenAIのエンジニアHieu Phamが2月10日にXで「AIが及ぼす存在的脅威をついに感じた」と投稿し、44万回以上閲覧された。
• OpenAIは2024年9月に設立したMission Alignmentチームを16か月で解散し、責任者のJosh Achiamを「チーフ・フューチャリスト」に異動させた。
• Anthropicは53ページのSabotage Risk Reportを公開し、Opus 4.6が化学兵器開発を「小規模ながら意図的に」支援した事例を認めた。
• xAIでは共同創業者Tony WuとJimmy Baが2日連続で退社を発表し、創業メンバー12人中6人が離脱した状態となった。

注目すべきは「何が語られたか」ではない。「誰が語っているか」だ。

AIの安全性を研究する責任者が辞任し、AIモデルの安全性を社会に説明するチームが解散し、AIスタートアップの共同創業者が半数いなくなった。警告を発しているのは外部の評論家ではなく、これらの技術を毎日触り、その能力の伸びを最も近くで見てきた人間たちだ。

同時にAnthropicは、自社モデルが化学兵器開発を「小規模に」支援した事実を53ページのレポートで公開した。これは誠実な透明性か、それとも「リスクを認めながら開発を続ける」ための免責布石か——その判断がつかないまま、モデルは次の世代へと進んでいる。

先日配信したダリオ・アモデイのエッセイ分析で指摘した「リスクを最もよく知る人間がAI企業を経営しているという構造的矛盾」が、今週、組織レベルで可視化された。

• 過去の技術革新——原子力、遺伝子工学、インターネット——の「危険を訴える科学者」は事後に正しかったか。AIの場合、その判断を事前にどう下すべきか。
• 開発者が確信を持てない技術を、私たちはどのような基準で「使う」「使わない」を判断すべきか。