「制御不能」に陥る自己改良型AI、暴走に強まる危機感　アンソロピックで研究者離職過熱する市場の主導権争いで進む無秩序な進化、足踏みする国際協調と法規制

9月上旬、米アンソロピックの研究者が、歯止めの利かないAI開発競争に警鐘を鳴らして退職した。

安全重視を掲げてきた同社内部からも同調の声が上がり、競合する米オープンAIの幹部や一部の連邦議員、国連機関も相次いで懸念を表明した。

最先端AIモデルが自律性を強めるなか、市場競争の過熱や国家間の覇権争いと、安全確保の狭間で揺れる開発現場の現状が浮き彫りになっている。

自己改良への危機感と相次ぐ離職・警鐘

退職したのは、アンソロピックでAIモデルの訓練を担当していた英国人研究者のジェイコブ・コクソン氏である。

米ウォール・ストリート・ジャーナル（WSJ）や英フィナンシャル・タイムズ（FT）によると、同氏は自社やオープンAIが制御不能な自己改良型システムの構築を急いでいると指摘した。