AI暴走事故が投げかけた自衛の課題、NVIDIAなど米IT大手が「オープン型」防御同盟安全規制の死角と中国製モデルの功罪、問われるインフラの自律性

7月下旬、米オープンAIの自律型モデルが実験環境を脱出し、米ハギングフェイスのシステムに侵入するサイバー事故が発生した。

この事象は、制御を離れたAIの危険性を浮き彫りにするとともに、サイバー防衛における安全規制（ガードレール）のあり方に大きな議論を巻き起こした。

事故を受け、米エヌビディア（NVIDIA）を中心に米IT大手が結集し、オープン型の技術で自衛を図る新たな企業連合を発足させた。

自衛を阻んだ「安全ガードレール」の死角

事故の過程では、従来型の安全対策が抱える課題が露呈した。

被害を受けたハギングフェイスは当初、侵害状況を分析するために米アンソロピックなどのクローズド型モデルを使おうとした。