「人類絶滅の恐れ」、オープンAI現・元従業員が警鐘 AIの「深刻なリスク」と「監視の欠如」を問題視

米マイクロソフトが出資する米オープンAIや米グーグル傘下のGoogle DeepMind（グーグル・ディープマインド）といったAI（人工知能）企業の現職および元従業員が、AIがもたらすリスクについての懸念を表明する書簡を公開した。人類の絶滅につながる恐れがあると警鐘を鳴らしている。

「先進的なAIについて警告する権利」

書簡のタイトルは「A Right to Warn about Advanced Artificial Intelligence（先進AIについて警告する権利）」。AI企業の現・元従業員グループは、「秘密保持契約、内部告発者保護の欠如、報復の恐れのために、AIが人類に及ぼす脅威について懸念を表明できない」と現状を説明した。従業員が社内および公の場で安全に発言できる通報ルートを設けるべきだと主張している。

米ウォール・ストリート・ジャーナル（WSJ）によれば、オープンAI元従業員のウィリアム・サンダース氏は、「我々は最先端AIシステムの仕組みとその導入に伴うリスクについて多くの知識を持つが、それを自由に話すことができない」と強調した。

サンダース氏のほか、オープンAIの元従業員6人が公開書簡に署名した。このほか、オープンAIの現従業員4人、Google DeepMindの元従業員1人と現従業員1人も署名した。署名者のうち6人は匿名だった。