2026年6月4日，美国AI公司Anthropic发表文章《When AI Builds Itself》，呼吁顶级人工智能实验室考虑放慢开发步伐，称AI正以极快的速度发展，可能很快就能在无人干预的情况下进行自我完善，或对社会构成重大风险。