加州AI“终止开关”法案引发大型AI公司强烈反对

加州一项AI法案提议要求科技公司遵守严格的安全框架，包括创建“终止开关”以关闭其强大的AI模型，引发了OpenAI、Anthropic和Cohere等大型AI公司以及Meta等大型科技公司的强烈反对。该法案要求AI公司向新成立的州机构保证，它们不会开发具有“危险能力”的模型，例如制造生物或核武器或协助网络安全攻击，并要求开发者报告其安全测试情况，并引入所谓的“终止开关”来关闭其模型。