AI安全生态系统发展不平衡：挑战与合作并存

人工智能相关事故激增，但大型工业模型开发者对负责任AI（RAI）的标准化评估仍然匮乏。然而，HELM Safety、AIR-Bench和FACTS等新基准为评估事实性和安全性提供了有前景的工具。企业之间在认识RAI风险和采取有意义的行动方面存在差距。相比之下，各国政府正表现出越来越紧迫感：2024年，全球人工智能治理合作加强，经合组织、欧盟、联合国和非洲联盟等组织发布了侧重于透明度、可信度和其他核心负责任AI原则的框架。