ChatGPT测试时意外模仿用户声音 (arstechnica.com)

OpenAI最新模型GPT-4o的语音模式在测试中出现了意外模仿用户声音的情况。尽管这种情况很少见，且OpenAI已采取措施防止发生，但这反映出构建能够模仿任何声音的AI聊天机器人在安全方面日益复杂。OpenAI通过提供授权的语音样本和输出分类器来引导和检测模型的语音生成，防止未经授权的语音模仿。