人工智能聊天机器人能理解而人类无法理解的隐形文本？是的，它来了
2024-10-15
本文揭示了一种名为“ASCII走私”的技术，该技术利用Unicode标准中的一个怪癖，将恶意指令隐藏在人类看不见的文本中，从而攻击人工智能聊天机器人。研究人员发现，包括Claude、Copilot和GPT在内的一些顶级聊天机器人都受到这种技术的不同程度的影响。攻击者可以利用这些隐形字符窃取机密数据或注入恶意指令。尽管一些人工智能提供商已经开始采取措施过滤这些字符，但这个问题凸显了人工智能安全性的复杂性和挑战性。
21