红队测试 LLM 应用程序 (www.coursera.org)

这篇文章介绍了 Coursera 上的一个名为“红队测试 LLM 应用程序”的在线课程。该课程主要教授如何识别和评估大型语言模型 (LLM) 应用程序中的漏洞，并应用网络安全的红队技术来确保 LLM 应用程序的安全性和可靠性。该课程适合初学者，建议具备基本的 Python 知识，课程内容包括手动和自动化的红队测试方法，以及如何使用 Giskard 开源库来自动化 LLM 红队测试方法。