红队测试 LLM 应用程序

2024-05-27

这篇文章介绍了 Coursera 上的一个名为“红队测试 LLM 应用程序”的在线课程。该课程主要教授如何识别和评估大型语言模型 (LLM) 应用程序中的漏洞,并应用网络安全的红队技术来确保 LLM 应用程序的安全性和可靠性。该课程适合初学者,建议具备基本的 Python 知识,课程内容包括手动和自动化的红队测试方法,以及如何使用 Giskard 开源库来自动化 LLM 红队测试方法。

阅读更多
未分类 红队测试