A Equipe Vermelha de IA da Microsoft: A Segurança da IA é uma Batalha Contínua
A equipe vermelha de IA da Microsoft, após testar mais de 100 de seus próprios produtos de IA generativa, concluiu que os modelos de IA amplificam os riscos de segurança existentes e introduzem novos. Suas descobertas destacam sete lições importantes, enfatizando que proteger sistemas de IA é um processo contínuo que requer investimento contínuo e uma combinação de ferramentas automatizadas e revisão humana. O relatório também destaca a importância de considerar o uso pretendido do modelo ao avaliar os riscos, observando que métodos de ataque mais simples são frequentemente mais eficazes do que ataques complexos baseados em gradiente. Além disso, os vieses éticos e sociais introduzidos pela IA são destacados como preocupações críticas.