Mais de 1.100 servidores LLM expostos: Uma análise aprofundada de vulnerabilidades de segurança

Pesquisadores descobriram mais de 1.100 servidores LLM expostos publicamente usando a estrutura Ollama, com aproximadamente 20% hospedando ativamente modelos vulneráveis a acesso não autorizado. Usando o Shodan e uma ferramenta baseada em Python, o estudo revelou uma falta crítica de padrões de segurança nas implantações de LLM, fornecendo uma base para o monitoramento futuro da superfície de ameaças de LLM. As vulnerabilidades incluíam acesso não autorizado à API, ataques de extração de modelos, jailbreaking e abuso de conteúdo, sequestro de recursos e injeção de backdoors. Os pesquisadores recomendam várias mitigações de segurança, incluindo a aplicação de autenticação e controle de acesso, segmentação de rede e firewalls, limitação de taxa e detecção de abuso, desativação de portas padrão e monitoramento contínuo para proteger a infraestrutura de LLM.