Über 1.100 exponierte LLM-Server: Eine tiefgehende Sicherheitsanalyse

Forscher haben über 1.100 öffentlich zugängliche LLM-Server entdeckt, die das Ollama-Framework verwenden, wobei etwa 20 % aktiv Modelle hosten, die anfällig für unbefugten Zugriff sind. Mit Hilfe von Shodan und einem Python-basierten Tool wurde ein kritischer Mangel an Sicherheitsgrundlagen bei der Bereitstellung von LLMs aufgedeckt, was eine Grundlage für die zukünftige Überwachung der Bedrohungsfläche von LLMs bietet. Zu den Schwachstellen gehörten unbefugter API-Zugriff, Model-Extraction-Angriffe, Jailbreaking und Inhaltsmissbrauch, Ressourcenmissbrauch und das Einbringen von Backdoors. Die Forscher empfehlen verschiedene Sicherheitsmaßnahmen, darunter die Durchsetzung von Authentifizierung und Zugriffskontrolle, Netzwerksegmentierung und Firewalls, Ratenbegrenzung und Missbrauchserkennung, die Deaktivierung von Standardports und kontinuierliches Monitoring, um die LLM-Infrastruktur zu schützen.