Anthropics Claude Browser-Erweiterung: Ein kontrollierter Test für die KI-Sicherheit

Anthropic testet eine Chrome-Erweiterung, die es seinem KI-Assistenten Claude ermöglicht, direkt im Browser zu interagieren. Dies erhöht die Nützlichkeit von Claude erheblich, bringt aber auch erhebliche Sicherheitsbedenken mit sich, vor allem Prompt-Injection-Angriffe. Red-Teaming-Experimente zeigten eine Angriffs-Erfolgsrate von 23,6 % ohne Mitigationsmaßnahmen. Anthropic implementierte mehrere Sicherheitsvorkehrungen, darunter Berechtigungskontrollen, Aktionsbestätigungen und fortschrittliche Klassifikatoren, wodurch die Erfolgsrate auf 11,2 % reduziert wurde. Derzeit befindet sich die Erweiterung in einer begrenzten Pilotphase mit 1000 Max-Plan-Benutzern, um Feedback aus der realen Welt zu sammeln und die Sicherheit vor einer breiteren Einführung zu verbessern.