Reverse Engineering von Cursors LLM-Client: Einblicke in die Funktionsweise eines KI-Coding-Assistenten

Dieser Beitrag beschreibt, wie die Autoren das Open-Source-Framework TensorZero verwendet haben, um einen selbstgehosteten Proxy zu erstellen und erfolgreich den LLM-Client des KI-Coding-Assistenten Cursor reverse-engineert haben. Durch das Routing der Kommunikation zwischen Cursor und LLM-Anbietern über TensorZero konnten sie die von Cursor verwendeten Prompts und Modelle beobachten, analysieren und sogar optimieren. Sie überwanden Herausforderungen im Zusammenhang mit der serverseitigen Vorverarbeitung von Cursor und CORS-Problemen. Schließlich erhielten sie vollständige Einblicke in die LLM-Interaktionen von Cursor, einschließlich Prompts und Antworten, was A/B-Tests verschiedener LLM-Modelle ermöglichte. Diese Arbeit liefert wertvolle Erkenntnisse zum Verständnis und zur Optimierung von KI-Coding-Assistenten und offenbart eine mögliche Hierarchie von LLMs innerhalb von Cursor.