Entwicklung von Unternehmens-KI-Agenten mit Flink SQL: Verbindung von LLMs mit internen Daten

Dieser Artikel untersucht die Entwicklung von Unternehmens-KI-Agenten mit Flink SQL, wobei Large Language Models (LLMs) mit internen Daten und Ressourcen verbunden werden. Für strukturierte Daten integriert die SQL-Join-Semantik von Flink SQL problemlos Daten aus externen Datenbanken in die LLM-Eingabe. Für unstrukturierte Daten schlägt der Artikel Retrieval-Augmented Generation (RAG) vor, wobei Daten in Vektoren codiert und in einer Vektor-Datenbank gespeichert werden, um dann über die Vektor-Typpunterstützung von Flink SQL abgefragt und integriert zu werden. Am Beispiel des Zusammenfassens von Forschungsarbeiten und der Einbeziehung interner Forschung wird gezeigt, wie ein KI-Agentensystem mit zwei Flink-SQL-Jobs aufgebaut wird: Einer aktualisiert den Vektorspeicher, der andere fragt ab und ruft das LLM auf. Schließlich wird die Verwendung von Process Table Functions (PTFs) zur Integration des Anthropic MCP-Standards für eine flexiblere KI-Agentenentwicklung erwähnt.