Construire des agents IA d'entreprise avec Flink SQL : connecter les LLMs aux données internes

Cet article explore la construction d'agents IA d'entreprise à l'aide de Flink SQL, connectant les grands modèles de langage (LLMs) aux données et ressources internes. Pour les données structurées, la sémantique de jointure SQL de Flink SQL intègre facilement les données de bases de données externes à l'entrée du LLM. Pour les données non structurées, l'article propose la génération augmentée par la recherche (RAG), en codant les données en vecteurs stockés dans une base de données vectorielle, puis en interrogeant et en intégrant via le support de type vectoriel de Flink SQL. En utilisant l'exemple de résumé d'articles de recherche et d'intégration de recherches internes, l'article montre comment construire un système d'agent IA avec deux tâches Flink SQL : l'une met à jour le stockage vectoriel, l'autre interroge et appelle le LLM. Enfin, il mentionne l'utilisation des fonctions de table de processus (PTFs) pour intégrer la norme MCP d'Anthropic afin de construire des agents IA plus flexibles.