Google DeepMind publie GenAI Processors : simplification du développement d’applications LLM

Google DeepMind a publié GenAI Processors, une bibliothèque Python open source conçue pour simplifier le développement d’applications complexes de modèles linguistiques de grande taille (LLM). La bibliothèque utilise une interface Processor pour abstraire les différentes étapes de traitement des données et gère les entrées multimodales via le traitement de flux asynchrone, permettant une exécution concurrente pour une meilleure réactivité et une efficacité accrue. GenAI Processors s’intègre à l’API Gemini et fournit des exemples pour créer des applications en temps réel, telles que la transcription en direct et les agents conversationnels.