Lecciones aprendidas al crear aplicaciones LLM

2025-01-21

Esta publicación resume las lecciones aprendidas al crear aplicaciones utilizando Modelos de Lenguaje Grandes (LLM). Los LLM sobresalen en transformar grandes cantidades de texto en resúmenes concisos; tienen dificultades para generar más texto que la entrada o para confiar en sus datos preentrenados para el razonamiento complejo. Las aplicaciones LLM efectivas deben proporcionar al LLM toda la información necesaria, permitiendo que el LLM realice la condensación de texto. El autor desaconseja el uso de LLM para tareas que requieren experiencia humana (por ejemplo, diagnóstico médico) y enfatiza que los LLM deben aumentar, no reemplazar, a los trabajadores humanos. Evite usar LLM para tareas que se pueden realizar con código regular.