No dejes que los LLM tomen decisiones: son pésimos en eso

El autor, desarrollador de PNJ para un juego online, argumenta en contra del uso de Modelos de Lenguaje Grandes (LLM) para la lógica de negocio y la toma de decisiones. En cambio, los LLM deberían servir como interfaz de usuario, traduciendo las solicitudes del usuario en llamadas a la API y los resultados de vuelta a lenguaje natural. Se demuestra que los LLM son inferiores en rendimiento, depuración y ajuste en comparación con sistemas especializados, usando el ejemplo de un bot de ajedrez. El autor aboga por el uso de LLM para tareas como la transformación de texto, la categorización y la comprensión de la intención del usuario, mientras que se basa en sistemas especializados para la lógica central. Si bien los LLM seguirán mejorando, este principio arquitectónico sigue siendo crucial.