Não deixe LLMs tomarem decisões: elas são péssimas nisso
O autor, desenvolvedor de NPCs para um jogo online, argumenta contra o uso de Modelos de Linguagem Grandes (LLMs) para lógica de negócios e tomada de decisões. Em vez disso, LLMs devem servir como uma interface de usuário, traduzindo solicitações do usuário em chamadas de API e resultados de volta para linguagem natural. LLMs são demonstrados como inferiores em desempenho, depuração e ajuste em comparação com sistemas especializados, usando um exemplo de bot de xadrez. O autor defende o uso de LLMs para tarefas como transformação de texto, categorização e compreensão da intenção do usuário, enquanto se baseia em sistemas especializados para a lógica central. Embora os LLMs continuem a melhorar, este princípio arquitetônico permanece crucial.
Leia mais