L'éclatement de la bulle du hype des LLM : L'essor des petits modèles de langage

L'enthousiasme initial autour des grands modèles de langage (LLM) commence à s'estomper, de nombreuses entreprises n'ayant pas encore vu de retour sur investissement. L'auteur soutient que nous avons été trompés par la fluidité du langage des LLM, la confondant avec une véritable intelligence. L'avenir, suggèrent-ils, réside dans des modèles plus petits et plus distribués, reflétant l'évolution de la technologie des dynamos. Les petits modèles de langage (SLM) se concentreront sur des tâches linguistiques plus petites et plus spécifiques, telles que la réécriture de requêtes, au lieu d'essayer d'imiter l'intelligence humaine. Cela réduira les coûts, augmentera l'efficacité et diminuera les préoccupations éthiques. Au lieu de rechercher des applications « intelligentes », l'auteur préconise d'utiliser les LLM pour leurs points forts dans le traitement du langage de bas niveau, tels que la relecture et la synthèse de texte. C'est, selon eux, la véritable voie à suivre pour les LLM.