Le goulot d'étranglement de l'IA : les données, et non les algorithmes ?

L'IA a connu des progrès incroyables, mais le rythme semble ralentir. Cet article soutient que les principales avancées de l'IA (DNN, Transformers, RLHF, modèles de raisonnement) ne sont pas dues à de nouveaux algorithmes, mais au déverrouillage de nouvelles sources de données (ImageNet, texte Web, retour d'information humain, vérificateurs). L'auteur suggère que les prochaines avancées proviendront probablement non pas de l'innovation algorithmique, mais de l'utilisation efficace de nouvelles sources de données, telles que la vidéo et les capteurs robotiques, car les ensembles de données existants pourraient approcher leurs limites de connaissances.