Les limites de donner le maximum dans le développement de l'IA

L'auteur utilise des souvenirs d'enfance de barrage d'un ruisseau pour illustrer les limites de se donner à fond dans le développement de l'IA. Au début, il construisait de petits barrages avec beaucoup d'efforts, pour ensuite découvrir l'efficacité d'utiliser une pelle. Cette victoire, cependant, a diminué l'aspect exploratoire du jeu. De même, au travail et dans la vie, atteindre un objectif (comme un emploi bien rémunéré) change les règles du jeu. L'auteur soutient que le développement de l'IA doit tenir compte de cette leçon, en se concentrant non seulement sur la création d'une IA puissante, mais aussi sur les risques potentiels et les domaines inexplorés. Tout comme observer la ténacité de petits coquillages dans une piscine de marée, l'attention aux détails et aux nuances est cruciale. Le rapport récent d'Anthropic sur les applications éducatives semble reconnaître cela.