Le paradoxe de l'effort dans le développement de l'IA

En utilisant l'analogie enfantine de la construction d'un barrage sur un ruisseau, l'auteur explore la tension entre l'effort maximal et la prise de décisions judicieuses dans le développement de l'IA. Initialement, comme un enfant, l'auteur a essayé de construire des barrages avec de petites pierres et des feuilles, pour finalement découvrir une méthode plus efficace avec une pelle. Cette constatation souligne comment la 'victoire' peut parfois signifier une réduction de l'espace de jeu. De même, dans le domaine de l'IA, l'auteur a sans relâche cherché un emploi dans une banque d'investissement, pour finalement découvrir, après le succès, que le jeu de « gagner autant d'argent que possible » n'était plus disponible. Il soutient que face à des forces écrasantes (nature, marché), un effort total peut être contre-productif. Le récent rapport d'Anthropic sur les applications éducatives suggère toutefois une prise de conscience croissante des risques potentiels, comparable à l'observation de palourdes en difficulté sur une plage.