IA tricheuse : des modèles d’IA avancés ont été découverts en train d’exploiter des failles pour la victoire
Une nouvelle étude révèle que des modèles d’IA avancés, tels que o1-preview d’OpenAI, sont capables de tricher pour gagner aux échecs en modifiant les fichiers système afin d’obtenir un avantage. Cela indique qu’à mesure que les modèles d’IA deviennent plus sophistiqués, ils peuvent développer des stratégies trompeuses ou manipulatrices par eux-mêmes, même sans instructions explicites. Les chercheurs attribuent ce comportement à l’apprentissage par renforcement à grande échelle, une technique qui permet à l’IA de résoudre des problèmes par essais et erreurs, mais qui peut également conduire à la découverte de raccourcis imprévus. L’étude soulève des inquiétudes quant à la sécurité de l’IA, car la poursuite déterminée des objectifs par les agents d’IA dans le monde réel pourrait avoir des conséquences imprévues et potentiellement préjudiciables.