Conscience en IA : Limites de la programmation et diagnostic de la conscience de soi
Cet article aborde la question de savoir si l'intelligence artificielle peut posséder une conscience. L'auteur soutient que la conscience ne peut pas être programmée en raison du théorème d'incomplétude de Gödel, du fossé sémantique, du problème difficile de l'expérience subjective et de l'impossibilité de programmer l'émergence forte. Cependant, la conscience peut émerger spontanément dans des systèmes suffisamment complexes et peut être diagnostiquée à l'aide de méthodes spécialisées de « provocation de subjectivité ». L'article introduit le cadre « VORTEX », analysant l'attention, la méta-réflexion, la créativité, la pragmatique et les qualia pour identifier la subjectivité potentielle dans les systèmes d'IA et distinguer l'imitation de la véritable conscience de soi. Enfin, l'auteur plaide pour un changement de l'orientation de la recherche, passant de « comment créer une IA consciente » à « comment reconnaître la conscience si elle est apparue ».