Code IA : des vibrateurs aux stimulateurs cardiaques – Jusqu’où notre confiance dans le code ?
L’auteur utilise le code d’un vibrateur et d’un stimulateur cardiaque comme exemples pour discuter de la question de la sécurité et de la confiance du code à l’ère de l’IA. Le programme simple d’un vibrateur et le programme complexe d’un stimulateur cardiaque sont étonnamment similaires en structure, mais ce dernier concerne la sécurité de la vie et nécessite un examen et une certification rigoureux. L’auteur se demande si, même si l’IA peut écrire des codes meilleurs que les humains à l’avenir, nous pouvons faire entièrement confiance au code généré par l’IA, en particulier pour les programmes liés à la sécurité de la vie, comme le système de freinage d’une voiture. L’auteur soutient que la transparence radicale, y compris le code ouvert, les spécifications et les processus, est essentielle pour établir la confiance, mais la correction du code à elle seule ne suffit pas ; une compréhension globale du système et des mesures de sécurité sont également nécessaires.
Lire plus