Bengio gründet LawZero: Non-Profit für sichere KI

Yoshua Bengio, Turing-Preisträger und weltweit meistzitierter KI-Forscher, hat LawZero gegründet, eine Non-Profit-Organisation zur Entwicklung von von Grund auf sicheren KI-Systemen. Angesichts der Bedenken hinsichtlich der gefährlichen Fähigkeiten aktueller KI-Spitzensysteme baut LawZero ein Team auf, um „Wissenschaftler-KI“ zu entwickeln, einen nicht-agentenbasierten Ansatz, der sich auf das Verständnis der Welt konzentriert, anstatt in ihr zu handeln. Dieser Ansatz zielt darauf ab, Risiken zu mindern, wissenschaftliche Entdeckungen zu beschleunigen und Aufsicht für agentenbasierte KI-Systeme zu bieten. Die Initiative wurde von Organisationen wie dem Future of Life Institute finanziert.