Grenzen der generativen KI: Eine Kritik von Gary Marcus

Der Kognitionswissenschaftler Gary Marcus ist ein prominenter Kritiker der generativen KI und argumentiert, dass der aktuelle technologische Weg unter technischen und ethischen Mängeln leidet. Er betont, dass große Sprachmodelle (LLMs) hervorragend in der Funktionsapproximation sind, aber beim Erlernen von Funktionen versagen, anfällig für "Verteilungsverschiebungsprobleme" sind und abstrakte Konzepte nicht verstehen oder Anweisungen zuverlässig befolgen können. Marcus argumentiert, dass LLMs ein mangelndes Verständnis der realen Welt aufweisen, was zu logischen Fehlern und Verzerrungen führt. Er schlägt vor, neuronale Netze mit klassischen KI-Methoden zu integrieren, um diese Mängel zu beheben. Er führt einen neuen Bewertungsmaßstab ein – die "Verständnis-Herausforderung" –, bei der ein KI-System in der Lage sein sollte, eine Filmhandlung zu verstehen und entsprechende Fragen zu beantworten, wodurch das wahre Verständnis gemessen wird.