Die „Verständniskriege“: Skalierung vs. Bedeutung im Zeitalter der LLMs

Als Transformer-Modelle die menschlichen Leistungen bei NLP-Benchmarks übertrafen, entbrannte eine Debatte über ihre Fähigkeiten, die in den „Verständniskriegen“ von 2020-22 gipfelte. Der „Oktopus-Test“ von Bender et al. argumentierte, dass Modelle, die Sprache statistisch imitieren, die Bedeutung nicht erfassen können. Die Ankunft von GPT-3 verschärfte den Konflikt, dessen Leistungsfähigkeit Forscher schockierte und gleichzeitig Sicherheits- und ethische Bedenken aufwarf. Die Debatte hob Meinungsverschiedenheiten in Methodik und Ausrichtung zwischen Wissenschaft und Industrie hervor und führte zu einem internen „Bürgerkrieg“ im NLP-Bereich.