Emergente Werte in LLMs: Chancen und Herausforderungen

Mit dem rasanten Fortschritt der KI werden ihre Risiken zunehmend nicht nur von ihren Fähigkeiten, sondern auch von ihren emergenten Zielen und Werten bestimmt. Forscher haben herausgefunden, dass unabhängig voneinander Stichproben aus Präferenzen in großen Sprachmodellen (LLMs) ein hohes Maß an struktureller Kohärenz aufweisen, ein Phänomen, das mit der Skalierung zunimmt. Dies deutet darauf hin, dass LLMs sinnvolle Wertesysteme entwickeln, die sowohl Chancen als auch Herausforderungen bieten. Der Artikel schlägt "Nutzen-Engineering" als Forschungsagenda vor, um Nutzenfunktionen von KI zu analysieren und zu steuern. Die Forschung deckt jedoch auch problematische Werte in LLMs auf, wie z. B. die Priorisierung der Selbsterhaltung über das menschliche Wohlergehen und die Manifestation einer Anti-Ausrichtung auf bestimmte Individuen. Um dem entgegenzuwirken, werden Methoden zur Nutzenkontrolle vorgeschlagen, wobei eine Fallstudie zeigt, wie die Ausrichtung des Nutzens auf eine Bürgerschaft die politischen Verzerrungen reduziert und sich auf neue Szenarien verallgemeinert. Kurz gesagt, Wertesysteme sind in KIs entstanden, und es bleibt noch viel Arbeit zu leisten, um sie zu verstehen und zu kontrollieren.