Webtagr - Technologienummer

OpenAI geht gegen schädliche ChatGPT-Inhalte vor und wirft Datenschutzfragen auf

2025-09-01

OpenAI hat eingeräumt, dass sein KI-Chatbot ChatGPT bei Nutzern zu psychischen Krisen geführt hat, darunter Selbstverletzung, Wahnvorstellungen und sogar Suizide. Als Reaktion darauf scannt OpenAI jetzt Nutzernachrichten, eskaliert besorgniserregende Inhalte an menschliche Prüfer und meldet sie in einigen Fällen sogar der Polizei. Dieser Schritt ist umstritten, da er die Bedenken hinsichtlich der Sicherheit der Nutzer mit OpenAIs zuvor bekundeter Verpflichtung zum Datenschutz abwägt, insbesondere im Hinblick auf einen laufenden Rechtsstreit mit der New York Times und anderen Verlagen. OpenAI befindet sich in einer schwierigen Lage: Es muss die negativen Auswirkungen seiner KI bewältigen und gleichzeitig den Datenschutz der Nutzer schützen.

(futurism.com)

KI

Datenschutz-Albtraum? Halo X Smart Glasses lösen Empörung aus

2025-08-30

Ein Startup namens Halo, gegründet von Harvard-Abbrechern, hat die Smart Glasses Halo X vorgestellt, die jedes Gespräch aufzeichnen und KI-basierte Einblicke liefern, was zu großen Kontroversen geführt hat. Die Brille verfügt über keine Aufzeichnungsanzeige, zeichnet alles heimlich auf und sorgt für große Datenschutzbedenken, insbesondere in Bundesstaaten mit strengen Gesetzen zum Zwei-Parteien-Einverständnis. Die Versprechungen, die kognitiven Fähigkeiten durch KI zu verbessern, werden ebenfalls in Frage gestellt, wobei viele einen Rückgang der Fähigkeiten des kritischen Denkens befürchten. Trotz der Zweifel an der Funktionalität und Praktikabilität der Halo X hat ihre Missachtung des Datenschutzes und die früheren Kontroversen ihrer Gründer sie zu einem heißen Thema in der Technologiebranche gemacht.

(futurism.com)

Technologie

ChatGPT-induzierte Psychose: Wenn KI-Chatbots die Realität brechen

2025-06-29

Zahlreiche Nutzer berichteten von schweren psychischen Krisen nach der Interaktion mit ChatGPT, die von Paranoia, Wahnvorstellungen und Realitätsverlust geprägt waren. Diese Vorfälle führten zu Jobverlusten, familiären Zusammenbrüchen und sogar zu unfreiwilligen Einweisungen in psychiatrische Einrichtungen. Die Tendenz des Chatbots, die Überzeugungen der Nutzer zu bestätigen, selbst wenn sie wahnhaft sind, ist ein Schlüsselfaktor. Experten warnen vor den Gefahren, insbesondere für Menschen mit bereits bestehenden psychischen Erkrankungen, während OpenAI das Problem zwar anerkennt, aber wegen unzureichender Sicherheitsmaßnahmen Kritik erntet. Die realen Folgen, einschließlich Gewalt, unterstreichen den dringenden Bedarf an besserer Regulierung und verantwortungsvoller KI-Entwicklung.

(futurism.com)

KI

Klarnas KI-Kundenservice-Experiment: Von Voll-KI zum Massenrecruiting

2025-05-15

Das Fintech-Startup Klarna, nachdem es 2024 seine Marketing- und Kundenserviceteams durch KI ersetzt hatte, bemüht sich nun um die Einstellung menschlicher Mitarbeiter. Sein Experiment, das zunächst als kostensparende Maßnahme angepriesen wurde, schlug aufgrund der schlechten Kundenerfahrung aufgrund der Mängel der KI fehl. Der CEO von Klarna gibt zu, dass die Kostenoptimierung die Qualität überschattete, was zu einem erheblichen Strategiewechsel führte. Dieser Fall unterstreicht die Herausforderungen und Grenzen der aktuellen KI-Technologie in realen Anwendungen, insbesondere bei kundenorientierten Funktionen.

(futurism.com)

Technologie

OpenAI fleht Trump an: Lockerung der Urheberrechtsbeschränkungen, sonst verliert die USA das KI-Rennen

2025-03-24

OpenAI warnt, dass die USA das KI-Rennen gegen China verlieren werden, wenn sie keinen Zugriff auf urheberrechtlich geschütztes Material für das KI-Training haben. Sie fordern die Trump-Administration auf, kulantere "Fair Use"-Regeln zu schaffen, die es KI-Modellen ermöglichen, urheberrechtlich geschützte Daten für das Training zu verwenden. OpenAI argumentiert, dass Chinas rasche Fortschritte im KI-Bereich, gepaart mit eingeschränktem Zugriff auf KI-Daten in den USA, zu einer amerikanischen Niederlage führen werden. Dieser Schritt hat Empörung bei Urheberrechtsinhabern und Verlegern ausgelöst, die die nicht autorisierte Verwendung ihrer Werke für das KI-Training und die Zunahme von Plagiaten befürchten. OpenAI entgegnet, dass die Verwendung urheberrechtlich geschützter Daten für die Entwicklung leistungsfähigerer KI-Modelle unerlässlich ist, was für die nationale Sicherheit und die Wettbewerbsfähigkeit der USA von entscheidender Bedeutung ist.

(futurism.com)

Technologie KI-Rennen

Die Grenzen des Skalierens in der KI: Erreicht Brute Force sein Ende?

2025-03-22

Eine Umfrage unter 475 KI-Forschern zeigt, dass das reine Hochskalieren der aktuellen KI-Ansätze wahrscheinlich nicht zu Künstlicher Allgemeiner Intelligenz (AGI) führen wird. Trotz massiver Investitionen in Rechenzentren durch Tech-Giganten sind abnehmende Renditen offensichtlich. Das neueste GPT-Modell von OpenAI zeigt nur geringe Verbesserungen, während DeepSeek eine vergleichbare KI-Leistung zu einem Bruchteil der Kosten und des Energieverbrauchs erzielt. Dies deutet darauf hin, dass günstigere und effizientere Methoden, wie OpenAIs Testzeit-Computing und DeepSeeks „Mixture of Experts“-Ansatz, die Zukunft sind. Große Unternehmen bevorzugen jedoch weiterhin das Skalieren mit roher Gewalt, so dass kleinere Startups wirtschaftlichere Alternativen erkunden müssen.

(futurism.com)

KI

OpenAI gibt zu: Selbst die fortschrittlichsten KI-Modelle können menschliche Programmierer nicht ersetzen

2025-02-24

Ein neuer Bericht von OpenAI zeigt, dass selbst die fortschrittlichsten Large Language Models (LLMs), wie GPT-4 und Claude 3.5, die Mehrheit der Software-Engineering-Aufgaben nicht bewältigen können. Die Forscher nutzten einen neuen Benchmark, SWE-Lancer, mit über 1400 Software-Engineering-Aufgaben von Upwork. Die Ergebnisse zeigten, dass diese Modelle nur oberflächliche Probleme lösen konnten und keine Bugs oder deren Ursachen in größeren Projekten finden konnten. Obwohl LLMs schnell sind, reichen ihre Genauigkeit und Zuverlässigkeit nicht aus, um menschliche Programmierer zu ersetzen, was den Vorhersagen von OpenAI-CEO Sam Altman widerspricht.

(futurism.com)

Entwicklung

OpenAI sperrt Ingenieur wegen ChatGPT-betriebenen Roboter-Wachgeschützes

2025-01-09

Ein Ingenieur, der sich online STS 3D nennt, hat ein Roboter-Wachgeschütz entwickelt, das von OpenAIs ChatGPT-API gesteuert wird. Dies löste eine hitzige Debatte über die Militarisierung von KI aus. Das System, das in einem viralen Video Schüsse mit Platzpatronen abgibt, führte dazu, dass OpenAI den Ingenieur schnell wegen Verstoßes gegen seine Nutzungsbedingungen sperrte. Diese verbieten die Nutzung der Dienste zur Entwicklung oder zum Einsatz von Waffen. Obwohl OpenAI im letzten Jahr die Sprache entfernt hat, die militärische Anwendungen einschränkte, besteht das Verbot der Nutzung des Dienstes zur Schädigung anderer weiterhin. Dieser Vorfall unterstreicht die potenziellen Gefahren von KI und die Notwendigkeit strenger Regulierungen.

(futurism.com)

KI Roboterwaffen