Webtagr - Technologienummer

Databricks' TAO: Feinabstimmung übertreffen mit unbeschrifteten Daten

2025-03-26

Databricks stellt TAO (Test-time Adaptive Optimization) vor, eine neue Methode zum Feintuning von Modellen, die nur unbeschriftete Nutzungsdaten benötigt. Im Gegensatz zum traditionellen Feintuning nutzt TAO Testzeit-Rechenleistung und Reinforcement Learning, um die Modellleistung basierend auf vergangenen Eingabebeispielen zu verbessern. Überraschenderweise übertrifft TAO das traditionelle Feintuning und bringt Open-Source-Modelle wie Llama auf eine mit teuren proprietären Modellen wie GPT-4 vergleichbare Qualität. Diese Innovation ist für Databricks-Kunden in der Vorschau verfügbar und wird zukünftige Produkte antreiben.

(www.databricks.com)

KI Modell-Feinabstimmung

Modellkontextprotokoll (MCP): Ein USB-C für KI

2025-03-26

Das Modellkontextprotokoll (MCP) ist ein offenes Protokoll, das standardisiert, wie Anwendungen Kontext für LLMs bereitstellen. Stellen Sie es sich wie einen USB-C-Anschluss für KI vor: Es verbindet KI-Modelle mit verschiedenen Datenquellen und Tools. Das Agents SDK unterstützt MCP, wodurch die Verwendung verschiedener MCP-Server ermöglicht wird, um Agents mit Tools auszustatten. MCP-Server gibt es in zwei Arten: stdio-Server (lokal) und HTTP-over-SSE-Server (remote). Das Zwischenspeichern der Tool-Liste minimiert die Latenz. Vollständige Beispiele finden Sie im Verzeichnis examples/mcp.

(openai.github.io)

KI

StarVector: Ein Transformer-basiertes Modell zur Vektorisierung von Bildern in SVG

2025-03-26

StarVector ist ein Transformer-basiertes Modell zur Vektorisierung von Bildern in SVG, mit 8B und 1B Parametermodellen, die auf Hugging Face veröffentlicht wurden. Es erzielt Spitzenergebnisse auf dem SVG-Bench-Benchmark und zeichnet sich besonders bei der Vektorisierung von Icons, Logos und technischen Diagrammen aus, wobei es komplexe grafische Details hervorragend verarbeitet. Das Modell nutzt umfangreiche Datensätze für das Training, die eine breite Palette von Vektorgrafik-Stilen umfassen, von einfachen Icons bis hin zu komplexen farbigen Illustrationen. Im Vergleich zu traditionellen Vektorisierungsmethoden erzeugt StarVector saubereren und genaueren SVG-Code, der Bilddetails und strukturelle Informationen besser bewahrt.

(starvector.github.io)

KI Bildvektorisierung Transformer-Modell

Die unerwartete Revolution der KI: Kürze siegt über Weitschweifigkeit

2025-03-26

Die Verbreitung großer Sprachmodelle (LLMs) löste zunächst Panik in Schulen und Unternehmen aus, die befürchteten, dass sie schriftliche Aufgaben und professionelle Kommunikation ersetzen würden. Der Autor argumentiert jedoch, dass die wahre Wirkung von LLMs darin liegt, unsere Art zu kommunizieren und zu programmieren zu revolutionieren. LLMs enthüllen die zugrunde liegende Einfachheit von ausschweifenden Geschäfts-E-Mails und komplexem Code und treiben uns zu einer prägnanten Kommunikation. Dies könnte zur Obsoleszenz von LLMs selbst führen und effizientere und vereinfachte Geschäftskommunikation und Programmiersprachen hervorbringen. Dieser Wandel hin zur Kürze verspricht, die Welt zu verändern.

(thomashunter.name)

KI Kommunikationsrevolution

Dapr Agents: Ein Framework für skalierbare und robuste KI-Agentensysteme

2025-03-26

Dapr Agents ist ein Entwickler-Framework zum Erstellen von produktionsreifen, robusten KI-Agentensystemen, die im großen Maßstab funktionieren. Basierend auf dem bewährten Dapr-Projekt ermöglicht es Entwicklern, KI-Agenten zu erstellen, die mit Large Language Models (LLMs) denken, handeln und zusammenarbeiten. Integrierte Überwachbarkeit und zustandsbehaftete Workflow-Ausführung stellen sicher, dass Agenten-Workflows erfolgreich abgeschlossen werden, unabhängig von ihrer Komplexität. Zu den wichtigsten Funktionen gehören die effiziente Ausführung mehrerer Agenten, automatische Wiederholungsmechanismen, native Kubernetes-Bereitstellung, Integration verschiedener Datenquellen, sichere Zusammenarbeit mehrerer Agenten, Plattformbereitschaft, Kosteneffizienz und Herstellerneutralität.

(github.com)

KI

Gemini 2.5 Pro: Eine KI, die ihre Grenzen kennt

2025-03-26

Der Autor versuchte, Gemini 2.5 Pro den berühmten Synthesizer ReBirth RB-338 aus den 90er Jahren nachbauen zu lassen. Überraschenderweise bewertete Gemini 2.5 Pro stattdessen die Schwierigkeit der Aufgabe und erklärte deren Undurchführbarkeit, was seine leistungsstarken Fähigkeiten im logischen Denken zeigt. Der Autor handelte einen vereinfachten, aber dennoch funktionsfähigen Synthesizer aus. Dies verdeutlicht den Fortschritt der KI hin zum Verständnis ihrer Grenzen und zum Treffen rationaler Entscheidungen.

(everything.intellectronica.net)

KI

Verstärkendes Lernen: Von AlphaGo zu AlphaGo Zero

2025-03-26

Dieser Artikel bietet einen umfassenden Überblick über Verstärkendes Lernen (RL), beginnend mit der fesselnden Geschichte von AlphaGo, das menschliche Go-Meister besiegte. Er erklärt Kernkonzepte von RL wie MDPs, Bellman-Gleichungen, dynamische Programmierung, Monte-Carlo-Methoden, TD-Lernen (SARSA, Q-Learning, DQN), Policy-Gradient-Methoden (REINFORCE, Actor-Critic, A3C) und evolutionäre Strategien. Der Artikel geht detailliert auf jeden Algorithmus ein und verwendet AlphaGo Zero als überzeugendes Fallbeispiel, um die praktischen Anwendungen von RL und seine Leistungsfähigkeit bei der Lösung komplexer Probleme zu veranschaulichen.

(lilianweng.github.io)

KI

Whisper-Einbettungen stimmen überraschend mit der menschlichen Gehirnaktivität während des Sprechens überein

2025-03-26

Eine Studie zeigt eine überraschende Übereinstimmung zwischen OpenAIs Whisper-Spracherkennungsmodell und der neuronalen Aktivität im menschlichen Gehirn während natürlicher Gespräche. Durch den Vergleich der Whisper-Einbettungen mit der Gehirnaktivität in Regionen wie dem inferioren frontalen Gyrus (IFG) und dem superioren temporalen Gyrus (STG) stellten die Forscher fest, dass die Spracheinbettungen während der Sprachproduktion vor den Spracheinbettungen ihren Höhepunkt erreichten und umgekehrt während des Sprachverständnisses. Dies deutet darauf hin, dass Whisper, obwohl es nicht unter Berücksichtigung von Gehirnmechanismen entwickelt wurde, wichtige Aspekte der Sprachverarbeitung erfasst. Die Ergebnisse heben auch eine „weiche Hierarchie“ in der Verarbeitung von Sprache im Gehirn hervor: höherwertige Bereiche wie der IFG priorisieren semantische und syntaktische Informationen, verarbeiten aber auch niederwertige Hörmerkmale, während niederwertige Bereiche wie der STG akustische und phonetische Verarbeitung priorisieren, aber auch Informationen auf Wortebene erfassen.

(research.google)

KI

Model Context Protocol (MCP): Der USB-C-Moment für KI?

2025-03-26

Das von Anthropic Ende 2024 veröffentlichte Model Context Protocol (MCP) revolutioniert die Welt der KI. Stellen Sie es sich als den USB-C der KI-Integrationen vor: Es ermöglicht Large Language Models (LLMs) wie Claude oder ChatGPT, nahtlos mit externen Datenquellen und Tools (Obsidian, Gmail, Kalender usw.) zu kommunizieren, ohne Millionen von benutzerdefinierten Integrationen zu benötigen. MCP verwendet eine dreistufige Architektur – Hosts, Clients und Server –, um sicheren und zuverlässigen Datenzugriff und die Auslösung von Aktionen zu ermöglichen, wodurch die Entwicklung erheblich vereinfacht und innovative Anwendungen entstehen. Beispiele hierfür sind die Anbindung von LLMs an persönliche Datenbanken, Code-Repositories und sogar Echtzeit-Aktiendaten. Die Open-Source-Natur von MCP hat es zu einem heißen Thema in der Entwickler-Community gemacht, ist in zahlreiche KI-Anwendungen integriert und kündigt einen revolutionären Wandel in der Art und Weise an, wie wir mit KI-Anwendungen interagieren.

(pieces.app)

KI

Googles Gemini 2.5: Ein denkendes KI-Modell übernimmt die Führung

2025-03-25

Google hat Gemini 2.5 vorgestellt, sein bisher intelligentestes KI-Modell. Eine experimentelle Version, 2.5 Pro, erreicht den ersten Platz auf LMArena und übertrifft die Konkurrenz deutlich. Die Schlüsselinnovation von Gemini 2.5 liegt in seinen „denkenden“ Fähigkeiten: Es führt eine logische Schlussfolgerung durch, bevor es antwortet, was zu höherer Genauigkeit und Leistung führt. Dieses Denken geht über einfache Klassifizierung und Vorhersage hinaus; es umfasst die Analyse von Informationen, das Ziehen logischer Schlussfolgerungen, das Verstehen von Kontext und Nuancen und das Treffen informierter Entscheidungen. Aufbauend auf früheren Arbeiten mit verstärktem Lernen und Chain-of-Thought-Prompting kombiniert Gemini 2.5 ein verbessertes Basismodell mit fortgeschrittenem Nachtraining. Google plant, diese Denkfähigkeiten in alle zukünftigen Modelle zu integrieren, damit diese komplexere Aufgaben bewältigen und ausgefeiltere, kontextbewusste Agenten antreiben können.

(blog.google)

KI

Apple nutzt Apple Maps-Bilder zum Trainieren von KI-Modellen

2025-03-25

Apple hat kürzlich seine Website aktualisiert und enthüllt, dass ab März 2025 Bilder und Daten, die für die Apple Maps Look Around-Funktion gesammelt wurden, zum Trainieren von KI-Modellen für die Bilderkennung, -erstellung und -verbesserung verwendet werden. Diese Daten, die von Fahrzeugen und Rucksäcken mit Kameras, Sensoren und iPhones/iPads gesammelt wurden, haben verschwommene Gesichter und Nummernschilder. Apple erklärt, dass nur verschwommene Bilder verwendet werden und nimmt Anfragen zur Unschärfe von Häusern entgegen. Dies wird die KI-Funktionen in Apple-Produkten und -Diensten verbessern, wie z. B. das Bereinigungswerkzeug und die Suchfunktion der Fotos-App.

(www.theverge.com)

KI

Google präsentiert Gemini 2.5: Ein Quantensprung im KI-Schlussfolgern

2025-03-25

Google hat Gemini 2.5 vorgestellt, sein bisher intelligentestes KI-Modell. Die experimentelle Version 2.5 Pro erzielt in zahlreichen Benchmarks Spitzenleistungen und belegt den ersten Platz in der LMArena mit deutlichem Vorsprung. Gemini 2.5-Modelle sind „denkende“ Modelle, die in der Lage sind, ihre Antworten zu begründen, was zu höherer Genauigkeit und Leistung führt. Dieses Schlussfolgern geht über einfache Klassifizierung und Vorhersage hinaus und umfasst die Analyse von Informationen, das Ziehen logischer Schlussfolgerungen, das Verstehen von Kontext und Nuancen sowie das Treffen informierter Entscheidungen. Aufbauend auf früheren Arbeiten mit Reinforcement Learning und Chain-of-Thought-Prompting stellt Gemini 2.5 einen bedeutenden Fortschritt dar, der ein erheblich verbessertes Basismodell mit optimiertem Nachtraining kombiniert. Google plant, diese Denkfähigkeiten in alle zukünftigen Modelle zu integrieren, damit diese komplexere Probleme bewältigen und noch leistungsfähigere, kontextbewusste Agents unterstützen können.

(blog.google)

KI

Sam Altman von OpenAI: Ein versehentlicher Konsumtechnologie-Gigant

2025-03-25

Dieses Stratechery-Interview zeigt Sam Altman, CEO von OpenAI, der OpenAIs Weg von einem Forschungslabor zu einem Konsumtechnologie-Giganten und den unerwarteten Erfolg von ChatGPT beschreibt. Altman spricht offen über die Veränderung des Geschäftsmodells von OpenAI, die Beziehung zu Microsoft, seine Ansichten zu KI-Sicherheit und -Regulierung und die Zukunft von AGI. Das Interview behandelt auch OpenAIs Open-Source-Strategie, die Entwicklung von GPT-5 und die Auswirkungen von KI auf verschiedene Branchen. Altman glaubt, dass eine KI-Plattform mit Milliarden von Nutzern wertvoller sein wird als modernste Modelle und deutet auf alternative Monetarisierungsstrategien neben Werbung hin.

(stratechery.com)

KI

VGGT: Blitzschnelle 3D-Szenerie-Rekonstruktion

2025-03-25

Facebook Research stellt VGGT (Visual Geometry Grounded Transformer) vor, ein Feed-Forward-neuronales Netzwerk, das alle wichtigen 3D-Attribute einer Szene – extrinsische und intrinsische Kameraparameter, Punktkarten, Tiefenkarten und 3D-Punktverläufe – in Sekundenschnelle aus einer, wenigen oder hunderten von Ansichten ableitet. Dieses benutzerfreundliche Modell nutzt die Leistungsfähigkeit von Transformatoren und bietet ein interaktives 3D-Visualisierungstool. Überraschenderweise zeigt VGGT beeindruckende Fähigkeiten bei der Rekonstruktion aus Einzelansichten und erzielt wettbewerbsfähige Ergebnisse im Vergleich zu modernsten monokularen Methoden, obwohl es nie explizit für diese Aufgabe trainiert wurde.

(github.com)

KI

Der trügerische Komfort des KI-Optimismus: Eine Kritik an Casey Newton und Kevin Roose

2025-03-25

Dieser Artikel kritisiert die blind optimistische Sichtweise der Technologiejournalisten Casey Newton und Kevin Roose auf generative KI. Der Autor argumentiert, dass ihre positiven Vorhersagen einer Faktenbasis entbehren und lediglich den Marktbedürfnissen und Eigeninteressen entsprechen. Rooses Behauptungen über das bevorstehende Aufkommen von AGI und Newtons übermäßiges Lob für OpenAI-Modelle mangeln an stringenter Argumentation. Der Autor betont, dass diese Haltung des „vorsichtigen Optimismus“ in Wirklichkeit eine feige Vermeidung der Realität darstellt, die zahlreiche Probleme und potenzielle Risiken der KI-Technologie ignoriert, wie z. B. Halluzinationen von Modellen, die Manipulierbarkeit von Benchmarks und die Auswirkungen auf die Kreativwirtschaft. Der Artikel verwendet CoreWeave als Beispiel, um die Überhitzung von Investitionen und das Fehlen nachhaltiger Geschäftsmodelle im KI-Bereich aufzuzeigen und fordert die Menschen auf, kritisches Denken zu bewahren und sich den Herausforderungen in der Entwicklung der KI-Technologie zu stellen.

(www.wheresyoured.at)

KI KI-Optimismus Technologiekritik

AlexNet-Quellcode veröffentlicht: Der Beginn der Deep-Learning-Revolution

2025-03-25

2012 demonstrierte AlexNet, entwickelt von Alex Krizhevsky, Ilya Sutskever und Geoffrey Hinton, erstmals das enorme Potenzial tiefer neuronaler Netze für die Bilderkennung und läutete damit das Zeitalter des Deep Learning ein. Kürzlich wurde der Quellcode von AlexNet dank einer Zusammenarbeit zwischen dem Computer History Museum und Google Open Source veröffentlicht. Der Erfolg von AlexNet beruhte auf seiner Größe – ein großes Convolutional Neural Network, trainiert mit immenser Rechenleistung und dem ImageNet-Datensatz, der die bisherigen Grenzen des Deep Learning überwunden hat. Dieser Durchbruch trieb jahrzehntelange Innovationen im Bereich KI voran und führte zu Unternehmen wie OpenAI und Anwendungen wie ChatGPT, die die Welt verändert haben.

(www.zdnet.com)

KI

Das Rätsel der infantilen Amnesie: Der Hippocampus eines Einjährigen leuchtet auf

2025-03-25

Eine neue Studie mit funktioneller Magnetresonanztomographie (fMRT) hat die Gehirne von 26 Säuglingen im Alter von 4 bis 25 Monaten gescannt, um das jahrhundertealte Rätsel der infantilen Amnesie zu lösen. Die Forschung ergab, dass etwa im Alter von einem Jahr der Hippocampus, der für die Gedächtnisbildung verantwortlich ist, aktiv wird und neuronale Signale erzeugt, die mit den Dingen zusammenhängen, an die sich die Säuglinge aus den Tests erinnerten. Dies deutet darauf hin, dass Babys im Alter von etwa einem Jahr beginnen, Erinnerungen zu kodieren, selbst wenn sich ihr Hippocampus noch entwickelt. Die Studie liefert wertvolle Hinweise zum Verständnis der frühen Gehirnentwicklung und der Gedächtnisbildung und deutet darauf hin, dass wir eines Tages möglicherweise verlorene Erinnerungen aus der frühen Kindheit wiederherstellen können.

(singularityhub.com)

KI infantile Amnesie Hippocampus Gedächtnisbildung

KI-Chatbots und Einsamkeit: Eine Gratwanderung

2025-03-25

Zwei neue Studien zeigen eine mögliche Schattenseite der intensiven Nutzung von KI-Chatbots: zunehmende Einsamkeit und emotionale Abhängigkeit, besonders bei Vielnutzern. Die Forscher stellten fest, dass einsame Menschen eher emotionale Bindungen zu KI suchen, was frühere Forschungsergebnisse zu sozialen Medien widerspiegelt. Obwohl KI-Chatbots emotionale Unterstützung bieten können, müssen Plattformen das Wohlbefinden der Nutzer priorisieren, übermäßige Nutzung und emotionale Ausbeutung verhindern und Maßnahmen ergreifen, um ungesunde Nutzungsmuster zu identifizieren und zu intervenieren. Gesetzgeber sollten dieses aufkommende Problem ebenfalls angehen und entsprechende Regulierungen entwickeln.

(www.platformer.news)

KI

Newtons Methode erhält ein modernes Upgrade: Ein schnellerer und umfassenderer Optimierungsalgorithmus

2025-03-25

Vor über 300 Jahren entwickelte Isaac Newton einen Algorithmus zur Suche nach den Minimalwerten von Funktionen. Nun haben Amir Ali Ahmadi von der Princeton University und seine Studenten diesen Algorithmus verbessert, um effizienter mit einer breiteren Klasse von Funktionen umzugehen. Dieser Durchbruch nutzt Ableitungen höherer Ordnung und transformiert die Taylor-Entwicklung geschickt in eine konvexe Summe-von-Quadraten-Form, wodurch eine schnellere Konvergenz als bei der traditionellen Gradientenabstiegsmethode erreicht wird. Obwohl derzeit rechenintensiv, könnten zukünftige Fortschritte in der Computertechnologie es diesem Algorithmus ermöglichen, den Gradientenabstieg in Bereichen wie dem maschinellen Lernen zu übertreffen und ein leistungsstarkes Werkzeug für Optimierungsprobleme zu werden.

(www.quantamagazine.org)

KI Optimierungsalgorithmus Newtons Methode

Ant Group senkt KI-Trainingskosten um 20% mit chinesischen Chips

2025-03-25

Ant Group, unterstützt von Jack Ma, hat KI-Modelltrainingstechniken entwickelt, die inländische Halbleiter von Unternehmen wie Alibaba und Huawei verwenden und die Kosten um 20% senken. Obwohl weiterhin Nvidia-Chips eingesetzt werden, verlässt sich Ant hauptsächlich auf AMD- und chinesische Alternativen für seine neuesten Modelle, mit ähnlichen Ergebnissen wie der Nvidia H800. Dies unterstreicht Chinas Bemühungen, die Abhängigkeit von High-End-Nvidia-Chips zu reduzieren. Ants neue Sprachmodelle, Ling-Plus und Ling-Lite, übertrafen sogar Metas Llama in einigen Benchmarks. Diese Modelle, die für Anwendungen im Gesundheitswesen und im Finanzbereich bestimmt sind, stellen einen bedeutenden Fortschritt in der kostengünstigen KI-Entwicklung in China dar.

(au.finance.yahoo.com)

KI chinesische Chips Kostenreduzierung

ARC-AGI-2: Der AGI-Benchmark – einfacher für Menschen, schwerer für KI

2025-03-24

Der ARC Prize 2025 Wettbewerb kehrt zurück mit ARC-AGI-2, einem deutlich schwierigeren AGI-Benchmark für KI, der für Menschen aber relativ einfach bleibt. Der Fokus liegt auf Aufgaben, die für Menschen einfach, für KI jedoch schwer oder unmöglich sind. Dies soll Fähigkeitslücken aufzeigen, die nicht allein durch Skalierung behoben werden können. Mit einem Preisgeld von 1 Million Dollar fördert der Wettbewerb Open-Source-Innovationen für effiziente und allgemeine KI-Systeme mit dem Ziel, die Lücke zwischen Mensch und KI zu schließen und echte AGI zu erreichen.

(arcprize.org)

KI

Qwen2.5-VL-32B: Ein 32 Milliarden Parameter großes visuelles Sprachmodell, das besser auf menschliche Präferenzen abgestimmt ist

2025-03-24

Nach dem großen Erfolg der Qwen2.5-VL-Modellreihe haben wir das neue, 32 Milliarden Parameter umfassende visuelle Sprachmodell Qwen2.5-VL-32B-Instruct als Open Source veröffentlicht. Dieses Modell zeigt signifikante Verbesserungen im mathematischen Denken, im feingranularen Bildverständnis und in der Ausrichtung auf menschliche Präferenzen. Benchmarks zeigen seine Überlegenheit gegenüber vergleichbaren Modellen in multimodalen Aufgaben (wie MMMU, MMMU-Pro und MathVista), wobei es sogar das größere 72 Milliarden Parameter umfassende Qwen2-VL-72B-Instruct übertrifft. Es erreicht auch Spitzenergebnisse bei reinen Textfähigkeiten in seiner Größenordnung.

(qwenlm.github.io)

KI visuelles Sprachmodell

AMD präsentiert Instella: Eine Familie vollständig offener Sprachmodelle mit 3 Milliarden Parametern

2025-03-24

AMD hat Instella vorgestellt, eine Familie hochmoderner, vollständig offener Sprachmodelle mit 3 Milliarden Parametern, die von Grund auf auf AMD Instinct™ MI300X GPUs trainiert wurden. Instella-Modelle übertreffen bestehende vollständig offene Modelle ähnlicher Größe und erreichen eine wettbewerbsfähige Leistung im Vergleich zu den neuesten Open-Weight-Modellen wie Llama-3.2-3B. AMD veröffentlicht alle Artefakte der Modelle als Open Source, einschließlich Gewichten, Trainingskonfigurationen, Datensätzen und Code, um Zusammenarbeit und Innovation in der KI-Community zu fördern. Die Modelle verwenden effiziente Trainingstechniken und eine mehrstufige Trainingspipeline.

(rocm.blogs.amd.com)

KI

GPT-4o mini TTS: Text-to-Speech leicht gemacht

2025-03-24

Dieses Tool nutzt die GPT-4o mini TTS API von OpenAI, um Text in natürlich klingende Sprache umzuwandeln. Der Prozess besteht aus drei einfachen Schritten: Geben Sie Ihren Text ein, passen Sie die Einstellungen an (sechs Stimmen und einstellbare Geschwindigkeit) und generieren Sie hochwertige Audiodaten. Das Audio wird direkt an Ihren Browser gestreamt und nicht auf unseren Servern gespeichert. Probieren Sie verschiedene Stimmen und Geschwindigkeiten aus, um die perfekte Kombination für Ihren Inhalt zu finden!

(hitts.cc)

KI

CUDA mit 18: Nvidias Geheimrezept und die Vorherrschaft der KI

2025-03-24

Nvidias CUDA-Plattform feiert ihren 18. Geburtstag. Sie ist weit mehr als nur eine Programmiersprache oder API, sondern das Herzstück von Nvidias Software-Ökosystem und treibt zahlreiche „leicht parallelisierbare“ Rechenaufgaben an, von KI bis zum Krypto-Mining. CUDAs Erfolg basiert auf Nvidias konsequenter langfristiger Investition und stetigen Updates, ein krasser Gegensatz zu Konkurrenten wie AMD. Der Erfolg von AlexNet unterstrich CUDAs frühen Einfluss im Deep Learning, und heute ist es der De-facto-Standard in der KI und bildet einen starken Wettbewerbsvorteil für Nvidia.

(thechipletter.substack.com)

KI

beeFormer: Überbrückung der Lücke zwischen semantischer und Interaktionsähnlichkeit in Empfehlungssystemen

2025-03-24

Das beeFormer-Projekt stellt einen neuartigen Ansatz für Empfehlungssysteme vor, der darauf abzielt, das Cold-Start-Problem zu lösen. Es nutzt Sprachmodelle, um Benutzerverhaltensmuster aus Interaktionsdaten zu lernen und dieses Wissen auf zuvor unsichtbare Artikel zu übertragen. Im Gegensatz zur traditionellen inhaltsbasierten Filterung, die auf Artikelattributen basiert, lernt beeFormer Benutzerinteraktionsmuster, um Artikel besser zu empfehlen, die mit den Interessen der Benutzer übereinstimmen, selbst ohne vorherige Interaktionsdaten. Experimente zeigen signifikante Leistungsverbesserungen. Das Projekt bietet detaillierte Trainingsschritte und vortrainierte Modelle und unterstützt Datensätze wie MovieLens, GoodBooks und Amazon Books.

(github.com)

KI

LangManus: Ein Open-Source-Framework für die KI-Automatisierung und Multi-Agenten-Kollaboration

2025-03-23

LangManus ist ein community-getriebenes Open-Source-Framework für die KI-Automatisierung, das Sprachmodelle mit Tools für Websuche, Crawling und Python-Codeausführung integriert. Entwickelt von ehemaligen Kollegen in ihrer Freizeit, zielt dieses Projekt darauf ab, die Bereiche Multi-Agenten und Deep Research zu erforschen und am GAIA-Leaderboard teilzunehmen. LangManus verwendet ein hierarchisches Multi-Agenten-System mit Rollen wie Koordinator, Planer, Supervisor, Researcher, Coder, Browser und Reporter und unterstützt verschiedene LLM-Integrationen, darunter Qwen und OpenAI-kompatible Modelle. Das Projekt ist unter der MIT-Lizenz Open Source und begrüßt Beiträge der Community.

(github.com)

KI KI-Automatisierung Multi-Agenten-System

Verbesserter Crosscoder enthüllt Geheimnisse des Feintunings von LLMs

2025-03-23

Forscher stellen eine neue Methode vor, den „gebundenen Crosscoder“, um die Basis- und die feinabgestimmten Chat-Modelle großer Sprachmodelle (LLMs) zu vergleichen. Im Gegensatz zu herkömmlichen Crosscodern ermöglicht der gebundene Crosscoder es denselben latenten Faktoren, zu unterschiedlichen Zeiten für das Basis- und das Chat-Modell zu feuern, was zu einer effizienteren Identifizierung neuer Merkmale im Chat-Modell führt. Experimente zeigen, dass dieser Ansatz klarere Erklärungen dafür liefert, wie sich das Chat-Verhalten aus den Fähigkeiten des Basismodells ergibt, und monosämantischere latente Faktoren erzeugt. Diese Forschung bietet neue Einblicke in den Feintuning-Prozess von LLMs und leitet zukünftige Modellverbesserungen.

(www.lesswrong.com)

KI Crosscoder Feintuning des Modells

Formale Verifikation von ML-Modellen in Lean 4

2025-03-23

Das Projekt `formal_verif_ml` bietet ein Lean 4 Framework zur formalen Verifikation von Eigenschaften (Robustheit, Fairness, Interpretierbarkeit) von Machine-Learning-Modellen. Es beinhaltet eine Lean-Bibliothek, einen Modell-Translator, eine Web-Oberfläche und eine CI/CD-Pipeline und unterstützt verschiedene Modelltypen. Ein interaktives Webportal ermöglicht es Benutzern, Modelle hochzuladen, den generierten Lean-Code anzuzeigen, die Beweisprüfung zu starten und die Modellarchitektur zu visualisieren.

(github.com)

KI

Rechenleistung siegt: Das neue Paradigma in der KI-Entwicklung

2025-03-23

Dieser Artikel untersucht einen neuen Trend in der KI-Entwicklung: die Überlegenheit der Rechenleistung. Der Autor verwendet persönliche Erfahrungen und Analogien, um zu veranschaulichen, dass überentwickelte KI-Systeme wie sorgfältig gepflegte Pflanzen sind, die Schwierigkeiten haben, sich an verändernde Umgebungen anzupassen, während KI-Systeme auf Basis von massenhafter Rechenleistung, wie natürlich wachsende Pflanzen, autonom lernen und sich anpassen können. Durch den Vergleich von regelbasierten, rechenleistungsgrenzenden und skalierbaren Ansätzen zum Aufbau von Kundendienst-Automatisierungssystemen zeigt der Autor die Überlegenheit der skalierbaren Lösung. Der Aufstieg des Reinforcement Learning (RL) bestätigt diesen Trend weiter, da es durch massive Rechenleistung mehrere Lösungen erforscht und Ergebnisse erzielt, die menschliches Design übertreffen. Zukünftig wird sich die Rolle von KI-Ingenieuren von der Entwicklung perfekter Algorithmen zur Entwicklung von Systemen verschieben, die massive Rechenressourcen effektiv nutzen können.

(ankitmaloo.com)

KI Rechenleistung

Category: KI