Googles Gemini Diffusion: Ein blitzschnelles Diffusions-LLM

Auf der Google I/O wurde Gemini Diffusion vorgestellt, Googles erstes LLM, das Diffusionsmodelle (ähnlich wie Imagen und Stable Diffusion) anstelle von Transformatoren verwendet. Im Gegensatz zu traditionellen Modellen, die Text Wort für Wort generieren, verfeinert Gemini Diffusion iterativ Rauschen, was zu einer beeindruckenden Geschwindigkeit führt. Tests zeigten Generierungsgeschwindigkeiten von 857 Tokens/Sekunde, wobei interaktive HTML+JavaScript-Seiten innerhalb von Sekunden erstellt wurden. Obwohl unabhängige Benchmarks noch ausstehen, behauptet Google, dass es 5-mal schneller als Gemini 2.0 Flash-Lite ist, was auf eine vergleichbare Leistung hindeutet. Dies stellt einen bedeutenden Fortschritt bei kommerziell verfügbaren Diffusionsmodellen dar.