Gemini Diffusion do Google: Um LLM de Difusão Incrivelmente Rápido

O Google I/O apresentou o Gemini Diffusion, seu primeiro LLM a utilizar modelos de difusão (semelhantes ao Imagen e Stable Diffusion) em vez de transformadores. Diferentemente dos modelos tradicionais de geração palavra por palavra, o Gemini Diffusion refina o ruído iterativamente, resultando em uma velocidade impressionante. Testes mostraram velocidades de geração de 857 tokens/segundo, produzindo páginas interativas HTML+JavaScript em segundos. Embora benchmarks independentes ainda estejam pendentes, o Google afirma que é 5 vezes mais rápido que o Gemini 2.0 Flash-Lite, sugerindo desempenho comparável. Isso marca um avanço significativo em modelos de difusão comercialmente disponíveis.