Google Gemini Diffusion: 놀라운 속도의 확산형 LLM

Google I/O에서 공개된 Gemini Diffusion은 트랜스포머 대신 확산 모델(Imagen 및 Stable Diffusion 등)을 사용하는 Google의 첫 번째 LLM입니다. 기존의 단어 단위 텍스트 생성 모델과 달리 Gemini Diffusion은 노이즈를 단계적으로 개선하여 텍스트를 생성하며 놀라운 속도를 자랑합니다. 테스트 결과 초당 857토큰의 생성 속도를 보였으며, 몇 초 만에 대화형 HTML+JavaScript 페이지를 생성했습니다. 아직 독립적인 벤치마크는 없지만 Google은 Gemini 2.0 Flash-Lite보다 5배 빠르다고 주장하며, 유사한 성능을 시사합니다. 이는 상용 확산 모델의 큰 발전입니다.