AMD, 30억 매개변수의 완전히 오픈소스 언어 모델 'Instella' 발표

AMD는 AMD Instinct™ MI300X GPU에서 처음부터 학습된 최첨단의 완전히 오픈소스인 30억 매개변수 언어 모델 제품군인 'Instella'를 발표했습니다. Instella는 유사한 크기의 기존 완전히 오픈소스 모델을 능가하며 Llama-3.2-3B와 같은 최첨단 오픈 가중치 모델과 경쟁력 있는 성능을 달성합니다. AMD는 모델 가중치, 학습 구성, 데이터 세트, 코드 등 모든 모델 아티팩트를 오픈소스화하여 AI 커뮤니티의 협업과 혁신을 촉진합니다. 이 모델은 효율적인 학습 기술과 다단계 학습 파이프라인을 활용합니다.