마이크로소프트, 140억 매개변수의 오픈소스 언어 모델 Phi-4 발표

마이크로소프트가 140억 개의 매개변수를 가진 새로운 오픈소스 언어 모델 Phi-4를 발표했습니다. 합성 데이터, 필터링된 공개 도메인 웹사이트 데이터, 학술 서적, Q&A 데이터셋을 결합하여 구축되었으며, 정확한 지시 사항 준수와 강력한 안전 조치를 보장하기 위해 엄격한 개선 및 정렬 프로세스를 거쳤습니다. 컨텍스트 길이는 16k 토큰이며, 메모리/컴퓨팅 리소스가 제한된 환경, 낮은 대기 시간 시나리오, 추론 및 논리 능력이 필요한 범용 AI 시스템 및 애플리케이션(주로 영어)을 대상으로 합니다. 마이크로소프트는 개발자가 언어 모델의 일반적인 한계를 고려하고, 특히 고위험 시나리오에서 정확성, 안전성, 공정성을 평가하고 완화해야 한다고 강조합니다.