AMD Ryzen AI 프로세서에서 DeepSeek R1 추론 모델을 손쉽게 실행
2025-02-07
DeepSeek R1은 사고 연쇄(CoT) 추론을 사용하여 복잡한 작업을 처리하는 새로운 유형의 추론 모델입니다. 응답 시간이 길어지는 트레이드오프가 있지만 매우 높은 추론 능력을 갖추고 있습니다. 이러한 고성능의 증류된 DeepSeek R1 모델은 이제 LM Studio를 통해 AMD Ryzen™ AI 프로세서와 Radeon™ 그래픽 카드에 쉽게 배포할 수 있습니다. 이 기사에서는 다양한 AMD 하드웨어 구성에서 다양한 DeepSeek R1 증류를 실행하는 방법과 최적의 성능을 위한 권장 모델 크기 및 양자화 설정에 대해 설명합니다.
AI
AI 추론 모델