엔비디아, 7억 달러에 인수한 Run:ai 오픈소스화

2024-12-30

엔비디아는 AI용 GPU 클라우드 오케스트레이션을 간소화하는 소프트웨어 기업 Run:ai를 7억 달러에 인수하고 즉시 소프트웨어를 오픈소스화했습니다. 이는 엔비디아의 시장 지배력으로 인한 반독점 우려에 대한 전략적 대응으로 해석되며, 기술에 대한 더 넓은 접근을 가능하게 하고 잠재적인 규제 문제를 완화합니다. Run:ai의 소프트웨어는 기업이 AI 개발을 위해 GPU 리소스를 효율적으로 관리하는 데 도움이 되어 AI 생태계 전반의 성장을 촉진합니다.

더 보기

LLM 메모리 비용을 최대 75% 절감하는 획기적인 기술

2024-12-17

도쿄에 본사를 둔 스타트업 Sakana AI는 대규모 언어 모델(LLM)의 메모리 효율성을 크게 향상시키는 "유니버설 트랜스포머 메모리"라는 획기적인 기술을 개발했습니다. 뉴럴 어텐션 메모리 모듈(NAMM)을 사용하여, 이 기술은 불필요한 정보를 제거하고 중요한 세부 정보를 유지하는 지능형 편집기 역할을 합니다. 결과적으로 메모리 비용을 최대 75%까지 절감하고 다양한 모델과 작업에서 성능을 향상시킬 수 있습니다. LLM을 사용하는 기업에게 큰 이점을 제공합니다.

더 보기