프리랜서 아티스트 로드니 우드랜드는 인스타그램에 게시된 반라 사진과 관련하여 릴 나스 엑스를 저작권 침해로 고소했습니다. 법원은 우드랜드의 사진 참여도가 낮아 릴 나스 엑스가 접근했음을 증명하기에 부족하며 사진 간에 실질적인 유사성이 없다는 이유로 소송을 기각했습니다. 법원은 소셜 미디어 알고리즘이 저작권 "접근" 기준에 미치는 영향을 자세히 검토하여 소셜 미디어에 작품을 게시하는 것만으로는 접근을 증명하기에 충분하지 않으며 플랫폼의 알고리즘이나 콘텐츠 공유 정책을 통해 피고가 원고의 작품을 볼 합리적인 기회가 있었음을 증명해야 한다고 밝혔습니다. 이 판결은 향후 소셜 미디어 알고리즘 추천 및 저작권 소송에 중요한 선례가 될 것입니다.
더 보기
시카고 선타임즈가 여름 증간에 AI로 생성한 가짜 여름 독서 목록을 발표하면서 큰 논란을 불러일으켰습니다. 이 목록에는 실존하는 작가들이 포함되어 있었지만, 책 제목은 모두 허구였습니다. 작가와 독자들로부터 비난이 쏟아졌습니다. 발행사는 해당 증간이 전국적으로 배포되는 일반적인 콘텐츠이며, 직원 감축 이후 자원이 제한적이라고 설명했지만, 독자들은 구독자들을 기만하는 행위라고 불만을 표하며 책임을 묻고 있습니다. 이 사건은 뉴스 출판 분야에서 AI의 위험성과 윤리적 문제점, 그리고 자원 제약 속에 있는 미디어 업계의 어려움을 보여줍니다.
더 보기
Lino Ferreira는 자신이 가장 좋아하는 LaTeX 폰트 7가지를 공유하고 각 폰트의 강점과 약점을 자세히 비교합니다. 클래식한 Bembo부터 현대적인 Libertine까지, 각 폰트의 역사적 배경, 디자인 개념, LaTeX 사용 예시 등이 제시됩니다. 또한 세리프체와 산세리프체의 조합, OpenType과 Type 1 폰트의 차이점을 논하며 LaTeX 사용자에게 귀중한 폰트 선택 가이드를 제공합니다.
더 보기
Microsoft는 AI 작업이라고 하는 AI 바로 가기를 Windows 11의 파일 탐색기에 통합하고 있습니다. 이를 통해 파일을 마우스 오른쪽 버튼으로 클릭하여 사진 배경 흐리게 하기, 개체 지우기, Office 파일 요약 등 Windows AI 기능에 빠르게 액세스할 수 있습니다. 현재 Bing 시각적 검색, 배경 흐리게 하기 및 개체 지우기(사진 앱에서), 페인트에서 배경 제거 등 4가지 이미지 작업이 테스트되고 있습니다. 곧 OneDrive/SharePoint에 저장된 문서 요약 및 AI 생성 목록을 빠르게 만들 수 있도록 Office 파일을 위한 유사한 AI 작업도 테스트될 예정입니다. 이 기능은 Copilot 라이선스가 있는 Microsoft 365 상용 구독자를 대상으로 먼저 제공되며, 일반 사용자 지원은 "나중에 제공"됩니다. 이와 함께 Windows 11 위젯 기능에 시각적 개선이 이루어지고 Copilot이 큐레이션한 스토리가 피드에 도입됩니다. 또한 새로운 "사용자 상호 작용 인식 CPU 전원 관리" 기능이 포함되어 있으며, 이는 비활성 노트북 및 태블릿의 전력 소비를 줄이기 위한 OS 수준의 변경 사항입니다.
더 보기
Google은 I/O 컨퍼런스에서 Gemini의 주요 업그레이드를 발표하며, 향상된 Gemini 2.5 Pro와 속도가 향상된 Gemini 2.5 Flash를 선보였습니다. Pro는 새로운 'Deep Think' 모드를 통해 다중 가설 추론을 가능하게 하여, 어려운 수학 및 코딩 벤치마크에서 인상적인 점수를 달성했습니다. Flash는 추론, 멀티모달, 코드 측면에서 눈에 띄는 개선을 보였으며, 효율성도 높아졌습니다. 두 모델 모두 기본 오디오 출력, 텍스트 음성 변환, 생각 요약, 생각 예산을 제공하며, 여러 언어와 방언을 지원하고 오픈소스 도구와의 통합이 개선되었습니다. Google의 목표는 컨텍스트를 이해하고, 계획을 세우고, 행동하는 '범용 AI 어시스턴트'이며, Gemini 2.5는 이 목표를 향한 큰 도약입니다.
더 보기
최근 연구는 성인의 꾸며낸 ADHD 증상을 식별하는 데 중점을 두고 있습니다. 이 검토는 코너스 성인 ADHD 평정척도(CAARS) 및 유효성 지수, 웨슬러 성인 지능검사(WAIS-IV)의 숫자 기억 범위, 기타 신경심리 검사 배터리 등 다양한 평가 방법을 조사한 많은 연구들을 종합적으로 요약합니다. 연구자들은 시뮬레이션 연구와 임상 샘플 분석을 사용하여 이러한 방법의 타당성을 평가하고, 꾸며낸 응답에 영향을 미치는 증상 코칭 및 정보 접근과 같은 요인들을 다루었습니다. 이러한 결과는 성인 ADHD의 더 정확한 진단 및 평가에 크게 기여하여 오진을 줄일 수 있습니다.
더 보기
객체 저장소에서 복구하여 전체 스택 애플리케이션을 SQLite에서 안정적으로 실행할 수 있도록 하는 오픈 소스 도구인 Litestream이 주요 업데이트를 받았습니다. 이 업데이트는 LiteFS 기술을 활용하여 훨씬 빠른 시점 복구(PITR)를 제공하고, 객체 저장소의 비교 및 교환 기능(CAS)을 사용하여 복제 관리를 간소화하며, 가상 파일 시스템(VFS) 기반의 경량 읽기 복제본을 도입했습니다. 이러한 개선을 통해 특히 많은 데이터베이스를 처리하는 경우 Litestream의 안정성과 사용 편의성이 향상됩니다. 또한 이 업데이트는 롤백 및 분기의 기본 기능으로 PITR을 제공하여 LLM 코드 개발 지원을 강화합니다.
더 보기
Red는 REBOL에서 영감을 받은 차세대 프로그래밍 언어로, 세계 최초의 진정한 풀스택 언어를 목표로 합니다. 사용자 친화적인 구문, 강력한 매크로 시스템, 풍부한 내장 데이터 유형을 갖추고 있으며, 함수형, 명령형, 반응형, 기호형 등 다양한 프로그래밍 패러다임을 지원합니다. Red는 네이티브 코드로 컴파일되며, 외부 종속성이 없는 1MB 미만의 실행 파일을 생성합니다. 동시성 및 병렬 처리 지원, 저수준 시스템 프로그래밍 기능, 크로스 플랫폼 네이티브 GUI 시스템을 제공합니다. 본질적으로 "언어 구성 키트"인 Red는 시스템 프로그래밍부터 고급 스크립팅까지 통일된 구문으로 다양한 작업을 가능하게 하여, 풀스택 개발의 "한 번 작성, 어디서나 실행"이라는 꿈을 실현합니다.
더 보기
Google은 월 249.99달러(처음 3개월은 50% 할인)의 프리미엄 AI 구독 서비스인 Google AI Ultra를 출시했습니다. 이를 통해 Gemini(Deep Think 2.5 Pro 탑재), Flow(AI 영화 제작 도구), Whisk(텍스트 및 이미지 프롬프트 시각화), NotebookLM, Gmail, Docs 등의 앱과의 Gemini 통합, Chrome 브라우저의 Gemini, Project Mariner 작업 관리, YouTube Premium, 30TB 스토리지 등 Google의 가장 강력한 AI 모델과 프리미엄 기능에 대한 무제한 액세스를 제공합니다. 영화 제작자, 개발자, 크리에이티브 전문가, 그리고 최고 수준의 AI 액세스가 필요한 모든 사람에게 적합합니다.
더 보기
NSA 셀렉터는 네트워크 트래픽을 오디오로 변환하는 Eurorack 모듈입니다. 프로토콜 변환 없이 네트워크 패킷의 프리앰블(이더넷 프레임 등)을 수신하여 작동합니다. 비압축 이미지 픽셀, 네트워크 게임 데이터 또는 원격 데스크톱 프로토콜 활동 등을 들을 수 있습니다. HiFi 품질은 아니지만, 독특한 '리스닝' 방식은 흥미롭습니다. 온라인 게임, IoT 기기, 원격 데스크톱 프로토콜 등 다양한 데이터 소스에서 작동합니다. 사용자는 자신만의 코드를 작성하여 ping, netcat, socat 등의 네트워크 도구를 MIDI로 제어하여 다양한 가능성을 열 수 있습니다. 암호화를 해제하면 더욱 흥미로운 결과를 얻을 수 있습니다.
더 보기
Google은 강력한 AI 기능을 모바일 기기에 제공하기 위해 설계된 획기적인 아키텍처 기반의 새로운 오픈 모델 Gemma 3n을 출시했습니다. Gemma 3n은 메모리 사용량 감소 및 빠른 응답 시간을 특징으로 하며, 멀티모달 이해(텍스트, 이미지, 오디오)와 강력한 다국어 기능을 지원합니다. 개발자는 Google AI Studio 및 Google AI Edge를 통해 미리 보기에 액세스하여 실시간 음성 변환, 번역, 이미지 이해 등 Gemma 3n의 기능을 활용한 애플리케이션을 구축할 수 있습니다. 이 모델은 개인 정보 보호를 중시하며 오프라인에서도 작동합니다.
더 보기
임베디드 오디오 DSP 개발은 오랫동안 긴 반복 주기, 플랫폼 간 복잡한 이식, 실시간 구성 및 가시성 부족으로 어려움을 겪어 왔습니다. 기존의 워크플로는 오디오 매개변수를 미세 조정하기 위해 엔지니어가 코드 작성, 컴파일 및 테스트를 반복적으로 수행해야 하며, 이는 시간이 많이 걸리는 프로세스이며 A/B 비교를 방해합니다. 또한 플랫폼 간 이식은 어렵습니다. 오디오 알고리즘은 특정 프로세서 아키텍처에 최적화되어 있으므로 새로운 플랫폼으로 직접 마이그레이션하기 어렵기 때문입니다. 이 기사에서는 그래픽 오디오 도구, 모듈식 설계 및 실시간 도구를 제공하여 개발 시간을 크게 단축하고 플랫폼 간 재사용을 가능하게 하는 새로운 개발 플랫폼을 소개합니다. 최대 10배의 속도 향상을 달성합니다. 이 플랫폼은 워드 길이, 바이트 순서, 캐시 특성과 같은 저수준 세부 정보를 숨기므로 동일한 오디오 그래프를 코드를 변경하지 않고도 다른 아키텍처(ARM, Xtensa, RISC-V)에서 실행할 수 있습니다.
더 보기
Google은 오늘 이미지, 비디오, 음악 제작에 있어 획기적인 발전을 가져온 최신 생성 미디어 모델을 발표했습니다. Veo 3과 Imagen 4는 놀라운 비주얼을 생성하며, Lyria 2는 음악 제작의 가능성을 확장합니다. 또한 새로운 AI 영화 제작 도구인 Flow는 캐릭터, 장면, 스타일을 정교하게 제어하여 영화적인 스토리텔링을 가능하게 합니다. 크리에이티브 업계와의 긴밀한 협력을 통해 개발된 이 모델과 도구는 아티스트와 크리에이터들이 AI의 잠재력을 책임감 있게 탐구할 수 있도록 지원합니다.
더 보기
Adobe는 북미 지역 Creative Cloud All Apps 플랜의 가격을 인상하고 Creative Cloud Pro로 이름을 변경한다고 발표했습니다. 가격 인상에는 이미지 생성을 위한 무제한 크레딧과 프리미엄 비디오 및 오디오 AI 툴을 위한 월 4000 크레딧과 같은 생성형 AI 기능 추가가 포함됩니다. 개인 연간 구독은 월 59.99달러에서 69.99달러로, 월 구독은 89.99달러에서 104.99달러로 인상됩니다. AI 기능이 제한된 저렴한 Creative Cloud Standard 플랜도 제공됩니다. 이러한 변경은 일부 사용자들의 반발을 불러일으켰으며, Adobe의 가격 전략에 대한 의문을 제기하고 있습니다.
더 보기
보르도의 서점에서 저자는 2차 세계 대전 중 나치의 총살대에 의해 처형된 사람들이 쓴 마지막 편지 모음을 발견합니다. 이러한 감동적인 편지들은 임박한 죽음에 직면한 인간의 조건을 있는 그대로 보여주며, 슬픔의 단계와 마지막 순간에 매달리는 소중한 기억들을 드러냅니다. 저자는 이 편지들이 단순히 전쟁의 잔혹 행위를 기록하는 것 이상으로, 삶의 의미와 각 순간을 소중히 여기는 것의 중요성에 대해 깊이 생각하게 만드는 방법에 대해 숙고합니다.
더 보기
이 글은 Nvidia의 초기 그래픽 칩인 NV1의 아키텍처 혁신에 대해 자세히 다룹니다. 저자인 David S. H. Rosenthal은 Sun Microsystems와 초기 Nvidia에서의 경험을 회고하며 NV1의 성공 비결을 밝힙니다. 두 가지 주요 혁신이 눈에 띄는데, 바로 새로운 이미징 모델과 I/O 아키텍처입니다. 이미징 모델은 삼각형 대신 2차 곡면 패치를 사용하여 데이터 전송량을 크게 줄였고, 당시 대역폭이 제한적인 PCI 버스에서도 Virtua Fighter와 같은 게임을 원활하게 실행할 수 있도록 했습니다. I/O 아키텍처는 소프트웨어 리소스 관리자를 갖춘 가상화된 객체 시스템을 채택하여 하드웨어 기능을 유연하게 에뮬레이션하고, 개발 속도를 크게 높이고 위험을 줄였습니다. 저자는 NV1이 단순한 최소 실행 가능 제품이 아니라 미래 운영 체제와 그래픽 요구 사항에 대한 깊은 이해를 바탕으로 설계된 미래 지향적인 아키텍처이며, Nvidia의 이후 성공의 기반이 되었다고 주장합니다.
더 보기
arXivLabs는 협력자들이 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs와 협력하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 가치를 수용합니다. arXiv는 이러한 가치에 전념하며, 이러한 가치를 공유하는 파트너와만 협력합니다. arXiv 커뮤니티에 도움이 되는 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.
더 보기
Juvio는 종속성 관리 및 Git 통합을 해결하여 Jupyter Notebook 워크플로를 간소화합니다. `%juvio install`을 사용하여 노트북 내에서 직접 패키지를 설치하고 종속성을 메타데이터(PEP 723)로 저장할 수 있습니다. Juvio는 임시 가상 환경(uv 사용)을 자동으로 설정하여 재현 가능한 결과를 보장합니다. 노트북은 스크립트와 유사한 형식으로 변환되어 더욱 깔끔한 Git diff를 제공하며, lock 파일이나 requirements.txt가 필요하지 않습니다. 이를 통해 재현성과 버전 관리가 간소화됩니다.
더 보기
이 글에서는 Starina 운영체제에서 Linux 호환성을 위한 혁신적인 방법을 소개합니다. 바로 하이퍼바이저(VMM)를 애플리케이션 내부에 라이브러리로 통합하는 것입니다. 기존의 독립형 VMM과 달리 Starina의 `starina_linux::Command` API를 사용하면 개발자는 `std::process::Command`와 유사하게 Linux 프로그램을 실행하고 가상 파일 시스템(virtio_fs)을 통해 가상 머신과 상호 작용할 수 있습니다. 이 설계는 개발을 간소화하고 기존 Linux 환경보다 더 빠른 시작 시간을 달성할 가능성을 제공합니다. 현재 기본 파일 I/O가 지원되며, 향후 작업에는 네트워킹, 영구 저장소 및 향상된 컨테이너화 추가가 포함됩니다.
더 보기
Deputy는 Clojure 기반의 실험적인 종속형 프로그래밍 언어로, 귀납적 데이터 타입을 지원합니다. Lisp 기반 REPL 기반의 대화형 개발 워크플로우가 프로그래밍과 타입 검사 모두에 어떤 영향을 미치는지 탐구합니다. Clojure 라이브러리로 구현되어 있어, 타입 레벨에서 프로그래밍하면서도 호스트 언어 Clojure의 기능을 활용할 수 있습니다. 이를 통해 값에 의존하는 타입 레벨 계산이 가능해지고, 강력한 프로그래밍 패턴을 구현할 수 있습니다. 중요한 점은, 타입의 풍부한 동적 의미론에도 불구하고, 타입 검사는 순수하게 컴파일 타임에 수행되는 연산이라는 것입니다.
더 보기
본 게시글에서는 프로덕션 환경에서 직접 실행되는 자동화 테스트인 프로덕션 테스트를 지지합니다. 이러한 테스트는 대개 1분마다 실행되며, 회귀 문제에 대한 조기 경고를 제공하여 고객에게 영향이 미치기 전에 수정할 수 있도록 합니다. 저자는 이점, 설계 고려 사항(테스트의 단순성 및 오탐 방지 등), 구현 세부 정보를 설명합니다. 프로덕션 테스트는 시스템의 신뢰성과 관찰 가능성을 향상시키는 데 보완적인 역할을 하는 상태 확인과 비교됩니다. 중요한 것은 작게 시작하여 중요한 기능에 집중하고 점진적으로 적용 범위를 확장하는 것입니다.
더 보기
이 글에서는 클러스터 셰이딩을 사용한 GPU 구동형 포워드 렌더링에 대해 설명합니다. GTX 1070 GPU에서 스탠포드 드래곤 27000마리와 라이트 10000개를 60FPS 이상으로 렌더링하는 데 성공했습니다. 높은 성능은 엔티티 데이터를 연속적인 GPU 버퍼에 저장하고, 간접 멀티 드로우 콜을 사용하여 드로우 콜 수를 최소화함으로써 달성되었습니다. 또한 컬링, 버퍼 관리, 클러스터 셰이딩 등의 기술과 원자 카운터 및 발롯을 사용한 효율적인 버퍼 압축 등의 최적화 전략에 대해 자세히 설명합니다. 성능 데이터와 코드 예시도 제공하여 고성능 렌더링에 대한 귀중한 통찰력을 제공합니다.
더 보기
Codex는 OpenAI 모델 기반의 GitHub 통합 도구로, 사용자는 자연어로 코드 수정 작업을 제출할 수 있습니다. 여러 작업을 병렬로 처리하고 익숙한 채팅 인터페이스를 통해 진행 상황을 추적할 수 있다는 점이 강점입니다. 하지만 현재 Codex는 오류 처리가 미흡하고, 대규모 리팩토링 작업 처리가 어렵고, 인터넷에 접근할 수 없다는 등의 단점이 있습니다. 저자는 모델 개선과 기능 향상을 통해 Codex가 매우 효율적인 개발 어시스턴트가 될 가능성이 있다고 믿지만, 현재로서는 소규모의 간단한 유지보수 작업에 적합합니다.
더 보기
LLM 기반 에이전트는 지칠 줄 모르는 주니어 개발자가 되어가고 있습니다. API 문서를 읽고, 요청을 보내고, 오류를 파악하고, 성공할 때까지 반복합니다. 그러나 API 개발자 경험(DX)은 매우 중요합니다. 문서가 부족하거나 오류 메시지가 모호하여 에이전트가 중단되면 인간 개발자도 동일한 문제에 직면할 가능성이 높습니다. API 문서 개선, 명확하고 자세한 오류 메시지 제공, 일관성 유지 관리를 통해 DX가 크게 향상되고 에이전트 효율성이 높아집니다. 이는 인간 개발자에게도 도움이 되며, 에이전트를 자동화된 테스터로 사용하여 문제를 조기에 감지할 수 있습니다.
더 보기
Jwno는 Janet 프로그래밍 언어로 구축된 Windows 10/11용 고도로 사용자 지정 가능한 타일링 창 관리자입니다. 정확한 창 제어를 위한 고유한 "마법 괄호" 기능을 제공합니다. 아직 개발 중이므로 일부 문서는 완성되지 않았지만 설치 가이드, 대화형 자습서 및 참조 색인 등을 제공합니다. Emacs 및 Sonic Pi와 같은 애플리케이션에서의 사용 사례가 스크린샷으로 소개됩니다.
더 보기
RepoRoulette는 GitHub 저장소를 무작위로 샘플링하는 강력한 도구로, ID 샘플링, 시간 샘플링, BigQuery 샘플링 세 가지 방법을 제공합니다. ID 샘플링은 GitHub ID 공간에서 직접 무작위 ID를 선택하여 속도는 빠르지만 적중률이 낮습니다. 시간 샘플링은 지정된 기간 내에 업데이트된 저장소를 선택하며, 별 개수, 언어 등의 속성으로 필터링할 수 있습니다. BigQuery 샘플링은 Google BigQuery의 공개 GitHub 데이터 세트를 활용하여 강력한 기능을 제공하지만 GCP 계정과 요금이 필요합니다. RepoRoulette는 학술 연구, 학습 자료 확보, 데이터 과학, 트렌드 분석, 보안 연구 등에 적합합니다.
더 보기
90s.dev는 320x180픽셀 캔버스를 제공하는 새로운 브라우저 기반 게임 제작 플랫폼으로, 게임과 앱을 만들고 공유할 수 있습니다. Pico-8, Tic-80과 같은 레트로 게임 제작 도구에서 영감을 얻었으며, ref 기반 GUI 시스템과 강력한 구성 기능 등 독창적인 혁신을 자랑합니다. GitHub 또는 NPM에서 모듈을 가져오는 것도 지원합니다. 사용자는 픽셀 아트 편집기, 스프라이트 제작 도구, 맵 편집기 등의 도구를 만들고 iframe 또는 링크를 통해 작품을 공유할 수 있습니다. 90s.dev는 활기찬 커뮤니티를 육성하고 게임 및 도구의 협업 제작과 공유를 장려하는 것을 목표로 합니다.
더 보기
Astra는 npm에서 사용할 수 있는 빠르고 안정적이며 사용하기 쉬운 JavaScript에서 실행 파일(.exe)로의 컴파일러입니다. signale, inquirer, chalk로 구축된 시각적으로 매력적인 CLI를 자랑하며, 뛰어난 사용자 경험을 제공합니다. esbuild에 의해 구동되므로 믿을 수 없을 정도로 빠른 컴파일 속도를 자랑합니다. ESM 기반 애플리케이션의 컴파일을 지원하며(Node.js SEA의 제한에 대한 해결 방법 포함) 모든 종속성을 포함하는 단일 실행 파일을 생성합니다. 메타데이터(아이콘, 이름, 버전 등)를 사용자 지정하고 내장 압축 기능을 사용하여 더 작은 실행 파일을 만들 수 있습니다. npm, yarn, pnpm을 통해 전역적으로 설치하거나 개별 프로젝트에 대해 로컬로 설치할 수 있습니다.
더 보기
설문 조사는 여론 조사, 시장 조사, 공공 정책의 기반이지만 이중의 위기에 직면해 있습니다. 응답률 감소와 AI 생성 응답의 급증입니다. 70~80년대 응답률은 30~50%였지만 현재는 5%까지 떨어졌습니다. 동시에 AI 에이전트는 설문 조사에 쉽게 참여하여 보상을 얻을 수 있습니다. 저자는 AI 에이전트가 설문 조사에 참여하는 용이성을 보여주고 여론 조사, 시장 조사, 공공 정책에 대한 부정적 영향(데이터 편향, 모델 오류 등)을 분석합니다. 해결책으로 설문 조사 디자인 개선, AI 탐지 도구 개발, 보상 증가, 대체 데이터 수집 방법 탐색 등을 제안합니다. 데이터 품질 향상과 설문 조사의 유효성을 보장하기 위해 공동으로 노력해야 한다고 강조합니다.
더 보기
llm-d는 Kubernetes 기반의 고성능 분산형 대규모 언어 모델(LLM) 추론 프레임워크로, LLM을 대규모로 서비스하기 위한 효율적인 방법을 제공합니다. 대부분의 모델과 하드웨어 가속기에서 최고 속도의 가치 실현과 경쟁력 있는 가격 대비 성능을 제공합니다. KV 캐시 인식 라우팅 및 분산 서비스와 같은 최첨단 분산형 추론 최적화를 활용하고, Inference Gateway(IGW)의 Kubernetes 운영 도구와 공동 설계 및 통합하여 llm-d는 모듈화되고 고성능이며 엔드투엔드 서비스 솔루션을 통해 생성 AI 배포를 운영할 수 있도록 합니다. 기존의 확장 방식과 달리 llm-d는 느리고 불균일하며 비용이 많이 드는 요청과 같은 LLM 추론의 고유한 특성에 맞춰 최적화되어 뛰어난 성능을 제공합니다. 캐시 인식 라우팅, 작업 분산 및 적응형 확장을 통해 llm-d는 처리량과 효율성을 크게 향상시키고 대기 시간을 줄이며 다양한 서비스 품질 요구 사항을 지원합니다.
더 보기