LLaMA-Factory는 LLaMA, LLaVA, Mistral 등 100개 이상의 대규모 언어 모델(LLM)을 효율적으로 미세 조정할 수 있는 오픈소스 프레임워크입니다. LoRA, QLoRA, OFT 등 다양한 미세 조정 방법을 통합하고, 확장 가능한 리소스와 고급 알고리즘을 제공하며, 다회차 대화 및 이미지 이해 등 광범위한 작업을 지원합니다. LLaMA-Factory는 다양한 추론 가속 기술도 지원하며, 사용자 친화적인 인터페이스와 API를 제공합니다. 최신 모델과 기술을 지속적으로 지원하여 개발자에게 LLM 미세 조정을 위한 편리하고 효율적인 도구를 제공하는 것을 목표로 합니다.
더 보기
멕시코 정부 고위직 공무원이었던 페데리코 곤잘레스 와이트는 멕시코 정부 내 오픈소스 소프트웨어 도입을 추진해 온 10년간의 경험을 공유했습니다. 비용 절감, IT 주권 확립, 그리고 독점 소프트웨어 공급업체로부터의 탈피를 목표로 그는 국가 전자 여권 시스템 구축 및 대규모 통신 인프라 구축 등 여러 프로젝트를 주도했습니다. 오라클과 같은 거대 기업의 위협과 정부 내부의 저항에도 불구하고 상당한 진전을 이루었지만, 지속적인 자금 부족과 정부 리더십 변화로 인해 프로젝트가 실패하는 등의 좌절을 경험하기도 했습니다. 그는 오픈소스로의 성공적인 전환은 강력한 내부 지원과 리더십의 헌신, 그리고 인재 양성에 대한 지속적인 투자에 달려 있음을 강조했습니다.
더 보기
반도체 엔지니어링 전문가들은 AI를 칩 설계에 적용하여 가치를 극대화하고 설계 프로세스에 영향을 미치는 방법에 대해 논의했습니다. AI가 칩 설계를 광범위한 도메인 특정 방식에서 도메인과 하위 도메인으로 세분화된 보다 세밀한 접근 방식으로 전환할 것으로 예상합니다. 이는 다양한 수직 시장(예: 자동차 또는 미션 크리티컬 애플리케이션)의 고유한 요구 사항을 충족하기 위한 것입니다. AI 도구는 프로세스를 자동화하고, 디버깅 분석을 개선하고, 궁극적으로 완전히 자율적인 워크플로우(레벨 5)를 달성할 것을 약속하여 주니어 엔지니어에 대한 의존도를 줄일 수 있습니다. 그러나 AI의 신뢰성을 보장하고 의사 결정 프로세스를 엔지니어에게 투명하고 이해하기 쉽게 만드는 과제가 남아 있으며, 설계의 품질과 효율성을 보장해야 합니다.
더 보기
최근 `is-arrayish`라는 NPM 패키지에 악성 코드가 주입되어 사용자 거래에서 ETH를 훔치려는 시도가 있었습니다. 악성코드는 `fetch`, `XMLHttpRequest`, `window.ethereum.request`와 같은 브라우저 함수를 덮어써서 이를 달성했습니다. 이 글에서는 공격에 대한 자세한 분석 대신 LavaMoat를 사용하여 이러한 공격을 방지하는 방법을 보여줍니다. LavaMoat는 각 종속성의 모듈을 별도의 어휘적 전역 컨텍스트(구획)에 배치하고 정책에 지정된 전역 변수와 가져오기만 허용하여 악성 코드의 액세스를 제한합니다. 이를 통해 악성 코드가 트랜잭션 주소를 변경하는 것을 방지합니다. 정교한 악성코드라도 LavaMoat의 방어를 우회하기는 어렵습니다.
더 보기
저자는 Logitech MX Ergo 마우스를 아주 좋아하지만, 몇 가지 단점이 있습니다. Micro-USB 충전 포트, 시끄러운 클릭 소리, 그리고 과도하게 부풀어 오른 소프트웨어입니다. 8년 동안 업데이트를 기다린 후, 직접 개조하기로 결정했습니다. USB-C 포트 교체, 자세한 납땜 지침, 시끄러운 스위치를 조용한 Huano 스위치로 교체, 그리고 Logitech 소프트웨어를 더 가벼운 SteerMouse로 바꾸는 작업을 수행했습니다. 이것은 DIY 맞춤 설정에 대한 설득력 있는 이야기이며, 그 과정에 대한 깊이 있는 통찰력을 제공합니다.
더 보기
2021년, 슈퍼마켓들은 플라스틱 폐기물 문제 해결을 약속하며 플라스틱 재활용 프로그램을 시작했습니다. 마케팅과 업데이트된 라벨은 플라스틱이 재활용 가능하며 실제로 재활용되고 있음을 고객들에게 보장하며, 봉투나 포장재 등을 매장에 가져오도록 독려했습니다. 그러나 도로변 플라스틱 재활용을 제공하는 지방자치단체는 약 10%에 불과하며, 업계 전문가들은 큰 어려움을 인지하고 대규모 재활용은 거의 불가능하다고 생각합니다. 이러한 노력은 선의의 거짓말일까요, 아니면 그린워싱일까요?
더 보기
이 글에서는 YAML 파일과 Python 스크립트를 사용하여 최소한의 시맨틱 레이어를 구축하는 방법을 보여주고, 2천만 건의 뉴욕시 택시 레코드를 쿼리하여 그 가치를 설명합니다. 시맨틱 레이어가 실제로 유용한 경우와 과도한 경우를 명확히 합니다. 기존 데이터베이스와의 차이점을 보여주고 데이터 거버넌스, 캐싱, 안전한 액세스 제어, LLM 통합의 이점을 강조합니다.
더 보기
Akademy 2025에서 KDE 프로젝트는 최첨단 기술을 사용하여 KDE가 제공하는 최고의 기능을 보여주기 위해 구축된 배포판인 KDE Linux의 알파 버전을 출시했습니다. Arch Linux를 기반으로 하지만 Pacman을 사용하지 않고 KDE Builder와 Flatpak을 사용하여 소프트웨어를 설치합니다. 가정용, 비즈니스용, OEM용을 목표로 하지만 알파 버전은 아직 개발 중입니다. 향후 계획에는 테스트 버전, 매니아 버전, 안정 버전이 포함되며, 궁극적으로 다른 배포판으로 마이그레이션하는 계획도 포함됩니다.
더 보기
시각 중심의 관광 산업에서 소리는 종종 간과됩니다. 이 프로젝트는 관광 경험과 문화유산 보존에서 소리가 하는 중요한 역할을 탐구합니다. 과도한 관광이 심각한 문제가 되고 있는 가운데, 소리는 관광지와 잠재적인 해결책에 대한 새로운 관점을 제공합니다. "소닉 헤리티지"는 세계에서 가장 문화적으로 중요한 장소의 사운드스케이프를 조사하고 문화적 또는 사회적으로 중요한 사운드스케이프의 확인, 기념, 보존을 촉구합니다.
더 보기
ProtonMail은 수신자만 이메일을 읽을 수 있도록 하는 엔드투엔드 암호화, ProtonMail 서버조차 메시지에 접근할 수 없도록 하는 제로 액세스 암호화, 투명성과 보안 신뢰를 위한 오픈소스 및 감사 코드, 그리고 사이버 위협으로부터 보호하기 위한 안티피싱 도구 등 개인 정보 보호를 중시하는 핵심 기능을 제공합니다. 이러한 기능들이 결합되어 강력한 개인 정보 보호 기능을 제공합니다.
더 보기
Panel Graphic Walker는 Jupyter Notebook 및 Panel 애플리케이션 내에서 대화형 데이터 탐색을 위한 Python 라이브러리입니다. Graphic Walker의 기능을 HoloViz Panel에 통합하여 Tableau와 유사한 인터페이스를 제공합니다. 최소한의 코드로 동적인 시각화와 테이블을 빠르게 생성할 수 있습니다. 다양한 데이터 백엔드와 렌더러를 지원하며, 서버측 연산을 이용하여 대규모 데이터셋을 처리할 수 있습니다. 프로젝트는 아직 초기 단계이므로 특정 버전을 고정하는 것이 좋습니다.
더 보기
이 게시물에서는 수명 구멍을 처리하기 위한 선형 스캔 레지스터 할당 알고리즘의 개선 사항을 자세히 설명합니다. 저자는 제어 흐름 그래프를 선형 명령어 시퀀스로 줄임으로써 가상 레지스터의 수명에 불연속성이 발생하는 수명 구멍이 발생하는 메커니즘을 설명합니다. 해결책은 여러 개의 비겹치는 범위를 지원하도록 간격 데이터 구조를 수정하여 이러한 구멍을 식별하고 활용할 수 있도록 하는 것입니다. 그런 다음 선형 스캔 알고리즘을 조정하여 레지스터 할당 중에 이러한 구멍을 고려하여 레지스터 사용률을 개선합니다. 이를 통해 컴파일러의 레지스터 리소스 활용 능력이 향상되어 최종적으로 코드 성능이 향상됩니다.
더 보기
대규모 언어 모델(LLM)의 학습 후 과정은 안전 지침을 위반하는 콘텐츠를 접했을 때 모델의 동작에 편향을 줄 수 있습니다. 이 글에서는 OpenAI의 GPT-4를 예로 들어 학습 후 모델 보정의 실패를 살펴보고, 틀렸을 때조차 과도한 자신감으로 이어지는 것을 보여줍니다. 이는 콘텐츠 조정 시스템에서 많은 오탐을 발생시켜 사람의 검토 작업량을 증가시킵니다. 저자들은 GPT-4o에서 GPT-4.1-mini로 업그레이드하면서 신뢰도 신호가 사라졌고, 이를 복구하려는 시도는 모두 실패했다는 것을 발견했습니다. 이는 모델 증류 중 정보 손실 때문일 가능성이 있습니다. 이를 해결하기 위해 저자들은 상세한 정책 설명과 인용을 요구하고, 허위 출력을 찾는 필터링 시스템 등의 대안적인 보호 장치를 구현했습니다. 이 글은 모델 업그레이드가 단순한 성능 향상이 아니라 엔지니어가 모델의 불확실성을 다시 공개하도록 요구하는 분포 변화를 일으킨다는 점을 강조합니다. 이를 통해 관련 위험을 줄일 수 있습니다.
더 보기
이 글은 20명의 직원으로 시작한 Anduril이 4000명의 직원과 280억 달러의 기업 가치를 가진 회사로 급성장한 과정을 보여줍니다. 저자는 Anduril의 전 엔지니어링 수석 부사장으로서, 속도, 제일 원리에 기반한 사고방식, 책임감, 단순성, 배포 중심이라는 조합을 통해 회사의 급속한 성공 비결을 설명합니다. Anduril의 신속한 반복과 대담한 실험은 저렴한 Anvil 드론 방어 시스템과 고성능 Bolt 로이터링 무기와 같은 혁신적인 방위 제품으로 이어져 수십억 달러 규모의 계약을 따냈습니다. 이 글에서는 기술적 우수성, 제품 중심 사고방식, 그리고 야심찬 아이디어를 배포 가능한 제품으로 바꾸는 데 필요한 높은 효율성을 갖춘 조직 구조를 강조하는 Anduril의 독특한 문화도 다룹니다.
더 보기
LinkedIn은 2025년 11월 3일부터 유럽 회원 데이터를 사용하여 생성형 AI 모델 학습을 재개할 계획입니다. 개인 정보 보호 우려로 작년에 일시 중단된 후, LinkedIn은 '정당한 이익'을 법적 근거로 삼고 옵트아웃 옵션을 제공합니다. 개인 메시지는 포함되지 않습니다. 이 변경 사항은 EU/EEA, 영국, 스위스에 적용됩니다. 사용되는 데이터에는 공개 프로필 정보, 게시물, 기사, 댓글, 이력서 등이 포함됩니다. 이를 통해 작성 제안 및 채용 담당자 도구와 같은 AI 기반 기능이 향상됩니다. 동시에 LinkedIn은 광고 개인화를 위해 Microsoft와의 데이터 공유를 확대하고 옵트아웃 옵션을 제공합니다.
더 보기
SaaS 회사가 청구 환불로 인해 겪은 좌절스러운 경험을 공유합니다. 구독 전 알림이나 간편한 취소 옵션과 같은 사전 조치에도 불구하고 고객들은 여전히 분쟁을 일으키고 있습니다. 문제는 매출 손실만이 아닙니다. 분쟁에서 승소하더라도 수수료가 발생하기 때문에 소액 청구 환불은 불균형적으로 비용이 많이 듭니다. 저자는 10달러 청구가 43.95달러 손실로 이어진 사례를 자세히 설명하고, 증거와 관계없이 은행이 항상 카드 소지자 편을 드는 시스템의 불공정성을 강조합니다. 은행과 결제 처리 업체의 느린 대응과 비효율성으로 인해 회사의 분쟁 해결 노력은 의문을 제기받고 있습니다.
더 보기
FAA 데이터에 따르면 레이건 공항에서 30건의 아찔한 사고가 발생했습니다. 이 글에서는 기술 기업들이 주요 사고 예방을 우선시하면서 악화될 수 있는 많은 아찔한 사고들을 간과하는 경우가 많다고 주장합니다. 아찔한 사고는 심각한 사고의 전조이지만, 영향이 없기 때문에 종종 무시됩니다. 저자는 아찔한 사고를 심각한 사고만큼 심각하게 받아들이고, 이를 사전에 파악하고 분석하기 위한 메커니즘을 구축할 것을 제안합니다. 여기에는 신뢰성 향상을 위해 보고 및 분석을 장려하는 문화적 변화가 필요합니다.
더 보기
미국 저작권청장 시라 펄머터는 AI 모델 개발자의 저작권으로 보호되는 자료 사용이 기존의 공정 이용 원칙을 넘어섰다는 결론을 내린 기관 보고서 발표 다음 날 해임된 것으로 알려졌다. 이 보고서는 특정 상황에서 AI 기업이 공정 이용 방어를 유지할 수 없다고 명시하여 Google, Meta, OpenAI, Microsoft 등의 기업이 법적 위험에 처하게 되었다. 해임 이유는 논란이 되고 있으며, 펄머터가 일론 머스크의 저작권으로 보호되는 자료의 AI 훈련 사용을 허용하지 않았거나 트럼프 행정부의 다양성 정책의 광범위한 변화 때문일 가능성이 제기된다. 이 사건은 AI 저작권 분쟁을 격화시키고 AI 개발과 저작권 보호의 균형에 대한 논쟁을 불러일으켰다.
더 보기
arXivLabs는 참여자들이 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs와 협력하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 arXiv의 가치를 수용하고 있습니다. arXiv는 이러한 가치를 중시하며, 이러한 가치를 공유하는 파트너와만 협력합니다. arXiv 커뮤니티에 도움이 될 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.
더 보기
국제 과학자팀이 남극 암반을 약 2마일(2.8km) 굴착하여 지금까지 발견된 가장 오래된 빙핵 중 하나를 채취하는 데 성공했습니다. 그 시대는 최소 120만 년 전으로 추정됩니다. 이탈리아가 주관한 Beyond EPICA 프로젝트는 평균 기온 영하 35도의 극한 환경에서 4년간의 굴착 작업 끝에 이뤄낸 성과입니다. 이 고대 빙핵 분석을 통해 지구 대기와 기후의 진화에 대한 중요한 정보를 얻을 수 있으며, 빙하기 주기와 대기 중 탄소가 기후 변화에 미치는 영향에 대한 이해를 심화시킬 것으로 기대됩니다. 이 발견은 현재 기후 위기 이해 및 해결에 도움이 되는 귀중한 데이터를 제공합니다.
더 보기
원래 C++로 작성된 ClickHouse 데이터베이스는 더 많은 개발자를 유치하고 기능을 확장하기 위해 Rust 통합이라는 여정을 시작했습니다. 이 글에서는 초기 파일럿 프로젝트로 BLAKE3 해시 함수를 선택한 것부터 PRQL 쿼리 언어와 Delta Lake 라이브러리 통합에 이르는 과정을 자세히 설명합니다. 빌드 시스템 통합, 메모리 관리, 에러 처리, 크로스 컴파일 등 여러 가지 과제에 직면했습니다. Rust 라이브러리의 버그, 매우 긴 심볼 이름, C++ 코드와의 상호 운용성 문제 등 몇 가지 문제가 발생했지만, ClickHouse 팀은 이러한 장애물을 극복하고 Rust를 프로젝트에 성공적으로 통합하여 미래 개발의 길을 열었습니다.
더 보기
밀라노 법원은 Cloudflare에 세리에A 축구 경기를 제공하는 불법 스트리밍 서비스를 CDN, DNS, WARP, 프록시를 포함한 모든 서비스에서 차단하도록 명령했습니다. 법원은 Cloudflare의 서비스가 불법 스트림 접근을 용이하게 하고 이탈리아의 '저작권 보호막' 법을 훼손한다고 판단했습니다. 이 명령에는 광범위한 데이터 공개도 포함되어 Cloudflare는 해적 행위에 서비스를 이용하는 고객을 식별해야 합니다. 이 획기적인 판결은 디지털 저작권 침해 방지에서 제3자 중개업체의 책임을 강조하며, 저작권 보호 노력에 있어 중요한 진전입니다.
더 보기
부에노스아이레스 상수로 알려진 신비로운 숫자 2.92005097731613…은 간단한 Python 스크립트를 초기화하는 데 사용하면 소수 시퀀스를 생성합니다. 이것은 우연이 아닙니다. 상수의 정의는 본질적으로 소수 시퀀스와 관련되어 있습니다. 그러나 IEEE 754 표준을 사용하는 계산 정밀도의 한계 때문에 알고리즘은 특정 수의 소수를 생성한 후 실패합니다. 이는 수학 상수와 소수 간의 더 깊은 관계에 대한 의문을 제기하고 수학 실험 결과에 대한 계산 정밀도의 영향을 강조합니다.
더 보기
이 기사에서는 불확실성 하에서의 분수 정렬과 제한된 관측에 기반한 버스 대수 추정이라는 두 가지 통계적 문제를 다룹니다. 분수 정렬의 경우 베이즈 접근 방식(베타 분포 사용)과 최대 가능도 접근 방식이 제시되고 R에서 시연됩니다. 버스 대수 추정의 경우 다항 분포를 기반으로 한 확률 밀도 함수가 구성되고 최대 가능도 접근 방식을 사용하여 버스 대수의 신뢰 구간을 도출합니다. 두 문제 모두 통계적 모델링과 계산 방법을 교묘하게 결합하여 통계적 추론의 유연성과 실용성을 보여줍니다.
더 보기
최근 몇 년 동안 TV 광고 소음에 대한 민원이 수천 건이나 연방통신위원회(FCC)에 접수되었습니다. 상업 광고 소음 완화법(CALM 법)에도 불구하고, 2024년 민원이 급증했습니다. FCC는 2022년 약 750건, 2023년 825건, 2024년에는 최소 1700건의 민원을 접수했습니다. CALM 법은 광고의 평균 소음 수준을 프로그램과 동일하게 유지하는 것을 목표로 하지만, 일부 광고주는 처음에 소음을 높였다가 줄이는 방식으로 법의 취지를 회피하고 있을 수 있습니다. 이에 따라 FCC는 CALM 법의 효과와 향후 조치에 대한 일반 의견을 구하고 있습니다.
더 보기
OpenAI의 새로운 오픈소스 LLM 출시 파트너로서 Baseten은 GPT-OSS-120B 출시 당일 최고 성능을 달성하기 위해 노력했습니다. 유연한 추론 스택을 활용하여 TensorRT-LLM, vLLM, SGLang에서 테스트를 진행하고 Hopper 및 Blackwell GPU 아키텍처를 지원했습니다. 주요 최적화에는 KV 캐시 인식 라우팅 및 Eagle을 사용한 추측 디코딩이 포함되었습니다. 지연 시간을 우선시하여 텐서 병렬 처리를 선택하고 TensorRT-LLM의 MoE 백엔드를 사용했습니다. 팀은 호환성 문제를 신속하게 해결하고 모델 구성을 지속적으로 개선하여 오픈소스 커뮤니티에 기여했습니다. 향후 개선에는 더 빠른 추론을 위한 추측 디코딩이 포함될 것입니다.
더 보기
Gemma 프로젝트의 성공은 Gemma 팀과 Google 개인정보보호 팀의 협력적인 노력 덕분입니다. 블로그 게시글에 대한 피드백을 제공해준 Peter Kairouz, Brendan McMahan, Dan Ramage, 시각화 지원을 제공해준 Mark Simborg과 Kimberly Schwede, 그리고 알고리즘 설계, 인프라 구축, 운영 유지보수에 기여한 Google 팀에 특별한 감사를 표합니다. 이 게시글에서는 이 작업에 직접 기여한 20명의 개인도 나열하고 있습니다.
더 보기
2년 전, 젊은 기후 운동가들은 그린피스의 반원전 입장에 도전하기 위해 디어 그린피스를 설립했습니다. 현재 유럽의 여러 국가들이 원전 금지를 철회하거나 완화했으며, 유럽 사법 재판소는 EU의 지속 가능한 금융 분류에 원전을 포함시킨 것에 대한 오스트리아의 소송을 기각했습니다. 그린피스의 지속적인 반대에도 불구하고, 이러한 변화는 과학에 기반한 원전 지지자들의 큰 진전을 보여주며, 세계적인 청정 에너지 전환의 길을 열고 있습니다.
더 보기
미국 농무부(USDA) 감찰관 필리스 퐁은 트럼프 행정부의 해고를 거부한 후 이번 주 경비원의 호위를 받으며 사무실을 떠났습니다. 22년간 USDA에서 근무한 퐁은 행정부가 적절한 절차를 따르지 않았다고 주장하며, 해고 통지를 무효라고 판단한 위원회의 의견을 인용했습니다. 백악관은 해고가 "불법적이고 편파적인 관료"를 제거하기 위해 필요했다고 주장하며 해고를 옹호했습니다. 퐁은 Neuralink 조사와 동물 학대 사건 등 광범위한 업무를 감독했습니다. 그녀의 해고는 연방 감시 기관의 대대적인 숙청의 일부이며, 정치적 동기로 인한 행위로 비판받고 있습니다.
더 보기
영국 기업 Bo는 두 가지 전동 스쿠터 모델로 주목을 받고 있습니다. 실용적인 Model-M(최고 속도 22mph, 주행 거리 40마일, 2500달러)과 본네빌에서 세 자릿수 속도를 목표로 하는 고성능 모델 Turbo입니다. 전직 F1 엔지니어들이 설립한 Bo는 일회용 교통 수단 이상의 전동 스쿠터를 지향합니다. Turbo는 24,000와트의 듀얼 모터와 Safesteer 안정화 기술을 탑재했지만, 가격은 30,000달러로 고가입니다. 이 기사에서는 Bo의 야망, 하이엔드 전동 스쿠터 시장, 그리고 Rage Mechanics의 RM-X와 같은 경쟁사와의 비교에 대해 논의합니다.
더 보기