tiny-llm은 일주일 안에 LLM 서빙 인프라를 구축하는 방법을 안내하는 튜토리얼입니다. 고수준의 신경망 API 대신 MLX의 배열/행렬 API에 초점을 맞춰 처음부터 구축하고 최적화를 이해하는 데 중점을 둡니다. 이 튜토리얼은 어텐션 메커니즘, RoPE, 그룹화된 쿼리 어텐션 등의 핵심 개념을 다루고 모델 로드 및 응답 생성으로 진행됩니다. 현재 어텐션, RoPE, 모델 로드는 완료되었습니다. 향후 장에서는 KV 캐싱, 양자화된 행렬 곱셈, Flash Attention 등의 최적화 기술을 심층적으로 다루고 Qwen2와 같은 모델을 위한 효율적인 LLM 서빙을 목표로 합니다.
더 보기
어린 시절 DOS 게임인 "The Games: Winter Challenge"에 대한 향수로 인해 한 컴퓨터 과학자가 리버스 엔지니어링 여정을 시작했습니다. 그는 이 게임이 코드 휠 복사 방지 메커니즘과 안티 디버깅 조치를 사용하고 있으며 여러 버전과 크랙이 존재한다는 것을 발견했습니다. 자세한 분석을 통해 코드 휠 검사의 복잡성이 드러났고, 게임 플레이를 미묘하게 망가뜨리는 숨겨진 복사 방지 검사가 발견되었습니다. 그는 모든 복사 방지를 우회하고 GOG 등에서 구할 수 있는 손상된 버전을 수정했으며, 그의 패치 도구를 공유했습니다.
더 보기
PyXL은 실리콘에서 직접 Python 코드를 실행하는 맞춤형 하드웨어 프로세서로, 인터프리터나 JIT 컴파일러가 필요 없습니다. Python 코드를 사용자 정의 어셈블리로 컴파일하고 사용자 정의 파이프라인 프로세서에서 실행합니다. 테스트 결과 놀랍게도 480ns의 GPIO 왕복 시간이 측정되었으며, MicroPython보다 30배 이상 빠릅니다. 이는 실시간 응답과 결정론적 타이밍이 필요한 고성능 애플리케이션(실시간 제어 시스템, ML 추론, 로보틱스 등)에 PyXL이 이상적임을 보여줍니다.
더 보기
테슬라의 판매 감소와 시장 점유율 축소가 다른 전기차 브랜드에 기회를 제공하고 있다. 기사에서는 CEO 일론 머스크에 대한 소비자 불만과 새로운 전기차 모델의 유입이 주요 원인으로 지적된다. 관세 등의 과제가 있지만 전기차 수요는 여전히 강하며, 많은 신규 모델이 시장에 진출하여 경쟁력 있는 가격과 개선된 기술로 소비자를 유인하고 있다. 기존 자동차 제조업체들도 적극적으로 참여하여 더 많은 전기차 옵션을 제공함으로써 소비자 선택의 폭을 넓히고 있다.
더 보기
피터 나우어의 논문은 거대 프로그램의 '이론'이 코드 자체가 아니라, 그것을 만든 프로그래머들이 가진 깊은 이해라고 주장합니다. 라이일의 비유를 사용하면 코드는 길이고, 프로그램을 이해하는 것은 그 길을 걷는 것과 같습니다. LLM은 이론적으로 잘 알고 있는 것처럼 보이는 텍스트를 생성할 수 있지만, 이것은 표면적인 것일 뿐이며 진정한 이해가 부족합니다. 나우어는 거대 프로그램을 이해하려면 그 개발과 유지보수에 지속적으로 참여해야 한다고 강조합니다. 이것은 코드나 문서를 읽는 것만으로는 얻을 수 없는 지식입니다.
더 보기
컴퓨터 과학 분야에서 최고 학술회의는 연구 가치를 측정하는 주요 지표가 되었지만, 점점 더 심해지는 관료주의와 형식주의는 학문적 혁신의 활력을 위협하고 있습니다. 이 글은 회의가 연례적인 '승진 시험'으로 전락하여, 심사가 연구의 본질적인 가치보다 형식적인 규칙에 더 중점을 두게 되면서 많은 유망한 혁신적인 연구가 저해되고 있다고 주장합니다. 저자는 회의 심사 문화를 바꿔야 할 필요성을 강조하며, 학문적 혁신 자체에 초점을 맞춰야 한다고 제안합니다. 불필요한 관료주의적 규칙을 없애고, 의사 결정을 해당 분야의 베테랑 전문가에게 위임하여 학문적 발전을 촉진해야 한다고 주장합니다.
더 보기
고전 물리학에서는 원자핵 주위를 도는 전자는 에너지를 방출하고 원자핵으로 나선형으로 떨어져 원자가 붕괴될 것이라고 예측합니다. 그러나 양자 역학은 다른 설명을 제공합니다. 전자는 명확한 궤도를 그리는 것이 아니라 확률 구름 속에 존재하며, 그 위치와 운동량은 하이젠베르크의 불확정성 원리에 따릅니다. 전자가 원자핵에 가까워질수록 퍼텐셜 에너지는 감소하고 운동 에너지는 증가하여, 두 에너지의 균형에 의해 원자핵으로의 낙하가 막힙니다. 확률 밀도 플롯은 전자가 원자핵 근처에 존재할 가능성이 가장 높음을 보여주지만, 반지름 확률 플롯은 보어 반지름에서 확률이 가장 높음을 보여줍니다. 이것은 원자의 안정성을 설명하고 양자 역학과 고전 역학의 근본적인 차이를 강조합니다.
더 보기
이 글은 베를린 장벽 붕괴 이전에 슈타지의 밀고자와 잠입에 맞서 싸운 동독 정치 활동가들의 경험을 탐구합니다. 슈타지의 침투적인 감시와 혼란스러운 전술은 시민 불복종의 가능성을 크게 제한했습니다. 그럼에도 불구하고 활동가들은 1989년 풀뿌리 혁명을 일으켰습니다. 인터뷰를 바탕으로 이 글은 슈타지의 'Zersetzung(부패)' 전략을 밝힙니다. 이는 갈등을 조장하고, 활동을 방해하고, 집단을 고립시켜 저항 세력을 약화시키는 것입니다. 활동가들은 지원 네트워크, 집단 간 연대, 공개 행동, 잠재적 밀고자에 대한 신중한 조사를 통해 저항했습니다. 그들의 회복력은 탄압의 인도주의적 비용과 극심한 감시 하에서도 풀뿌리 운동이 예상치 못한 성공을 거둘 수 있음을 강조합니다.
더 보기
CleverBee는 Claude 및 Gemini와 같은 대규모 언어 모델(LLM), 웹 브라우징을 위한 Playwright, 대화형 UI를 위한 Chainlit을 활용하는 강력한 Python 기반 AI 연구 어시스턴트입니다. 웹을 탐색하고, 콘텐츠를 추출하고, 데이터를 정리하고, 사용자의 연구 주제에 따라 연구 결과를 요약하여 연구를 수행합니다. 여러 LLM 지원, 자동 웹 브라우징, 콘텐츠 처리, 토큰 추적, 높은 구성 가능성, LLM 캐싱 등의 기능을 갖추고 있으며 macOS 및 Linux에서 완벽하게 지원됩니다.
더 보기
arXivLabs는 참여자들이 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs에 참여하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 arXiv의 가치를 수용하고 있습니다. arXiv는 이러한 가치에 전념하며, 이러한 가치를 공유하는 파트너와만 협력합니다. arXiv 커뮤니티에 도움이 될 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.
더 보기
베트남 전쟁 종전 수십 년이 지난 후에도 에이전트 오렌지의 파괴적인 영향은 수백만 명의 베트남 국민을 고통스럽게 하고 있습니다. 2000년대 중반 미국이 정화 자금 지원을 시작했지만, 트럼프 행정부 시절 대외 원조 감축은 이러한 중요한 프로젝트에 그림자를 드리우고 수백만 명의 희생자를 불안정한 상황에 놓이게 했습니다. 정화 작업은 자금 부족과 인력 감축에 직면해 있으며, 장기적인 건강 영향에 대한 과학적 지식도 불완전합니다. 이 기사는 응웬 탄 하이와 같은 사람들의 고충을 부각하여 에이전트 오렌지로 인한 지속적인 고통과 변화하는 미국의 정책이 베트남 국민에게 미치는 심대한 영향을 보여줍니다.
더 보기
미국 방위고등연구계획국(DARPA)은 수학 발전 속도가 너무 느리다고 판단, AI를 활용한 연구 가속화 프로젝트 expMath를 시작했다. 수학적 추상 개념을 제안하고 증명할 수 있는 AI '공동 저자' 개발을 목표로 한다. AI는 기초 수학에는 뛰어나지만, 고급 개념을 다루는 것은 큰 과제다. 프로젝트 성공은 기존 대규모 언어 모델을 뛰어넘는 접근 방식이나 시각·청각 입력 등의 대체 방법 모색에 달려 있다.
더 보기
자금 조달 문제로 영국의 핵융합 기업 First Light Fusion은 첫 번째 원자로 건설 계획을 포기했으며, 기업 가치는 60% 감소했습니다. 전자석을 이용해 연료 셀에 작은 발사체를 고속으로 발사하는 '사출 융합' 기술은 발전소 개발에 너무 많은 비용이 드는 것으로 판명되었습니다. 대신 First Light는 핵융합 반응을 증강하는 '증폭기' 기술을 다른 원자력 기업에 라이선스로 제공하기로 했습니다. 이 전략 전환은 더욱 자본 효율적인 모델과 신속한 수익 창출을 목표로 합니다. 이 결정은 중국의 핵융합 기술 발전으로 인한 경쟁 심화 속에서 이루어졌으며, 이 유망하지만 복잡한 에너지원의 상용화에 대한 과제를 부각합니다.
더 보기
Game Boy에서 영감을 받은 한 아버지가 3세 아들을 위해 상용 제품의 단점을 해결하는 오프라인 오디오 플레이어를 직접 만들었습니다. Boxie라는 이름의 이 프로젝트는 ESP32-S3 마이크로컨트롤러, Micro SD 카드 저장소, 맞춤형 PCB 및 3D 프린팅 케이스를 사용합니다. 이 글에서는 전자 기술 학습부터 SMD 부품 납땜, EasyEDA를 사용한 PCB 설계, Fusion 360을 사용한 3D 모델링, 펌웨어 작성에 이르는 전체 과정을 자세히 설명합니다. 그 결과 견고하고 오프라인이며 어린이에게도 사용하기 쉬운 오디오 플레이어가 완성되어 놀라운 DIY 기술과 부모로서의 헌신을 보여줍니다.
더 보기
유명한 SF 일러스트레이터 데이비드 슐라인코퍼가 ALS로 74세의 나이에 별세했습니다. 40년 이상의 경력 동안 그의 독특한 에어브러시 기법은 트랜스포머, 심시티 등의 SF 소설, 잡지, 게임의 표지와 삽화를 장식했습니다. 대표작인 '투모로우 앤드 비욘드' 등 그의 작품은 SF 아트계에 큰 영향을 미쳤으며, 그의 죽음은 깊은 애도 속에 있습니다.
더 보기
일론 머스크는 테슬라의 완전 자율 주행(FSD)이 연간 약 1회, 1만 마일을 개입 없이 주행할 수 있다고 자랑합니다. 하지만 이는 긍정적이지 않습니다. 그의 로보택시가 안전하지 않다는 것을 시사합니다. 평균적인 테슬라 소유주는 500마일마다 개입이 필요하다고 보고하며, 이는 머스크의 주장을 훨씬 밑돕니다. 머스크의 수치를 받아들인다고 해도 그의 로보택시는 매년 최소 한 번은 사고를 낼 것입니다! 인간 운전자는 평균 10만 마일마다 한 번 사고를 내는 반면, 웨이모는 230만 마일당 한 번이라는 비율을 자랑합니다. 게다가 로보택시 탑승자가 어떻게 사고를 피할 수 있을까요?
더 보기
실리콘밸리의 주도적인 위치는 우연이 아닙니다. 이 글은 실리콘밸리의 부상을 보스턴의 128번 고속도로와 비교하여 실리콘밸리의 개방적인 네트워크, 역동적인 문화, 그리고 번영하는 벤처 캐피털을 주요 차별화 요소로 강조합니다. 보스턴의 대규모이고 폐쇄적인 기술 기업과 달리, 실리콘밸리는 인재 이동성, 정보 공유, 실험적인 혁신을 장려하여 강력한 시너지 효과를 창출합니다. 저자는 인도계 기업가 협회(TiE)의 사례를 사용하여 개방형 네트워크의 힘을 보여주고, 보스턴처럼 우수한 대학과 연구 기관을 보유한 지역조차도 마찬가지로 개방적인 생태계가 없으면 경쟁하기 어렵다는 점을 보여줍니다.
더 보기
미 육군 연구소(ARL), 리하이 대학교 등의 연구진이 극한 고온에서도 탁월한 안정성을 보이는 새로운 구리 기반 합금을 개발했습니다. 이 획기적인 성과는 Ta가 풍부한 원자 이중층에 의해 안정화된 독특한 Cu₃Li 석출 구조 덕분이며, 결정립 성장을 방지하고 고온 성능을 극적으로 향상시킵니다. 니켈 기반 초합금의 고온 내구성과 구리의 뛰어난 전도성을 결합하여 이 합금은 열교환기, 첨단 추진 시스템, 초음속 기술 등의 분야에 적용될 것으로 기대됩니다. 연구팀은 분말 야금과 저온 밀링을 사용하여 합금을 합성하고, 800℃에서 1만 시간의 어닐링 테스트 등 엄격한 시험을 통해 장기적인 안정성과 크리프 저항성을 확인했습니다. 이 합금은 특허를 받았으며, 특히 방위 산업 분야에서 전략적 중요성을 나타냅니다.
더 보기
저자는 처음에 AAA 게임의 질이 떨어지고 있다고 믿었고, 오픈 월드 게임과 속편의 증가가 원인이라고 가정했습니다. 하지만 IGDB 데이터베이스의 데이터 분석 결과, 이 가설은 부정되었습니다. 데이터는 AAA 오픈 월드 게임과 대형 속편의 수가 2010년대 후반에 정점을 찍고 그 이후로 감소하고 있음을 보여줍니다. 최근 몇 년 동안 AAA 오픈 월드 게임의 평점이 다소 낮아졌지만, 전반적으로 다른 AAA 게임 유형과 비교하여 뒤떨어지지 않습니다. 저자는 게임 장르 자체가 아니라 개인적인 인식의 변화가 질적 저하라는 느낌을 만들어낸다는 결론을 내립니다.
더 보기
미국 국립 기록원(NARA)이 2024년 국방수권법에 따라 여러 정부 기관으로부터 이관받은 미확인 이상 현상(UAP) 관련 새로운 기록을 공개했습니다. 이 기록들은 이제 NARA의 UAP 자료에 포함되어 온라인에서 열람할 수 있습니다. 이번 공개는 기록원의 투명성에 대한 약속을 보여주는 것이며, 지속적인 업데이트가 예상됩니다.
더 보기
캘리포니아대학교 샌디에이고 캠퍼스 연구진은 AI를 활용하여 PHGDH 효소를 표적으로 하는 저분자 화합물 NCT-503을 발견했으며, 이 물질이 알츠하이머병 마우스 모델에서 질병 진행을 완화한다는 사실을 밝혔습니다. NCT-503은 혈액-뇌 장벽을 통과하며, 마우스 실험에서 기억력과 불안 증상을 크게 개선했습니다. 자연 발생 알츠하이머병에 대한 완벽한 동물 모델이 부재한 등의 한계는 있지만, 결과는 NCT-503이 잠재적인 치료제가 될 가능성을 시사하며, 추가 개발 및 임상 시험의 길을 열었습니다.
더 보기
컴퓨터 아키텍처 분야에서 평균 성능 계산 방법을 둘러싼 오랜 논쟁이 있다. Hennessey와 Patterson의 획기적인 저술은 바람직한 수학적 특성 때문에 기하 평균을 지지한다. 그러나 최근 논문은 기하 평균의 물리적 의미에 의문을 제기하며, "동일 작업 시간 조화 평균 속도 향상"을 대안으로 제시한다. 저자는 조화 평균이 작업 부하를 순차적으로 실행할 때의 총 속도 향상과 같기 때문에 현실 세계 시나리오를 더 잘 반영한다고 주장한다. 그러나 이는 실제로 작업 부하 실행 시간의 불균형을 무시하며, 물리적 의미는 대부분 무관하게 된다. 논문은 작업 부하의 정확한 조합과 가중치를 알지 못하는 한, 단일 숫자 평균으로는 기계를 완벽하게 비교할 수 없으며, 기하 평균은 비교의 용이성과 널리 알려진 점 때문에 타당한 선택으로 남는다는 결론을 내린다.
더 보기
1950년대 초, 스탠포드 대학교는 놀랍도록 기발한 방법으로 유휴 부지를 활용하여 미국 최초의 교외형 오피스 파크 중 하나인 스탠포드 연구단지를 설립했습니다. 이는 대학의 재정난 해결에 그치지 않고 실리콘밸리의 번영을 예상치 못한 방식으로 촉진했습니다. HP와 록히드 마틴 같은 기술 기업을 유치하고 대학과의 긴밀한 협력을 구축함으로써 연구단지는 기술 혁신과 인재 양성을 촉진하여 오늘날의 세계적인 기술 산업 지형을 만들었습니다. 하지만 그 성공은 파로알토 지역의 심각한 주택난과 일자리 불균형이라는 부정적인 결과도 가져왔습니다.
더 보기
이 기사에서는 코모도어 64, ZX 스펙트럼, 암스트래드 CPC 등 80년대 클래식 홈 컴퓨터 및 게임기의 사용자 인터페이스 스크린샷을 다수 소개합니다. 스크린샷은 BASIC, FORTH, ASM 등 다양한 프로그래밍 언어를 아우르는 다양한 게임 및 프로그램의 UI를 보여줍니다. Boulderdash 및 Bomb Jack과 같은 클래식 게임도 포함되어 당시의 단순하면서도 매력적인 UI 디자인을 보여줍니다.
더 보기
프로그래머가 즐거움을 위해 코딩하라고 주장하는 천사와 부와 성공을 추구하라고 부추기는 악마 사이의 내적 갈등을 이야기합니다. 어린 시절 컴퓨터 게임에 대한 열정부터 대학 졸업까지 그의 프로그래밍 여정은 항상 학습과 탐구를 수반했습니다. 하지만 '분주함' 문화의 영향을 받아 그는 종종 스타트업의 매력에 끌리고, 열정과 이익 사이에서 갈등합니다. 결국 그는 두 가지 모두의 균형을 맞추고, 번아웃을 피하고, 지속 가능한 성장을 위해 언제 악마의 말을 들어야 하는지 판단하는 것이 중요하다는 것을 깨닫습니다.
더 보기
1774년 존 웨슬리는 당시 만연했던 대서양 노예 무역을 통렬히 비판하는 '노예 제도에 대한 생각'을 발표했습니다. 이 글은 아프리카에서의 납치와 강제 연행, 항해 중의 비인간적인 대우, 농장에서의 끊임없는 억압 등 노예 무역의 잔혹함을 생생하게 묘사합니다. 웨슬리는 많은 1차 자료를 사용하여 노예 제도의 정당성을 부인하고, 그것이 자연 정의와 인도에 위배됨을 지적하며, 이 끔찍한 무역의 종식을 촉구합니다. 이 강력한 저술은 18세기 노예 제도에 대한 심오한 성찰이며, 오늘날 우리에게 주는 경고의 메시지입니다.
더 보기
arXivLabs는 협력자들이 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs에 참여하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 arXiv의 가치를 수용합니다. arXiv는 이러한 가치를 중시하며, 이를 준수하는 파트너와만 협력합니다. arXiv 커뮤니티에 가치를 더할 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.
더 보기
파이프 오르간은 본질적으로 거대한 휘슬 박스입니다. 각 파이프는 벨로우즈나 블로어에서 공급되는 압축 공기로 채워진 중공 윈드체스트 위에 있습니다. 콘솔의 각 스톱은 특정 음색의 파이프 세트(랭크)를 나타내며, 각 음표에는 다른 파이프가 있습니다. 스톱을 당기면 이 파이프 아래의 슬라이더가 작동하여 사운드 소스가 됩니다. 윈드체스트에는 키보드에 기계적으로 연결된 밸브(팔레트)도 있습니다. 이것들은 공기 흐름을 제어합니다. 스톱이 켜져 있어도, 키가 팔레트를 작동시켜 압축 공기를 파이프로 방출할 때까지 소리는 발생하지 않습니다. 이것이 소리를 생성합니다. 모든 파이프 오르간은 고유하며, 사운드 유형, 방 크기, 미적 감각, 예산 등을 고려하여 구매자의 사양에 맞게 맞춤 제작됩니다.
더 보기
이 레트로 컴퓨팅 프로젝트는 하드웨어 FPU가 없는 레거시 486SX 프로세서를 위해 NetBSD 커널에 x87 부동 소수점 유닛(FPU) 에뮬레이션 지원을 복원합니다. NetBSD 10.x 이상에서 원래 MATH_EMULATE 옵션을 복원하고 FPU 에뮬레이션 지원을 커널에서 제거한 커밋 dfe83e0에서 도입된 변경 사항을 되돌리고 수정합니다. 이 프로젝트는 개발 중이며 버그나 불완전한 기능이 포함될 수 있습니다. 사용자의 책임하에 사용하십시오.
더 보기
이 글은 AI 코드 생성 도구의 한계를 비판합니다. 저자는 AI가 생성한 코드는 보기에는 그럴듯해 보일 수 있지만 실제로는 숨겨진 위험이 많다고 주장합니다. AI는 단순히 언어 패턴을 예측하여 코드를 생성할 뿐이며, 진정한 엔지니어링 사고와 실행 환경에 대한 이해가 부족하기 때문에 생성된 코드는 이해하기 어렵고, 디버깅하기 어려우며, 재사용성도 떨어집니다. 반대로 모듈화 프로그래밍, 우수한 오픈소스 프로젝트와 문서를 참조하는 것은 고품질 코드 작성에 도움이 됩니다. 결론적으로 저자는 소프트웨어 엔지니어링의 핵심은 사고와 이해이며, 단순한 코드 작성이 아니라고 말합니다.
더 보기