LLM 기반 애플리케이션에 적합한 기술 스택을 선택하는 것은 매우 중요합니다. 이 글에서는 LiteLLM과 Langfuse로 구성된 오픈소스이며 확장 가능한 LLMOps 스택을 소개합니다. LiteLLM은 100개 이상의 LLM API를 지원하는 통합 LLM API 게이트웨이 역할을 하며, 비용 할당 및 모델 접근 관리 기능을 제공합니다. Langfuse는 관찰 가능성, 평가, 프롬프트 관리 기능을 제공하여 개발자가 AI 애플리케이션을 모니터링하고 디버깅하며 최적화할 수 있도록 지원합니다. 손쉽게 배포할 수 있는 이 스택은 실전에서 검증되었으며, AI 인프라에 유연성, 제어 기능, 확장성을 제공합니다.
더 보기
ExpressVPN은 Lightway VPN 프로토콜의 핵심 코드를 C 언어에서 Rust 언어로 재작성하여 속도와 보안을 크게 향상시켰습니다. 현재 업데이트된 Lightway 2.0은 ExpressVPN의 Aircove 라우터에서만 사용할 수 있으며, 테스트 결과 속도가 약 20% 향상되었습니다. Rust의 메모리 안전성과 병렬 처리의 장점을 활용하여 일반적인 취약성을 완화하고, 최신 양자내성 암호화 표준인 ML-KEM을 채택했습니다. 독립적인 보안 감사도 완료되어 신뢰성을 확인했습니다. 현재 Aircove 라우터에 한정되어 있지만, 향후 다른 플랫폼으로도 확대될 예정입니다.
더 보기
ChatGPT의 깜빡이는 커서와 같이 현재의 AI 인터페이스는 AI의 대중화를 저해하고 있습니다. 이 글은 AI의 잠재력이 매우 크지만, 불편한 사용자 인터페이스와 발견 가능성의 부족이 이를 막고 있다고 주장합니다. AI의 진정한 힘을 해방하려면, 사용자를 안내하고, 적응하며, 참여시키는 인터페이스가 필요합니다. 단순한 프롬프트를 넘어서, 보다 직관적이고 인간적인 인터페이스로 발전해야 합니다. 저자는 현재 AI 인터페이스의 발견 가능성과 안내 부족을 비판하고, 미래의 AI에는 역할극 기능, 환경 인식, 학습 능력, 그리고 사전 예방적 기능이 필요하다고 제안합니다. 궁극적인 목표는 인간과 AI의 상호 작용을 더욱 인간적으로 만들고, 신뢰 관계를 구축하는 것입니다.
더 보기
11년간의 끈기 있는 연구 끝에 프랑스 학자 프랑수아 데세는 4000년 전 선형 엘람 문자 해독이라는 불가능해 보였던 위업을 달성했습니다. 이는 단순한 학문적 성과가 아니라 시간과 우연과의 싸움이었습니다. 돌파구는 런던의 개인 소장품에 있던 은제 용기에서 나왔는데, 그 비문이 전례 없는 단서를 제공했습니다. 데세의 발견은 기존의 역사 서술에 이의를 제기하며, 선형 엘람 문자가 세계에서 가장 오래된 순수 음성 문자 체계일 가능성을 시사하고 초기 문자 발전에서 이란의 중요한 역할을 부각합니다. 하지만 이 발견은 논쟁을 불러일으켰고, 일부 학자들은 그의 방법론과 유물의 출처에 의문을 제기하고 있습니다.
더 보기
이 글에서는 1865년 노르웨이에서 태어나 나중에 유타주로 이민 간 잘 알려지지 않은 사진작가 프레드릭 몬센을 소개합니다. 몬센은 미국 남서부의 풍경과 원주민들을 촬영하는 데 평생을 바쳤습니다. 그의 작품은 그 시대 사람들의 삶을 감동적으로 보여줍니다. 1886년부터 1911년까지 그는 나바호족, 호피족, 아파치족 등 여러 부족과 개척자, 선교사 등 다양한 사람들을 촬영하여 귀중한 사진 기록을 남겼습니다. 그의 사진은 아름다운 자연 풍경뿐 아니라, 이 사진들에 대부분 보존되어 있는 사람들의 삶과 이야기에 대해 깊이 생각해 보도록 합니다.
더 보기
단일 장애점이 되는 헬퍼 스크립트의 누적을 피하기 위해 저자는 Bash나 Ruby 대신 프로젝트의 주요 언어(예: Swift 또는 Kotlin)로 CLI 실행 파일을 만드는 실험을 했습니다. 이 접근 방식은 팀워크 향상, 유지보수 비용 절감, 형식 안전 직렬화와 같은 고급 기능을 사용한 디버깅 간소화로 이어집니다. 하지만 Swift와 Kotlin은 이상적인 스크립트 언어가 아니며, 신속한 피드백과 하위 프로세스 호출 기능이 부족합니다. 최종적으로 저자는 프로젝트 루트에 shim 파일을 만들어 빌드된 실행 파일을 호출함으로써 명령 호출 프로세스를 간소화했습니다.
더 보기
SpaceX는 Intuitive Machines의 달 착륙선을 탑재한 Falcon 9 로켓을 발사할 예정입니다. 착륙선에는 겨우 1kg에 불과하지만 8TB의 SSD 스토리지를 자랑하는 미니 데이터센터가 포함되어 있습니다. 이는 Lonestar Data Holdings가 달 기반 데이터센터를 현실로 만들기 위한 개념 증명 미션입니다. 장점은 많습니다. 지구상의 재난이나 분쟁으로부터의 고도의 데이터 보안, 국가 간 제한을 우회하는 데이터 주권, 저온 작동으로 인한 에너지 효율 향상 및 성능 개선 등입니다. 하지만 과제도 남아 있습니다. 높은 지연 시간, 어려운 유지 관리, 사이버 보안 문제 등입니다. 그럼에도 불구하고 전문가들은 달 기반 데이터센터의 미래에 대해 낙관적이며, 우주 기술 개발의 원동력이 될 가능성이 있다고 보고 있습니다.
더 보기
모바일 포렌식 기업 셀브라이트는 세르비아 경찰과 정보기관이 자사 기술을 이용해 기자와 활동가의 휴대전화 잠금을 해제하고 스파이웨어를 설치했다는 의혹에 따라 세르비아에 대한 서비스 제공을 중단했습니다. 앰네스티 인터내셔널 보고서에서 부정 사용에 대한 자세한 내용이 공개된 후 셀브라이트는 조사를 진행하여 관련 고객의 제품 사용을 중단하기로 결정했습니다. 이는 정치적 탄압을 위한 기술 오용과의 싸움에서 중요한 단계로 평가되지만, 중단 기간은 불명확합니다.
더 보기
수십 년 동안 메모리 안전성 취약점은 기술 산업에 큰 타격을 입히며 수십억 달러의 손실과 신뢰 저하를 초래했습니다. 기존의 접근 방식으로는 충분하지 않았습니다. 이 글에서는 이러한 취약점을 제거하기 위해 '안전한 설계' 방식으로의 근본적인 전환을 촉구합니다. 메모리 안전 언어(Rust 등)와 하드웨어 기술(ARM의 MTE 등)의 최근 발전으로 이것이 가능해졌습니다. 저자들은 메모리 안전성 보장을 객관적으로 평가하기 위한 표준화된 프레임워크를 제안하여 공급업체의 투자를 유도하고 궁극적으로 고객이 보안을 요구하고 보상받을 수 있도록 하여 더 안전한 시스템 조달을 추진합니다. 여기에는 다양한 접근 방식을 지원하고 필요에 따라 보안 요구 사항을 조정하는 기술 중립적인 프레임워크가 필요합니다. 최종 목표는 안전한 디지털 세계를 구축하는 것입니다.
더 보기
닌텐도 스위치 버전 Minecraft 레거시 콘솔 에디션(LCE)의 디컴파일이라는 야심찬 프로젝트가 시작되었습니다. 함수 심볼이 포함되어 있고 쉽게 매칭할 수 있는 Clang 컴파일러를 사용하기 때문에 스위치 버전이 대상으로 선택되었습니다. 과제로는 완벽한 심볼 정보 부족과 서로 다른 플랫폼 간의 코드 일관성 유지가 있습니다. 팀은 Wii U 버전의 심볼 정보와 스위치 버전의 타입 정보를 활용하여 이러한 과제를 극복하고 있습니다. 이 프로젝트는 게임 연구 및 수정의 기반을 제공하고 유사한 디컴파일 프로젝트에 대한 통찰력을 제공하는 것을 목표로 합니다.
더 보기
엔터프라이즈 소프트웨어는 혁신적인 변화를 겪고 있습니다. 정적인 데이터 레코드가 자율 에이전트로 진화하고 있습니다. 이 글에서는 엔터프라이즈 소프트웨어의 세 가지 시대, 즉 데이터베이스 시대, 클라우드 시대, 그리고 새롭게 등장하는 자율 에이전트 시대를 살펴봅니다. 세 번째 시대에는 액터 모델, 지속적인 실행, 상태 머신, LLM을 활용하여 송장과 같은 비즈니스 객체가 자동 승인, 정보 수집, 정책 해석, 시스템 간 조정과 같은 프로세스를 자율적으로 처리할 수 있게 됩니다. 이는 단순히 AI가 사람을 대체하는 것이 아니라 데이터 객체 자체에 생명을 불어넣어 비즈니스 프로세스를 재구성하고, 보다 세분화된 운영과 강력한 분석 기능을 제공합니다. CoPlane, Koala, Hightouch와 같은 기업들은 이미 이 모델을 실험하고 있으며, 정적인 데이터를 목표 지향적 엔티티로 변환하여 보다 효율적인 워크플로를 구현하고 있습니다.
더 보기
이 프로젝트는 RetroArch를 사용하여 GPT-4가 포켓몬 파이어레드를 자율적으로 플레이하도록 하는 시도에 대한 자세한 설명입니다. 저자는 게임 메모리를 읽고, OCR을 사용하여 텍스트를 인식하고, 게임 메모리 데이터베이스를 생성하여 AI가 탐험, 전투, NPC와의 대화를 할 수 있도록 했습니다. 그러나 프로그램 방식의 입력 제어가 큰 장벽이 되었습니다. RetroArch의 UDP 입력 시스템은 신뢰성이 낮았고, 키보드 기반 입력은 창의 포커스가 필요하여 자동화가 제한되었습니다. 그럼에도 불구하고 이 프로젝트는 게임에서 AI의 잠재력을 보여주며, 이 분야의 미래 LLM 애플리케이션에 대한 귀중한 통찰력을 제공합니다.
더 보기
YouTube는 비디오 기능을 활용하여 뛰어난 사용자 경험을 제공함으로써 미국에서 Podcast 소비의 주요 플랫폼이 되었습니다. 검색 기능 개선, 수익 공유 프로그램 확장, 다양한 기기(TV 포함)를 통한 접근성 제공을 통해 YouTube는 막대한 시청자 수를 확보했습니다. 거실 기기에서만 월간 4억 시간 이상의 Podcast가 시청되고 있으며, 이 플랫폼의 성공은 비디오 Podcast의 성장 추세를 보여줍니다. 스포츠 토크쇼부터 True Crime까지, YouTube는 다양한 Podcast를 보유하고 있으며 최고의 Podcast 시청 경험을 제공하기 위해 투자를 지속하고 있습니다.
더 보기
당신의 뇌는 자연적인 3D 파워하우스입니다! 약간 다른 두 개의 2D 이미지에서 3차원 장면을 재구성할 수 있습니다. 이 기사에서는 특별한 장비 없이 3D 사진을 경험하는 간단한 방법인 크로스 뷰 입체 시각을 소개합니다. 같은 장면을 약간 다른 각도에서 두 장의 사진을 찍고 각 이미지에 눈을 맞추면 뇌가 마법처럼 하나의 3D 이미지로 합쳐집니다. 이 기사에서는 3D 사진의 예술적 가능성을 탐구하고 숲이나 동굴과 같은 복잡한 장면의 깊이와 디테일을 더 잘 표현할 수 있으며 사진과 예술에 새로운 가능성을 가져다 준다고 주장합니다.
더 보기
이 글은 3D 회전의 표현 방법을 심도 있게 다룹니다. 일반적인 오일러 각으로 시작하여 짐벌락 문제점을 밝힙니다. 그런 다음 로드리게스 벡터를 소개하고 회전 표현에서의 불연속성을 설명합니다. 저차원 공간과의 유추를 통해 반대점 등가성을 갖는 구면 공간을 4차원 초구면에 매핑하는 방법을 영리하게 보여주고, 최종적으로 쿼터니언을 3D 회전의 연속적이고 효율적인 표현 방법으로 제시합니다. 또한 4축 짐벌의 응용과 한계에 대해 논의하고, 중복 축을 추가해도 특이점을 완전히 피할 수 없다는 점을 설명합니다.
더 보기
ForeverVM은 원격 샌드박스에서 임의의 Python 코드를 안전하게 실행하고 결과를 얻을 수 있는 혁신적인 코드 실행 API입니다. 기존 코드 인터프리터와 달리 ForeverVM은 메모리 스냅샷을 사용하여 상태를 무기한 유지하며, 세션 관리가 필요 없습니다. 이를 통해 확장성과 리소스 사용률이 크게 향상됩니다. REPL 인터페이스를 통해 상호 작용할 수 있으며, CLI, API, Claude Desktop 등의 도구와의 통합을 지원합니다. 또한 엔터프라이즈 요구 사항을 충족하는 자체 호스팅도 지원합니다.
더 보기
Tach는 모듈식 모놀리식 아키텍처에서 영감을 받은 Rust로 작성된 Python 도구로, 의존성 및 인터페이스를 적용합니다. 점진적인 채택이 가능하며, 런타임에 영향을 미치지 않고 기존 시스템과 상호 운용이 가능합니다. 대화형 인터페이스를 통해 프로젝트를 구성하고, `tach check` 명령어를 사용하여 의존성 위반을 감지합니다. Tach는 의존성 그래프 시각화도 제공하며, 모듈의 의존성과 사용법을 보여주는 보고서를 생성합니다. 요약하자면, Tach는 개발자가 더욱 깔끔하고 유지보수가 용이한 Python 프로젝트를 구축하는 데 도움이 됩니다.
더 보기
디즈니 엔지니어가 겉보기에는 무해해 보이는 AI 이미지 생성 툴을 다운로드했다가 악성 프로그램임이 밝혀지면서 인생이 몰락했습니다. 이 툴로 인해 해커는 그의 개인 정보와 업무 데이터는 물론 고객 데이터, 직원 여권 번호, 재무 기록 등 디즈니의 기밀 정보에 접근할 수 있었습니다. 또한 그의 가정용 보안 카메라에도 접근하여 사생활이 심각하게 침해되었습니다. 그는 직장 컴퓨터에서 부적절한 콘텐츠에 접근했다는 것을 부인하지만 디즈니에서 해고되었습니다. 이 사건은 신뢰할 수 없는 출처의 소프트웨어 다운로드 위험성과 사이버 보안의 중요성을 보여주는 경고의 사례입니다.
더 보기
이 글에서는 머신러닝 기법과 효과적인 기업 조직 간의 놀라운 유사성을 탐구합니다. 저자는 드롭아웃, 배치 정규화, 조기 종료, L1/L2 정규화, 모멘텀 최적화, 잔차 연결, 사전 훈련/미세 조정과 같은 개념을 실제 세계의 조직적 과제에 연결하여 통찰력 있는 유추를 제시합니다. 핵심 직원 이직 위험 완화부터 채용 프로세스, 프로젝트 관리, 팀 커뮤니케이션, 지식 전달, 건전한 기업 문화 조성에 이르기까지, 머신러닝 원칙이 기업 구조와 성과를 최적화하기 위한 귀중한 프레임워크를 제공한다고 제안합니다.
더 보기
저자는 워싱턴 D.C.에 있는 친구의 아파트 건물을 방문했던 경험을 이야기합니다. 건물 출입부터 엘리베이터 이용, 아파트 출입까지 모든 것이 스마트폰 앱을 필요로 했습니다. 이 경험은 현대 생활에서 디지털 기술의 만연함을 보여주며, 불편함(저자는 안식일을 지키는 정통파 유대교 신자임)을 야기하고 디지털 중독과 정신적, 육체적 건강에 미치는 부정적 영향에 대한 우려를 높입니다. 저자는 스마트폰 과의존이 일과 여가의 경계를 모호하게 한다고 주장하며, 물리적인 회원 카드, 앱이 필요 없는 서비스 등과 같은 아날로그 대안을 제공하는 운동을 촉구합니다. 자율성을 회복하고 기술 의존에 저항하기 위해서입니다.
더 보기
아마존이 생성형 AI를 탑재한 차세대 AI 어시스턴트 Alexa+를 공개했습니다. Alexa+는 더욱 대화형이고 스마트하며 개인화되어 있으며, 엔터테인먼트, 학습, 정리, 복잡한 주제 요약, 다양한 주제에 대한 대화 등 사용자의 다양한 작업을 지원합니다. 스마트홈 관리, 예약, 새로운 아티스트 발견, 온라인 상품 검색 및 구매, 사용자 관심사에 기반한 유용한 제안 등도 제공합니다. Alexa+는 이 외에도 다양한 기능을 제공합니다. 질문만 하면 Alexa+가 처리합니다.
더 보기
이 글에서는 호어 논리를 사용하여 장 나눗셈 알고리즘을 자세하게 공식적으로 검증하는 방법을 제시합니다. 저자는 호어 3항, 대입 공리, 합성 공리, 조건 공리, while 루프 공리를 사용하여 알고리즘의 정확성을 꼼꼼하게 설명합니다. 이 글에서는 호어 논리의 적용에 대해 명확하게 설명하고, 구체적인 예시를 통해 증명 과정의 복잡성을 보여주며, 소프트웨어 개발에서 공식적 검증의 중요성을 강조합니다.
더 보기
강은 일반적으로 합류하지만, 때때로 갈라져서 '분기섬'을 형성합니다. 이 기사에서는 아마존 강과 오리노코 강을 잇는 카시키아레 운하를 강조하며 이 현상을 탐구합니다. 그리고 북아메리카에는 여러 개의 강 분기가 있으며, 일부는 세 개의 바다에 연결되어 그린란드보다 훨씬 큰 거대한 섬을 형성한다는 충격적인 발견이 밝혀집니다. 이러한 '분기섬'은 세계 지리와 섬의 크기에 대한 우리의 이해를 재정의합니다.
더 보기
손익분기점 핵융합이 임박했지만, 초기 원자로는 비용이 많이 들고, 유지보수가 많으며, 용량 계수가 낮아 전력 비용이 기존 전력망의 5~10배가 됩니다. 또한 정상 작동에는 큰 물리적 과제가 있습니다. Maritime Fusion은 선박용 핵융합 원자로를 개발하고 있으며, 필요 전력이 15분의 1로 줄고, 가동률이 낮으며, 대체 연료와 비슷한 비용으로 배출량이 없는 시장을 목표로 합니다. 핵융합은 고방사성 연료를 사용하지 않으므로 원자력의 대부분의 안전 위험과 규제 과제를 피할 수 있습니다.
더 보기
아마존이 오랫동안 기다려온 생성형 AI 기반 알렉사를 마침내 출시했습니다. 이번 업그레이드를 통해 알렉사는 식료품 주문, 초대장 발송, 사용자의 식단 및 영화 선호도 기억 등 더욱 복잡한 작업을 처리할 수 있게 되었습니다. 지속적인 대화를 지원하며, 시각 기능을 갖추고 이미지를 분석하고 사용자의 요구 사항에 따라 일정을 생성할 수도 있습니다. 이전에는 프로젝트 지연에 대한 소문이 있었지만, AI 업그레이드 버전의 알렉사가 공식 출시되어 Google Gemini, ChatGPT, 업그레이드된 Siri 등 경쟁사들과 경쟁하게 되었습니다. 스마트 스피커 분야에서의 우위를 활용하여 더 많은 사용자에게 빠르게 도달하는 것을 목표로 하고 있습니다.
더 보기
Golioth는 최근 특정 공급업체의 칩셋을 사용하는 일부 기기에서 OTA 펌웨어 업데이트 후 연결 문제가 발생하는 난해한 셀룰러 연결 문제를 발견했습니다. 조사 결과 이 문제는 일부 NB-IoT 네트워크가 3GPP 사양을 준수하지 않아 모뎀이 DNS 서버 주소를 제대로 가져오지 못하는 것으로 드러났습니다. Golioth 팀은 3GPP 사양, 모뎀 추적 데이터 및 네트워크 프로토콜을 자세히 분석하여 최종적으로 해결 방법을 찾았지만, 폐쇄적인 생태계와 투명성 부족의 단점도 노출되었습니다. 셀룰러 연결의 신뢰성을 높이기 위해 업계 전반의 투명성 향상을 요구하는 목소리가 높아지고 있습니다.
더 보기
AtomixDB는 Go로 완전히 작성된 미니 관계형 데이터베이스로, 데이터베이스 작동 방식, 저장소 관리 및 트랜잭션 처리의 구현 및 이해에 중점을 둡니다. B+ 트리 저장소 엔진과 인덱싱 지원을 사용하며, 여유 목록 노드 재사용, 트랜잭션 지원, 동시 읽기 등의 기능을 갖추고 있습니다. 현재 CREATE, INSERT, GET, UPDATE, DELETE, BEGIN, COMMIT, ABORT 명령어를 지원합니다. 이 프로젝트는 오픈소스이며, 기여를 환영합니다.
더 보기
사이버 보안 전문가 Ryan Keller는 WP Engine 고객 수천 명을 대표하여 Automattic과 CEO Matt Mullenweg을 상대로 집단 소송을 제기했습니다. 소장에서는 Automattic이 WordPress.org에 대한 지배력을 남용하여 WP Engine의 중요 서비스에 대한 접근을 차단함으로써 서비스 중단, 보안 위험, 경제적 손실을 야기했다고 주장합니다. Automattic은 자사의 행동이 WordPress의 장기적인 이익을 보호하기 위한 것이라고 주장하지만, Keller는 경쟁사를 약화시키기 위한 계산된 행동이며 오픈소스 인터넷 아키텍처의 남용이라고 반박합니다. 이 소송은 상표 분쟁과 WordPress 거버넌스 문제를 드러내고 단일 엔티티가 인터넷의 상당 부분을 통제하는 힘에 대한 우려를 제기합니다. 이 법적 분쟁은 오픈소스의 지속 가능성과 기술 부문에서의 지배적 지위의 잠재적 남용에 대한 지속적인 논의에서 중요한 전개가 될 것으로 예상됩니다.
더 보기
핀란드 국립도서관은 핀란드 산림의 경제적 이용에 대한 수년간의 온라인 토론을 아카이브화했습니다. 이 포괄적인 아카이브에는 환경 보호론자와 기업의 관점이 모두 포함되어 있으며, 뉴스 매체, 블로그, 정부 기관, 임업 회사, 연구원, 환경 단체 등 다양한 출처의 웹사이트, 기사, 비디오, 포럼 스레드 등을 포함합니다. 자료는 탄소 저장량 및 생물 다양성 보호에서 경제적 이용에 이르기까지 광범위한 주제를 다룹니다. 접근은 핀란드 저작권법에 따라 관리되며, 지정된 법적 기탁 도서관에서 이용할 수 있습니다.
더 보기
작성자는 호주 금융 회사로부터 "돈을 좋아하지 않으세요?" 라는 제목의 이메일을 받았습니다. 이를 계기로 작성자는 돈에 대한 생각을 하게 되었습니다. 작성자는 돈을 "좋아한다"는 감정보다는 생존에 필요한 도구로 여깁니다. 작성자는 돈 자체가 아니라 돈으로 얻을 수 있는 것들(음식, 주거, 취미, 여행 등)을 더 좋아합니다. "돈을 좋아한다"는 생각은 작성자에게 불안감을 줍니다.
더 보기