Webtagr - 기술 뉴스 다이제스트

C 언어에서 상수 식 검출: 매크로 접근 방식

2025-04-22

이 글에서는 식이 상수 식인지 감지하는 C 언어 매크로를 만드는 다양한 방법을 살펴봅니다. 저자는 C23의 정적 복합 리터럴, GNU 확장의 `__builtin_constant_p`, `static_assert`, `sizeof`와 복합 리터럴 배열 조합, `sizeof`와 열거형 상수 조합, 콤마 연산자 등 여러 기법을 조사합니다. 각 방법에는 장단점이 있으며, C23 지원은 제한적이고, `__builtin_constant_p`는 GNU 확장에 의존하며, `static_assert`와 `sizeof` 방법은 식의 형식을 변경할 수 있으며, 콤마 연산자는 경고를 생성합니다. 저자는 완벽한 해결책은 없으며 최적의 선택은 구체적인 요구 사항과 C 언어 표준 버전에 따라 달라진다는 결론을 내립니다.

(nrk.neocities.org)

개발 상수 식

MemoTTL: TTL 및 LRU 지원 Ruby용 Thread-safe 메모이제이션 유틸리티

2025-04-22

MemoTTL은 TTL(Time-To-Live) 및 LRU(Least Recently Used) 제거를 지원하는 Ruby용 Thread-safe 메모이제이션 유틸리티입니다. 일정 시간이 지나면 메모이제이션된 값이 만료되고 메모리 사용량을 제한해야 하는 시나리오에 적합합니다. `include MemoTTL` 및 `memoize`를 통해 쉽게 통합할 수 있으며, 캐시를 지우는 메서드도 제공합니다. Rails 컨트롤러에서의 사용 예시는 비용이 많이 드는 메서드의 반복 호출을 방지하여 성능을 크게 향상시킵니다.

(github.com)

개발

Morphik: 기존 RAG을 뛰어넘는 혁신적인 멀티모달 문서 검색 엔진

2025-04-22

Morphik은 고도로 기술적이고 시각적인 문서를 위해 기존 검색 증강 생성(RAG)을 뛰어넘는 혁신적인 문서 검색 엔진입니다. 멀티모달 검색(이미지, PDF, 비디오 등), 지식 그래프 생성, 빠른 메타데이터 추출, Google Suite, Slack, Confluence 등의 도구와의 통합을 제공합니다. 무료 티어와 오픈소스 버전을 갖추고 있으며, Python SDK와 REST API를 통해 문서 수집 및 쿼리를 간소화합니다. 개발자는 간단한 코드와 사용하기 쉬운 웹 콘솔로 빠르게 시작할 수 있습니다. 오픈소스 버전에는 제한이 있지만, Morphik은 속도 향상, 더 많은 도구 통합에 힘쓰고 있으며 커뮤니티의 기여를 환영합니다.

(github.com)

개발 멀티모달 검색

데이비드 통의 이론물리학 교재 시리즈: 현대 고전?

2025-04-22

저명한 데이비드 통 교수의 강의 노트가 캠브리지 대학교 출판부에서 출판된 종합적인 교재 시리즈로 변모했습니다. 이 책들은 원래 노트를 확장하여 더 풍부한 내용, 더 명확한 설명, 그리고 정확한 철자(Schwarzschild!)를 제공합니다. 가격도 저렴합니다. 현재 4권이 출판되었으며, 학부 및 대학원 커리큘럼의 광범위한 내용을 다룹니다. 이 시리즈는 일류 물리학자들로부터 찬사를 받았으며, 란다우-리프시츠의 고전적인 저작의 현대판으로 칭찬받고 있습니다.

(www.damtp.cam.ac.uk)

개발 이론물리학 데이비드 통

기계 편물의 공식화: 범주론을 이용한 최적화 컴파일러 개발을 향하여

2025-04-22

이 블로그 게시글은 기계 편물과 이론 컴퓨터 과학 사이의 놀라운 연관성을 탐구합니다. 저자는 기계 편물 프로그램에 대한 엄밀한 의미론을 정의하는 문제를 다루면서, 실의 교차와 그것이 프로그램의 교환성에 미치는 영향이라는 과제를 강조합니다. 대수적 위상 기하학과 얽힌 모노이달 범주의 이론을 사용하여 프로그램 정규화를 위한 다항식 시간 알고리즘이 개발되었습니다. 이를 통해 컴파일러 최적화가 가능해지고, 기계 편물 언어의 더욱 정교한 분석 및 설계가 가능해집니다. 이 연구는 프로그래밍 언어, 위상 기하학, 범주론, 심지어 양자 컴퓨팅과의 관련성까지 연결합니다.

(uwplse.org)

개발 기계 편물 위상 기하학

ElatoAI: ESP32 기반 실시간 AI 음성

2025-04-22

ElatoAI는 OpenAI 실시간 API, ESP32, 보안 WebSocket, Deno Edge 함수를 사용하여 10분 이상 중단 없는 글로벌 대화를 가능하게 하는 오픈소스 프로젝트입니다. Next.js 프런트엔드, Deno 에지 서버, ESP32 클라이언트로 구성되며, 사용자 정의 AI 에이전트, 음성 선택, 개인 설정이 가능합니다. 고품질 오디오를 위한 Opus 코덱, 낮은 지연 시간, WebSocket을 통한 안전한 통신, 사용자 인증 및 데이터 저장을 위한 Supabase를 사용합니다. 현재 개발 중이며, 기여를 환영합니다.

(github.com)

개발 실시간 대화

네트워크 구축의 역설: 작게 시작하여 크게 성장하기

2025-04-22

앤드류 첸의 신간은 네트워크화된 제품 및 플랫폼 구축 경험과 전략을 심층적으로 다루며 핵심적인 역설을 보여줍니다. 바로 대규모의 성공적인 네트워크 효과는 작고 안정적인 "원자 네트워크"로 시작해야 한다는 것입니다. 이 책은 Uber, Airbnb, Reddit 등의 기업 사례 연구를 분석하여 "콜드 스타트" 문제를 극복하기 위한 주요 전략들을 요약합니다. 예를 들어 핵심 사용자의 페인포인트 해결, "마법의 순간" 창출, 초대 시스템 및 보조금의 영리한 활용 등입니다. 저자는 사용자 가치에 지속적으로 집중하고 현실 상황에 맞춰 전략을 조정하는 것이 네트워크 효과를 통한 폭발적인 성장을 달성하는 핵심이라고 강조합니다.

(madhavajay.com)

개발

W3C 탐색 관심 그룹: 웹 아이덴티티의 격차 해소

2025-04-22

급속도로 발전하는 웹 환경에서 아이덴티티, 인증, 신뢰 메커니즘은 많은 과제에 직면하고 있습니다. W3C 탐색 관심 그룹(IG)은 현실 세계와 표준 세계를 연결하여 웹 아이덴티티에서 기술적 격차, 신흥 지갑 모델, 크로스 신뢰 프레임워크의 사용 사례, 규제 신호 등을 탐구하는 것을 목표로 합니다. 사양을 정의하는 것이 아니라 문제를 파악하고 토론을 촉진하여 미래 표준을 제시하는 것이 목적입니다. 누구든 아이디어를 기여하고 더 안전하고 신뢰할 수 있는 웹 구축에 기여할 수 있습니다.

(www.w3.org)

개발 웹 아이덴티티

Feast, Milvus, Docling을 사용한 RAG 빠른 시작

2025-04-22

이 프로젝트는 Feast를 사용하여 검색 증강 생성(RAG) 애플리케이션을 구축하는 방법을 보여줍니다. 기본 RAG 데모를 확장하여 Docling을 사용하여 PDF를 LLM에서 사용할 수 있는 텍스트 데이터로 변환하는 방법, Milvus를 벡터 데이터베이스로 사용하여 RAG의 임베딩을 저장하고 검색하는 방법, 그리고 섭취 중에 Docling을 사용하여 PDF를 변환하는 방법을 보여줍니다. 또한 온라인 기능 검색, 선언적 기능 정의, 벡터 검색, 구조화 및 비구조화 컨텍스트, 버전 관리 및 재사용 가능성과 같은 기능도 보여줍니다. 이 프로젝트에는 샘플 데이터, Feast의 기능 뷰와 엔티티 구성을 정의하는 Python 파일, 오프라인 및 온라인 저장소를 구성하는 YAML 파일, 그리고 두 개의 주요 노트북이 포함되어 있습니다. 하나는 Docling을 사용하여 PDF에서 텍스트를 추출하고 Parquet 파일로 저장하는 방법을 보여주고, 다른 하나는 Feast를 사용하여 텍스트 데이터를 수집하고 온라인 저장소에서 저장하고 검색하는 방법을 보여줍니다.

(github.com)

개발

Libro: 명령줄 도서 추적기

2025-04-22

Libro는 독서 기록을 추적하는 간단한 명령줄 도구로, 데이터는 로컬 SQLite 데이터베이스에 저장됩니다. 새로운 책 추가, 연도 또는 저자별 독서 기록 보기, 연간 보고서 생성, Goodreads 내보내기 CSV 파일에서 데이터 가져오기가 가능합니다. 사용하기 쉽고 강력한 Libro는 독서 애호가에게 완벽합니다.

(github.com)

개발 독서 추적기 SQLite 데이터베이스

SQL 기반 Doom 클론: 3D 렌더링을 위한 DuckDB-WASM 활용

2025-04-22

이 프로젝트는 브라우저 기반 분석 데이터베이스인 DuckDB-WASM을 기존과 다른 방식으로 사용하여 기본적인 3D 게임 엔진을 구축하는 것을 탐구합니다. 저자는 맵, 플레이어 위치, 적 등 게임 상태가 DuckDB 테이블에 저장되는 텍스트 기반 Doom 클론을 만들었습니다. 게임 로직과 렌더링은 SQL 쿼리로 처리되며, 놀랍게도 재귀적인 CTE를 사용하여 광선 추적과 3D 장면 렌더링을 구현했습니다. JavaScript는 오케스트레이터 역할을 하며 입력, 게임 루프, 스프라이트 렌더링을 관리합니다. 이 과정에서 WASM 로딩, SQL 방언의 미묘한 차이, 쿼리 플래너 문제, 비동기 경합 상태 등 많은 과제를 극복해야 했습니다. 결과적으로 얻은 게임은 초당 6~7 프레임을 달성하며, 기존과 다른 작업에 대한 SQL의 놀라운 능력과 DuckDB-WASM의 뛰어난 성능을 입증합니다.

(www.hey.earth)

개발 SQL 게임 엔진

SerenityOS: 향수를 자극하는 강력한 유닉스 계열 OS

2025-04-22

SerenityOS는 1990년대 사용자 인터페이스에 대한 러브레터인 데스크톱 운영 체제로, 사용자 정의 유닉스 유사 코어를 갖추고 있습니다. 1990년대 후반 생산성 소프트웨어의 미학과 2000년대 후반 *nix 시스템의 파워 유저 접근성을 결합했습니다. 개발자들이 개발자를 위해 만든 것으로, GitHub에서 공개된 오픈소스 프로젝트이며, Discord 서버, 매뉴얼 페이지, 버그 바운티 프로그램도 제공합니다.

(serenityos.org)

개발 유닉스 계열

arXivLabs: 커뮤니티 협력자와 함께하는 실험 프로젝트

2025-04-22

arXivLabs는 협력자가 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs에 참여하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 arXiv의 가치를 수용하고 있습니다. arXiv는 이러한 가치에 전념하며, 이러한 가치를 준수하는 파트너와만 협력합니다. arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.

(arxiv.org)

개발

arXivLabs: arXiv 새로운 기능 개발을 위한 커뮤니티 협업

2025-04-22

arXivLabs는 협업자가 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. 참여자들은 arXiv의 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 가치를 공유합니다. arXiv 커뮤니티를 개선할 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요!

(arxiv.org)

개발

프로그래머의 '낡은 체육관': AI 자동완성 거부하고 프로그래밍의 순수한 기쁨을 추구하다

2025-04-22

Shopify CEO가 AI 지원 코딩을 지지하는 가운데, 저자는 반대의 길을 택하여 '낡은 체육관'으로 돌아가는 것을 선택합니다. 수동 코딩에 집중하고 문제 해결의 도전과 성취감을 즐기는 것입니다. 저자는 AI가 반복적인 작업에 뛰어나다는 것을 인정하지만, 프로그래밍의 핵심인 사고, 설계, 아키텍처 결정에는 인간의 개입이 필수적이라고 주장합니다. 도구에 의존하는 '숙련공'이 되는 것을 피하고 진정한 기술 향상을 위해서는 인간의 사고가 중요합니다. 이 글은 AI 시대에도 독립적인 사고를 유지하고 AI를 보조 도구로 활용하여 문제 해결을 통해 성장하고 더 훌륭한 엔지니어가 되도록 촉구합니다. 이는 진보를 거부하는 것이 아니라 프로그래밍이라는 기술을 유지하는 것입니다.

(cekrem.github.io)

개발

GiveCampus 시니어 소프트웨어 엔지니어 채용(원격)

2025-04-22

비영리 교육 기관을 위한 선도적인 기금 모금 플랫폼인 GiveCampus에서 시니어 소프트웨어 엔지니어를 채용합니다. Y Combinator의 지원을 받고 6년 연속 수익성과 놀라운 성장을 자랑하는 GiveCampus는 경쟁력 있는 보상과 혜택을 갖춘 원격 근무 기회를 제공합니다. 이상적인 지원자는 8년 이상의 풀스택 개발 경험, Ruby, Python 또는 Javascript/Node.js 숙련도, 다양한 데이터베이스 및 프레임워크에 대한 지식, 뛰어난 팀워크 능력을 갖추어야 합니다. 이 역할은 대규모 프로젝트에 참여하고 플랫폼의 미래에 크게 기여하게 됩니다.

(givecampus.breezy.hr)

개발 원격

FreeDOS 1.4 출시: 새로워진 DOS 경험

2025-04-22

FreeDOS 1.4가 출시되었습니다! 이번 릴리스에는 FreeCOM, Xcopy, Move, Fdisk 등의 명령줄 유틸리티에 대한 버그 수정 및 개선 사항, mTCP의 향상된 안정성 등 다수의 프로그램 업데이트가 포함되어 있습니다. 또한 FDHelp 도움말 시스템이 완전히 다시 작성되었으며 여러 언어를 지원합니다. 더욱 효율적인 경험을 위해 불필요한 그래픽 데스크톱이 몇 가지 제거되었고, 더욱 강력한 DOSVIEW 이미지 뷰어가 BMP2PNG를 대체했습니다. 패키징 개선으로 FreeDOS 1.4 라이브 CD와 보너스 CD의 크기가 크게 줄어들어 보다 원활한 설치 프로세스를 제공합니다.

(www.freedos.org)

개발

arXivLabs: 커뮤니티와의 협업 실험 프로젝트

2025-04-22

arXivLabs는 협업자가 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs에 참여하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 arXiv의 가치를 수용하고 있습니다. arXiv는 이러한 가치를 준수하며, 이러한 가치를 준수하는 파트너와만 협력합니다. arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.

(arxiv.org)

개발

Verus: Rust 코드의 정확성을 검증하는 정적 분석 도구

2025-04-22

Verus는 Rust로 작성된 코드의 정확성을 검증하는 정적 분석 도구입니다. 개발자는 코드가 수행해야 하는 작업에 대한 명세를 작성하고, Verus는 실행 가능한 Rust 코드가 모든 가능한 실행에 대해 항상 명세를 만족하는지 정적으로 검사합니다. 런타임 검사 대신 Verus는 강력한 솔버를 사용하여 코드의 정확성을 증명합니다. 현재 Rust의 하위 집합을 지원하며(확장 중임), 경우에 따라 표준 Rust 형식 시스템을 넘어서서, 예를 들어 원시 포인터를 조작하는 코드의 정확성을 정적으로 검사할 수 있습니다. Verus는 현재 개발 중이며, 기능이 손상되거나 누락될 수 있으며, 설명서도 불완전합니다.

(github.com)

개발 코드 검증

arXivLabs: 커뮤니티와의 협업을 통한 실험 프로젝트

2025-04-22

arXivLabs는 협력자들이 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs와 협력하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 arXiv의 가치를 수용했습니다. arXiv는 이러한 가치에 전념하며, 이를 준수하는 파트너와만 협력합니다. arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으신가요? arXivLabs에 대해 자세히 알아보세요!

(arxiv.org)

개발

Pahole: Linux 커널 디버깅 정보를 위한 만능 도구의 진화

2025-04-22

Pahole은 디버깅 정보를 탐색하고 편집하는 강력한 도구로, Linux 커널 개발에서 중요한 역할을 합니다. 현재 컴파일러가 생성한 디버깅 정보를 BPF 검증 도구가 사용할 수 있는 BTF 형식으로 변환하는 역할을 담당합니다. 이 기사에서는 새로운 공동 유지 관리자 추가, BTF 처리 개선, 유연한 배열 및 bpf_fastcall 지원, Rust 지원 강화 등 Pahole의 최근 발전에 대해 설명합니다. 향후 GCC의 -gbtf 옵션 지원이 향상됨에 따라 Pahole의 DWARF에서 BTF로의 변환 역할이 축소되고 커널 빌드 시간이 단축될 것으로 예상됩니다.

(lwn.net)

개발 디버깅 정보

Go의 GC: 심층 분석과 사용자 지정 아레나 할당자

2025-04-21

이 글에서는 Go의 가비지 컬렉션의 복잡성을 심층적으로 파헤치고, 이 지식을 활용하여 고성능 아레나 할당자를 구축합니다. Go의 GC 동작을 영리하게 활용하여, 특히 대규모 메모리 할당 시 Go의 기본 제공 할당자보다 더 빠른 메모리 할당을 달성합니다. 이 글에서는 사용자 지정 아레나 할당자의 설계 원칙, 구현, 벤치마크 결과를 자세히 설명하고, 고병렬 환경에서의 성능도 분석합니다.

(mcyoung.xyz)

개발

arXivLabs: 커뮤니티 협력자와 함께하는 실험 프로젝트

2025-04-21

arXivLabs는 협력자들이 새로운 arXiv 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs와 협력하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 개인 정보 보호라는 가치를 수용하고 준수합니다. arXiv는 이러한 가치를 위해 노력하며, 이러한 가치를 준수하는 파트너와만 협력합니다. arXiv 커뮤니티에 도움이 되는 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.

(arxiv.org)

개발

Cursor AI의 AI 지원 봇, 존재하지 않는 정책을 ‘환각’

2025-04-21

Cursor AI의 AI 지원 봇이 여러 기기에서 로그인하는 것을 금지하는 존재하지 않는 정책을 사용자에게 잘못 알렸다. 이로 인해 사용자들의 불만이 폭발했고, Cursor의 공동 설립자인 Michael Truell이 Reddit에서 사과했다. 그는 이 답변이 AI 지원 봇의 ‘환각’이었다고 인정했다. 문제는 세션 보안 강화를 목적으로 한 최근 업데이트로 인해 일부 사용자의 세션이 무효화된 데 있다. 현재 문제는 해결되었으며, AI가 생성한 모든 지원 답변에는 명확한 레이블이 붙어 있다. 이 사건은 AI 모델의 ‘환각’ 위험과 AI를 고객 지원에 사용할 때 철저한 테스트의 중요성을 보여준다.

(www.theregister.com)

개발 AI 환각

arXivLabs: 커뮤니티와의 협업을 통한 실험 프로젝트

2025-04-21

arXivLabs는 참여자들이 arXiv의 새로운 기능을 웹사이트에서 직접 개발하고 공유할 수 있는 프레임워크입니다. arXivLabs에 참여하는 개인 및 조직은 개방성, 커뮤니티, 우수성, 사용자 데이터 프라이버시라는 arXiv의 가치를 공유합니다. arXiv는 이러한 가치를 준수하며, 이러한 가치를 준수하는 파트너와만 협력합니다. arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으십니까? arXivLabs에 대해 자세히 알아보세요.

(arxiv.org)

개발

Wine 10.6 출시: CMD, Bcrypt 및 게임 호환성 개선

2025-04-21

오픈소스 소프트웨어 Wine이 버전 10.6으로 업데이트되어 27개의 버그가 수정되고 게임 및 애플리케이션 호환성이 향상되었습니다. 이번 릴리스에서는 명령어 처리기 CMD의 토큰 분석기가 업데이트되고, Bcrypt에 PBKDF2 알고리즘 지원이 추가되었으며, WindowsCodecs의 이미지 메타데이터 지원이 개선되었습니다. Unity 게임, Alan Wake, GDI+ 문제 등 다양한 게임 및 앱 수정 사항이 포함되어 있습니다.

(www.phoronix.com)

개발 게임 호환성

Go의 놀라운 메모리 할당 함정: 30% 성능 저하 이야기

2025-04-21

Go 프로젝트에서 무해해 보이는 리팩토링이 30%의 성능 저하를 초래했습니다. 원인은 `ImmutableValue` 구조체의 `GetBytes` 메서드였는데, 값 수신기를 사용했기 때문에 매번 힙 할당이 발생했습니다. 힙 할당은 스택 할당보다 훨씬 비쌉니다. 근본 원인은 Go 컴파일러의 이스케이프 분석의 부정확성으로, 값 수신기가 이스케이프되지 않음을 인식하지 못했기 때문입니다. 포인터 수신기로 변경하여 문제를 해결했습니다. 이 사례는 Go 컴파일러의 메모리 할당 결정을 이해하고 적절한 수신기 유형을 사용하는 것이 얼마나 중요한지를 보여줍니다.

(www.dolthub.com)

개발

Open Codex: 로컬에서 실행되는 오픈소스 AI 명령줄 어시스턴트

2025-04-21

Open Codex는 OpenAI Codex에서 영감을 받은 완전히 오픈소스인 AI 명령줄 어시스턴트로, API 키 없이 로컬에서 실행됩니다. phi-4-mini와 같은 로컬 언어 모델을 사용하여 자연어를 쉘 명령어로 변환합니다. 원샷 모드와 대화형 모드(곧 출시 예정), 명령 확인, 클립보드 지원, 색상이 있는 터미널 출력 등을 지원하며 macOS, Linux, Windows에서 사용할 수 있습니다.

(github.com)

개발 로컬 모델

Kate: 20년이 지나도 여전히 강력한 코드 에디터

2025-04-21

저자는 20년 동안 사용해 온 Kate 텍스트 에디터의 강력한 기능과 사용자 정의 기능을 자세히 설명합니다. 이 기사에서는 플러그인, 뷰 분할, 언어 서버, 디버거, 코드 서식 지정, 사용자 지정 바로 가기, 프로젝트 관리, 색 구성표 등을 다룹니다. 파일 빠른 전환, 작업 검색, 강력한 빌드 및 실행 기능과 같은 효율적인 워크플로 기능을 강조합니다. VS Code와 비교하여 저자는 Kate의 단순성, 안정성 및 오픈 소스 특성을 강조하고 Kate 개발팀에 대한 감사를 표합니다.

(akselmo.dev)

개발

로컬 LLM 추론: 잠재력은 크지만 툴은 성숙해야 함

2025-04-21

본 기사는 llama.cpp, Ollama, WebLLM 등 로컬 LLM 추론 프레임워크의 성능 벤치마킹을 수행합니다. 결과는 llama.cpp와 Ollama가 매우 빠르다는 것을 보여주지만, OpenAI의 gpt-4.0-mini보다는 여전히 느립니다. 더 큰 과제는 모델 선택과 배포에 있습니다. 엄청난 수의 모델 버전이 압도적이며, 양자화된 7B 모델조차도 5GB를 넘어 다운로드와 로드가 느려져 사용자 경험에 영향을 미칩니다. 저자는 향후 로컬 LLM 추론에는 작고 작업 특정 모델을 쉽게 학습 및 배포할 수 있는 더 간편한 도구가 필요하며, 클라우드 LLM과 긴밀하게 통합되어야 한다고 주장합니다.

(medium.com)

개발

Category: 개발