开源LLM:企业级应用的成本、隐私与性能权衡

2025-05-17
开源LLM:企业级应用的成本、隐私与性能权衡

本文评测了多个开源大型语言模型(LLM)在企业应用中的表现,涵盖成本、隐私和性能等关键因素。通过一个名为BASIC的基准测试,评估了模型在准确性、速度、经济性、完整性和边界性等方面的表现。结果显示,Llama 3.2在准确性和成本之间取得了良好平衡;Qwen 2.5在成本效益方面表现突出;Gemma 2速度最快,但准确性略低。虽然开源LLM在性能上与GPT-4o等闭源模型仍存在差距,但在数据隐私和成本控制方面具有显著优势,并随着技术的不断进步,正在逐渐成为企业级应用的可行选择。

阅读更多

Netflix的媒体制作套件:云端协作的未来

2025-04-01
Netflix的媒体制作套件:云端协作的未来

Netflix开发了一套名为媒体制作套件(MPS)的工具,旨在解决电影和电视制作中复杂的媒体管理难题。MPS利用混合云基础设施,自动化流程,并提供一系列工具,例如素材摄入、媒体库、每日胶片制作和远程工作站等,以简化工作流程,提高效率,并促进全球协作。通过采用开放标准并与巴西电视剧《塞纳》等项目合作,Netflix证明了MPS在提高效率和降低成本方面的潜力,同时为全球范围内的电影制作人员提供了更便捷的工具。

阅读更多
科技 媒体制作

可降解热固性塑料:一场可持续的聚合革命

2025-02-12
可降解热固性塑料:一场可持续的聚合革命

康奈尔大学的研究人员开发了一种新型可降解热固性塑料,该塑料以生物基材料为原料,兼具耐用性和可回收性。这种材料利用单体进行正交聚合,首先形成柔性长链聚合物,然后利用剩余单体进行第二次聚合,形成坚韧的交联聚合物。通过控制光照和催化剂,可以调节材料的特性。这种新型材料有望替代传统不可降解的石油基热固性塑料,为解决塑料污染问题提供了一种可持续的解决方案。

阅读更多

东京大学本科生自制CPU运行操作系统Xv6的传奇

2025-06-28

2015年,东京大学信息科学系学生在“CPU实验”课程中,挑战了前所未有的难度:设计并构建一个RISC指令集架构(ISA)的处理器,为其编写C语言编译器,最终成功运行了类Unix操作系统Xv6。这是一个耗时四个月的项目,团队克服了编译器构建、操作系统所需CPU特性、模拟器改进以及Xv6移植性等诸多挑战,最终不仅成功运行了Xv6,还实现了游戏(2048、扫雷)等娱乐功能,甚至在自制CPU上运行了课程要求的光线追踪程序。这是一个充满挑战和乐趣的经历,展现了学生们非凡的创造力和技术实力,也证明了“重新发明轮子”的价值和意义。

阅读更多
开发 CPU设计

OpenAI联合创始人跳槽神秘AI初创公司

2025-02-07
OpenAI联合创始人跳槽神秘AI初创公司

OpenAI联合创始人John Schulman在加入Anthropic仅五个月后便离职,转投前OpenAI CTO Mira Murati的秘密初创公司。此举引发业界猜测,Schulman的具体角色和Murati公司产品方向尚不明朗。这家初创公司已从OpenAI、Character AI和Google DeepMind挖角多名员工,并已筹集超过1亿美元资金。Schulman此前表示离开OpenAI是为了专注于AI对齐研究,但此次跳槽原因仍未公开。

阅读更多
AI

ChatGPT底层技术揭秘:程序员视角

2025-01-04
ChatGPT底层技术揭秘:程序员视角

本文深入浅出地讲解了ChatGPT的工作原理,尤其针对程序员。文章跳过了AI/ML模型的通用知识,直接从OpenAI的ChatGPT模型出发,讲解了其软件架构、Transformer网络的使用以及强化学习(RLHF)如何微调模型以适应对话任务。文章还解释了分词、模型训练以及响应生成的过程,并阐述了RLHF在确保响应准确性和上下文相关性中的作用。

阅读更多
开发 RLHF

Mistral AI发布企业级AI助手Le Chat Enterprise

2025-05-07
Mistral AI发布企业级AI助手Le Chat Enterprise

Mistral AI发布了其企业级AI助手Le Chat Enterprise,该助手由全新的Mistral Medium 3模型驱动。Le Chat Enterprise旨在解决企业AI面临的挑战,例如工具碎片化、不安全的知识整合、僵化的模型和缓慢的投资回报率。它提供了一个统一的AI平台,适用于所有组织工作,包含企业搜索、代理构建器、自定义数据和工具连接器、文档库、自定义模型和混合部署等功能,并承诺提供隐私优先的数据连接和强大的自定义选项。Mistral AI还同时升级了Le Chat Pro和Team版本。

阅读更多
AI

加速音频以降低OpenAI转录成本

2025-06-25
加速音频以降低OpenAI转录成本

为了更快更便宜地进行OpenAI转录,作者发现了一个技巧:使用ffmpeg将音频速度提高到2倍或3倍。这显著减少了标记数量和等待时间,而转录质量几乎没有下降。作者分享了结合yt-dlp、ffmpeg和LLM的脚本,演示了这一过程。这一方法源于作者尝试总结Andrej Karpathy长达40分钟的演讲,在尝试YouTube自动字幕失败后,意外发现的。实验表明,这种方法不仅节省了时间,还降低了成本,2倍和3倍速度下,转录成本分别降低了33%和67%。

阅读更多
开发

抛弃“货物崇拜”隐喻:对科技和文化误读的批判

2025-01-12
抛弃“货物崇拜”隐喻:对科技和文化误读的批判

本文批判了程序员和科技领域中滥用的“货物崇拜”隐喻。作者指出,流行文化对“货物崇拜”的描述不准确,且忽略了其背后的殖民压迫和文化破坏。真正的“货物崇拜”远比简单的模仿复杂,它融合了宗教、文化和对殖民历史的回应。作者呼吁抛弃这一误导性隐喻,正视其背后的历史和文化意义。

阅读更多

时间并非幻象:组装理论提出时间是可测量的物理对象

2025-06-25

亚利桑那大学的Sara Walker和格拉斯哥大学的Lee Cronin提出了一种名为“组装理论”的新理论,该理论颠覆了我们对时间的认知。他们认为,时间并非简单的背景或幻象,而是一个具有物理大小、可测量的对象,并且是单向流动的。该理论通过量化选择来解释进化,认为生命存在于可能性空间巨大,宇宙必须选择其中一部分才能存在的情况下。组装理论可以作为一种通用的生命探测系统,通过测量分子在活体或非活体样本中的组装指数和拷贝数来工作。该理论认为,时间是复杂物体(如计算机、大型语言模型)构成的物质基础,时间本身的流逝就是复杂物体构成的材料。这一观点对理解生命起源、宇宙演化等诸多问题具有重要意义。

阅读更多
科技 组装理论

Kilo Code:以极速社区构建AI代码生成器

2025-03-26
Kilo Code:以极速社区构建AI代码生成器

Kilo Code团队在短短两周内,组建十人团队,基于Roo Code和Cline等开源项目,开发出一款AI代码生成工具。他们秉持快速迭代的理念,并积极寻求用户反馈,提供免费试用和奖励机制。Kilo Code的目标是打造最友好的AI编码代理,并涵盖了从小型项目到高级应用场景的多种功能,例如即时应用生成、自动文档更新以及团队协作等。

阅读更多
开发

毅力号火星车首次捕捉到可见光火星极光

2025-05-17
毅力号火星车首次捕捉到可见光火星极光

NASA的毅力号火星车在火星表面首次捕捉到了由太阳高能粒子引起的可见光极光。这一壮举是通过与MAVEN轨道器和地面团队的密切合作实现的,利用对日冕物质抛射的预测,在极窄的时间窗口内成功观测到557.7nm波长的极光。这项发现为未来人类探索火星提供了宝贵的科学数据,并证实了火星极光与地球极光类似,未来宇航员或许能够亲眼目睹这一奇观。

阅读更多

本地运行LLM:隐私、成本和实验的完美结合

2025-03-11
本地运行LLM:隐私、成本和实验的完美结合

本文探讨了在本地运行大型语言模型(LLM)的优势和方法。作者指出,虽然本地运行LLM的性能不如云端服务,但在注重隐私、控制成本以及进行实验性开发时,它具有显著的优势。文章介绍了三种运行LLM的工具:Ollama(易于使用,模型库丰富)、Llama.cpp(跨平台,功能强大)和Llamafiles(单文件可执行,便于分享)。此外,文章还讨论了模型选择、参数、量化以及模型能力等重要因素,并提醒用户注意模型文件大小和安全问题。总而言之,本地运行LLM为开发者提供了一种灵活、可控的AI开发方式。

阅读更多
开发

AI 编码助手:70% 的自动化与至关重要的 30% 人工

2025-03-14
AI 编码助手:70% 的自动化与至关重要的 30% 人工

AI 编码助手极大地提高了软件开发效率,可以轻松完成代码的 70%,但剩余的 30%——处理复杂需求、架构维护、边缘情况和代码正确性等方面——仍然需要人类工程师的专业技能。文章探讨了在 AI 时代,软件工程师需要加强哪些核心技能才能保持竞争力,例如系统设计、处理边缘情况、代码审查、调试和解决问题的能力,以及沟通协作能力和持续学习能力。资深工程师应发挥其经验优势,指导 AI,审查其输出结果,并培养团队成员;初级工程师则应专注于掌握基础知识,提升解决问题和测试能力,以弥补 AI 的不足。AI 并非万能药,它只是提高了开发效率的工具,最终软件的质量和可靠性仍然依赖于人类工程师的专业判断和持续学习。

阅读更多
开发

82M参数模型Kokoro:将电子书转换成高质量有声书

2025-01-15

Claudio Santini开发了一个名为Audiblez的工具,利用轻量级82M参数的文本转语音模型Kokoro,将电子书转换成高质量的有声书。Audiblez支持多种语言和音色,可在几小时内转换大型电子书。该工具使用Python编写,需要安装必要的库和模型文件。虽然章节检测尚不完善,但整体效果良好,未来将改进章节检测和添加更多功能。

阅读更多
开发

黄石公园野牛:一个基因库的融合

2025-03-05
黄石公园野牛:一个基因库的融合

一项新的研究发现,黄石国家公园的野牛种群,曾经被认为是两个独立的群体,如今已融合成一个大型的相互交配的种群。这项由德克萨斯农工大学的研究人员进行的研究,基于对野牛的基因分析,推翻了之前的认知。这项发现对黄石公园野牛的长期保护和管理具有重要意义,标志着美国野牛保护工作取得了显著成果,也为未来野牛种群的管理提供了新的方向。

阅读更多
科技

驳斥偏见:自闭症诗人打破刻板印象

2025-04-30
驳斥偏见:自闭症诗人打破刻板印象

美国卫生与公众服务部部长罗伯特·F·肯尼迪三世近日将自闭症称为“全国性流行病”,引发强烈争议。他将自闭症描述为“个人悲剧”,并声称许多自闭症患者无法工作、纳税等。然而,事实并非如此。大量证据表明,许多自闭症人士是才华横溢的诗人、作家,他们的作品丰富多彩,充满独特的视角。文章列举了多位自闭症诗人及其作品,并探讨了诗歌创作与自闭症思维方式的契合之处,有力反驳了肯尼迪的偏见言论,展现了自闭症群体强大的创造力。

阅读更多
杂项

AI赋能:十年Ruby开发者一年内掌握多语言编程

2025-07-23
AI赋能:十年Ruby开发者一年内掌握多语言编程

一位十年只用Ruby的开发者,借助AI编程工具Cursor和Claude Code,一年内掌握了C++、C和Rust等多种语言。文章讲述了作者如何在AI的辅助下,克服学习系统编程语言的困难,并高效地参与到Sorbet、RBS和ZJIT等项目的开发中。AI并非直接编写代码,而是作为一名具备互补技能的编程伙伴,帮助作者理解语言语法、常用模式,并解答疑问,从而大大缩短了学习曲线,使作者能够从第一天起就做出有意义的贡献。作者认为,AI加速了学习过程,但人类专家的经验仍然不可替代,AI和人类协作是未来编程趋势。

阅读更多
开发

用3D图可视化实矩阵的复特征值

2025-07-21

本文研究了方程x²+(y+zi)²=1(x, y, z为实数,i为虚数单位)的3D图像,该图像包含一个圆和一个双曲线。通过将方程分解为实部和虚部,我们可以得到两个情况:y=0时,x²-z²=1(双曲线);z=0时,x²+y²=1(单位圆)。这个可视化方法揭示了依赖于实参数的实矩阵的复特征值的行为。文章通过两个2x2矩阵的例子,展示了如何利用该方法分析特征值,并指出这种方法可以推广到其他依赖于一个实参数的2x2矩阵。

阅读更多
数学 特征值

AI代码审查:从噪音到精准

2025-06-26
AI代码审查:从噪音到精准

Cubic公司开发的AI代码审查工具最初饱受“噪音过多”的困扰,大量低价值评论和误报淹没了真正的反馈。为此,他们进行了三次架构大修,最终通过三个关键改进解决了问题:一是要求AI在给出反馈前明确说明推理过程,提高了透明度和可调试性;二是精简工具集,只保留核心组件,减少了干扰;三是采用专业化微型代理,每个代理专注于单一任务,提升了精度。最终,误报率降低了51%,评论数量减少了一半,开发者满意度显著提升。

阅读更多
开发

佛罗里达保险公司:贫困的伪装?

2025-02-22
佛罗里达保险公司:贫困的伪装?

一项未公开的研究揭示,在飓风“艾尔玛”和“迈克尔”之后,佛罗里达州的保险公司声称亏损,但其母公司和关联公司却赚取了数十亿美元。研究发现,保险公司向股东分发了6.8亿美元的股息,同时向关联公司转移了数十亿美元,导致一些保险公司财务状况恶化,甚至可能无法支付索赔。尽管州立法者从未见过这份报告,但其发现证实了长期以来人们对佛罗里达州保险市场的怀疑:公司以诉讼和欺诈为由,声称贫困以提高保费或证明其无力偿债,实际上却将资金从左口袋转移到右口袋。监管机构正在采取措施加强对关联公司的监管,但一些人质疑这些措施是否足以解决这个问题。

阅读更多

Linux内核6.9及以上版本eBPF编程中的FRED陷阱

2025-03-01

最近Linux内核6.9版本在x86_64架构上引入了CONFIG_X86_FRED配置选项,这会在任务内核栈底部添加16字节的填充。这会导致直接访问内核栈和pt_regs结构的eBPF程序出现错误,返回垃圾数据。作者通过升级到Linux 6.11内核后,其eBPF程序xcapture-next出现此问题,通过分析发现是FRED导致的栈地址偏移。作者提出了一种动态检测FRED并调整栈地址计算的方法,避免此问题。这篇文章对eBPF开发者,特别是直接操作内核栈的开发者有重要参考价值。

阅读更多
开发 FRED

西部数据胜诉!专利侵权赔偿金从5.53亿美元降至1美元

2025-06-25
西部数据胜诉!专利侵权赔偿金从5.53亿美元降至1美元

在与SPEX Technologies Inc.的专利侵权诉讼中,西部数据(Western Digital)最终只被判赔1美元象征性赔偿金。此前,陪审团裁定西部数据侵犯了SPEX的加密技术专利,判赔金额高达5.53亿美元。法官裁定,SPEX在诉讼过程中改变了损害赔偿理论,缺乏足够证据支持巨额赔偿,因此将赔偿金大幅降低。虽然西部数据在大部分其他诉讼请求上败诉,但其律师仍将此结果视为重大胜利。

阅读更多
科技 赔偿金

太平洋货轮沉没:3000辆汽车葬身海底

2025-06-25
太平洋货轮沉没:3000辆汽车葬身海底

一艘载有约3000辆汽车(其中800辆为电动汽车)的货轮“晨曦弥达斯号”在太平洋发生火灾后沉没。火灾发生在6月初,最初的烟雾来自装载电动汽车的甲板。恶劣天气加剧了火灾造成的损害,导致船舶进水最终沉没。事件凸显了电动汽车锂电池带来的航运风险,尤其是在大型汽车运输船上。救援行动因船舶距离陆地较远(约360海里)而受阻。

阅读更多
科技

苹果重返X平台广告:和马斯克的短暂“冷战”结束

2025-02-14
苹果重返X平台广告:和马斯克的短暂“冷战”结束

苹果公司在沉默一年多后,本月重返X平台投放广告。起因是马斯克2023年11月发表的争议言论导致苹果暂停了广告投放。如今,苹果官方账号已投放Safari隐私功能和Apple TV+剧集《Severance》的广告。尽管马斯克之前的言论引发轩然大波,但他此后保持低调,避免争议,苹果似乎认为风险已降低,重新选择X平台进行广告投放。

阅读更多
科技

Bethesda力挺《上古卷轴IV:湮没》粉丝自制MOD《Skyblivion》

2025-05-03
Bethesda力挺《上古卷轴IV:湮没》粉丝自制MOD《Skyblivion》

Bethesda近期发布了《上古卷轴IV:湮没》重制版,与此同时,一个自2012年就开始开发的粉丝自制MOD《Skyblivion》也备受关注。令人惊喜的是,Bethesda不仅没有打压,反而公开支持,甚至在其开发者访谈视频中展示了《Skyblivion》的实机画面,并表达了对其的期待。 Bethesda此举展现了其对玩家社区的包容和尊重,也为游戏界树立了良好的榜样。

阅读更多

大型语言模型工具中毒攻击:全架构中毒与高级工具中毒攻击

2025-06-08
大型语言模型工具中毒攻击:全架构中毒与高级工具中毒攻击

Anthropic的模型上下文协议(MCP)允许大型语言模型(LLM)与外部工具交互,但研究人员发现了新的攻击方式:工具中毒攻击(TPA)。以往研究主要关注工具描述字段,而新的研究表明,攻击面实际上涵盖整个工具架构,即“全架构中毒”(FSP)。更危险的是“高级工具中毒攻击”(ATPA),它操纵工具输出,使静态分析难以检测。ATPA通过伪造错误消息或后续提示来诱导LLM泄露敏感信息。文章建议通过静态检测、严格执行、运行时审计和上下文完整性检查来缓解这些攻击。

阅读更多
AI

我的网站,我的风格:从极简到充满惊喜的演变

2025-05-29
我的网站,我的风格:从极简到充满惊喜的演变

作者Taylor Troesh讲述了他个人网站设计的演变历程。起初追求极简,后来为了打破单调,他巧妙运用CSS,通过旋转、字体变化等细微调整,赋予网站独特的个性,如同在极简主义中注入灵魂。他甚至利用CSS-doodle创造出类似于“纸张纹理”或“星空”的背景效果,让网站充满惊喜,体现了“我的网站,我的风格”的理念。

阅读更多
设计

Skype将于2025年5月寿终正寝,迁移至Microsoft Teams

2025-02-28
Skype将于2025年5月寿终正寝,迁移至Microsoft Teams

微软宣布将于2025年5月终止Skype服务。届时,Skype用户将被迁移至Microsoft Teams。从现在开始,部分用户可以使用Skype账户登录Teams,并保留原有的联系人、聊天记录和通话记录。不愿迁移的用户也可以导出他们的数据。这一消息标志着陪伴我们21年之久的Skype即将谢幕。

阅读更多
科技

从谷歌离职七年:出售公司,喜迎新生

2025-02-04
从谷歌离职七年:出售公司,喜迎新生

七年前,作者Michael Lynch辞去谷歌开发人员的工作,创办了自己的软件公司。今年,他总结了七年的创业历程:成功出售了年收入百万美元的远程电脑控制设备公司TinyPilot,实现了60万美元的收益;同时,迎来了自己的第一个孩子。出售公司是为了更好地平衡家庭和工作,他利用空闲时间改进之前的博客课程,并开始撰写一本关于开发者高效写作技巧的书籍。他还探索了Nix、htmx和Zig等新技术,并用Nix改进模糊测试工作流程。作者对独立创业的未来依旧充满热情。

阅读更多
创业
1 2 880 881 882 884 886 887 888 1084 1085