地下室里的AI服务器
本文介绍了作者构建个人大型语言模型服务器的经历。作者详细介绍了硬件平台的选择、组装过程中的挑战以及未来将要分享的主题,包括PCIe设备、NVLink速度、推理引擎的基准测试以及大型语言模型的训练和微调等。
阅读更多
本文介绍了作者构建个人大型语言模型服务器的经历。作者详细介绍了硬件平台的选择、组装过程中的挑战以及未来将要分享的主题,包括PCIe设备、NVLink速度、推理引擎的基准测试以及大型语言模型的训练和微调等。
阅读更多
Tinygrad 0.9.0 版本发布,带来了超过1200项更新。新版本主要亮点包括全新文档、移除外部依赖、实验性支持AMD和NV后端、PTX渲染、Nvidia Tensor Core支持、无Numpy随机数生成、更稳定的多tensor API、核心代码重构、多输出内核生成、改进内核融合、MLPerf ResNet和BERT支持、Llama 3支持和NF4量化支持等。
阅读更多
美国国家飓风中心预测,2024年大西洋飓风季将异常活跃,预计会有17到25场风暴,其中至少8场将发展成飓风。气候变化导致的海洋温度异常升高是造成飓风活动增加的部分原因。飓风会带来强风、洪水等灾害,对美国东部数千万居民构成威胁。
阅读更多
这篇文章是关于廉价10GbE交换机的购买指南,作者列举分析了不同品牌和型号的交换机,包括价格、端口类型、功耗等参数,并对一些交换机进行了详细评测。文章还预告了未来将发布更多关于100GbE、25GbE、PoE++等交换机以及400GbE和800GbE内容的评测。
阅读更多
本文作者通过汇总分析来自 PYPL、Tiobe、GitHub、Stack Overflow 和 IEEE 等机构的九个编程语言排行榜数据,得出 2024 年最受欢迎的编程语言以及这些语言的应用领域。结果显示,Python、JavaScript 和 Java 位居前三,并建议开发者根据实际应用场景选择合适的编程语言。
阅读更多
文章探讨了19世纪末兴起的颓废主义运动,认为其对感官体验的追求既是危险的,也是有价值的。颓废主义者质疑传统价值观,主张在短暂的生命中追求极致的感官享受。文章分析了这种生活方式的潜在风险,但也指出了其对个人解放和社会变革的推动作用。
阅读更多
美国医疗保健福利管理公司HealthEquity发生数据泄露事件,影响了430万人的个人和受保护的健康信息。泄露的数据包括姓名、地址、电话号码、社会安全号码、雇主信息、受抚养人信息以及部分支付卡信息。泄露原因是HealthEquity一家供应商的用户帐户遭到入侵,密码被盗,导致黑客访问了包含客户个人和健康信息的非结构化数据存储库。
阅读更多
本文讨论了 Airtrain AI,但没有提供具体信息。建议提供更多上下文或文章内容以获得更准确的摘要。
阅读更多
Humane 公司近日发布公告,紧急召回 AI Pin 充电盒。该公司发现,由第三方供应商提供的充电盒电池存在安全隐患,可能引发火灾。Humane 已停止与该供应商合作,并将为用户提供两个月的免费订阅服务作为补偿。
阅读更多
文章介绍了东德时期发明的一种名为“超级硬”的玻璃,这种玻璃比普通玻璃耐用15倍。文章详细介绍了超级硬玻璃的研发过程、化学处理方法以及其在东德的普及和最终停产的原因。作者认为,超级硬玻璃的停产是德国统一后资本主义追求短期利润而忽视产品耐用性的结果,是“德国统一的一出小悲剧”。
阅读更多
Lazarus 团队发布了 Lazarus 3.4 版本,这是一个 bugfix 版本,使用 FPC 3.2.2 构建。该版本包含 Lazarus 和 Free Pascal 的更新和修复,并提供了 Windows、FreeBSD/Linux 和 Mac OS X 等平台的下载。
阅读更多
在2024年Hot Chips大会上,特斯拉介绍了其TTPoE(基于以太网的Tesla传输协议),旨在为其Dojo超级计算机提供低延迟网络解决方案。TTPoE通过简化TCP协议的连接建立和关闭过程,并采用固定拥塞窗口,实现了微秒级的延迟。该协议通过名为“Mojo”的低成本网卡实现,该网卡配备硬件加速的TTPoE MAC,可有效处理数据传输和拥塞控制。
阅读更多
这篇文章综述了利用硬件加速器加速大型语言模型Transformer网络的各种研究工作,对不同技术、平台(FPGA、ASIC、内存、GPU)以及加速效果、能效、性能(GOPs)和能效比(GOPs/W)进行了定性和定量比较。文章还通过将不同方案的结果外推到相同的工艺技术上,进行了更公平的理论和实践比较。
阅读更多
这篇论文介绍了Anthropic团队如何将稀疏自编码器应用于Claude 3 Sonnet模型,以提取可解释的特征。研究发现,这些特征高度抽象,能够识别代码中的错误、安全漏洞以及偏见等问题。团队使用特征操控技术证明了这些特征对模型行为的影响,例如,操控特定特征可以诱导模型产生与该特征相关的输出。 论文强调了这项研究的初步性质,并指出需要进一步研究以理解这些潜在安全相关特征的含义。
阅读更多
文章介绍了人工智能语言模型HorseGPT成功预测了肯塔基德比中前三名的获胜者。HorseGPT是一个经过大量马术比赛数据训练的模型,它考虑了各种因素,如马匹的血统、训练师和骑师的历史记录,以及赛道和天气条件,来预测比赛结果。肯塔基德比是美国最负盛名的赛马比赛之一,HorseGPT的成功预测展示了人工智能在体育博彩和数据分析方面的潜力。
阅读更多
NixOS 24.05 “Uakari” 版本正式发布。新版本包含 GNOME 46、Plasma 6、Linux Kernel 6.6 等更新,新增 17777 个软件包,更新了 16249 个软件包,同时也移除了 9393 个软件包。该版本由 2491 名贡献者参与开发,历经 47795 次代码提交。
阅读更多
🐸TTS 是一个用于高级文本转语音生成的库,拥有超过1100种语言的预训练模型,提供用于训练新模型和微调现有模型的工具,以及用于数据集分析和管理的实用程序。该工具包还包括多种语音编码器模型、声码器模型和注意力机制,支持多说话人 TTS 和语音转换。
阅读更多
iTerm-MCP是一个模型上下文协议(MCP)服务器,允许大型语言模型直接访问和控制你的iTerm终端。它支持高效的令牌使用,仅读取模型感兴趣的输出;提供自然集成,允许模型与iTerm进行交互,回答屏幕上的问题或执行任务;并支持完整的终端控制和REPL交互。安装简单,只需使用npx即可运行,并易于集成到Claude Desktop等MCP客户端。注意,该工具不包含任何安全限制,用户需谨慎使用并监控模型行为。
阅读更多
Linux 6.10 内核将引入一个新的系统调用 mseal(),用于内存密封。mseal() 由谷歌 Chrome 团队的 Jeff Xu 主导开发,旨在保护内存映射本身免遭修改。它允许运行时加载器密封 .text 和 .rodata 页面,应用程序也可以在运行时密封安全关键数据,从而提高系统安全性。
阅读更多
作者认为推特算法的改变使其沦为注意力轮盘赌,内容质量下降,用户投入热情降低。即使拥有大量粉丝,帖子也难以获得关注,平台外的影响力微乎其微。作者建议回归博客、邮件等去中心化平台,并分享了自己构建个人搜索引擎获取优质内容的经验。
阅读更多
jd 是一款用于比较和合并 JSON 和 YAML 值的命令行工具和 Go 库,支持原生 jd 格式、JSON Merge Patch (RFC 7386) 以及 JSON Patch (RFC 6902) 的一个子集,提供命令行使用、库使用、差异语言和示例等功能。
阅读更多
Qodo(原Codium)宣布其平台新增支持四种模型:Anthropic的Claude Sonnet 3.5、OpenAI的o1-preview和o1-mini以及Google Gemini 1.5 Pro,并将于下周向所有用户发布。这些新模型在代码理解、问题推理和自然语言理解方面都有显著提升,能更好地处理复杂的编码任务。Qodo平台提供灵活的模型选择,方便开发者根据任务需求和成本控制选择合适的模型,并在不同模型之间轻松切换,保持上下文连续性。
阅读更多
本文是关于使用 Stable Diffusion 生成逼真人物的教程。文章详细介绍了软件、提示词、模型、高清化等方面内容,并通过大量实例图片展示了不同参数设置对生成结果的影响。文章还介绍了如何使用 ControlNet 控制人物姿势和构图,以及如何修复生成图像的缺陷。
阅读更多
文章批评了滥用“人工智能驱动”作为营销噱头的现象。作者认为,很多产品并非真正需要人工智能,却硬要搭上这趟潮流,导致用户对其价值产生怀疑。作者建议,应该专注于产品本身的功能和解决问题的能力,而不是过度依赖人工智能的营销说辞。
阅读更多
这是一个 Python 脚本,它结合了 Perlin 噪声和 Wang 砖块的概念,用于生成一组非周期性可平铺的噪声图像。该脚本允许用户自定义 Perlin 噪声设置,例如频率、幅度和八度,以及 Wang 砖块设置,例如颜色数量和选项。
阅读更多
数字产品销售平台Lemon Squeezy宣布被支付巨头Stripe收购。Lemon Squeezy致力于简化全球数字产品销售,提供税务、欺诈预防、退款处理等服务。此次收购是双方多年合作的结果,旨在进一步提升Lemon Squeezy的服务,包括增强商户记录功能、扩展账单支持和优化用户体验等。
阅读更多
Inspectus 是一个用于大型语言模型的可视化工具,可以在 Jupyter notebooks 中使用 Python API 运行。它提供了多种视图,可以深入了解语言模型的行为,包括注意力矩阵、查询词热图、关键词热图和维度热图。该工具支持 Huggingface 模型和自定义注意力矩阵,并提供简单的 API 和教程。
阅读更多
Ruby 语言功能丰富,语法简洁,是编写 Shell 脚本的强大工具。文章列举了 Ruby 在调用外部命令、处理状态码、类型安全、函数式编程、正则表达式、多线程和文件操作等方面的优势,并与 Bash、Python 等语言进行了比较,建议开发者在处理复杂脚本时考虑使用 Ruby。
阅读更多