Fine tune LLAMA3 on million scale dataset in consumer GPU using QLora, Deepspeed | by Suman | Apr, 2024 | Medium (medium.com)
本文讨论了如何使用QLORA和DeepSpeed在消费级GPU上对LLaMA3进行微调。具体而言，它提供了详细的步骤和提示，帮助读者理解微调LLaMA3所需的任务和技术。本文还强调了在资源受限的系统上对大规模语言模型进行微调的重要性，并为在类似环境中进行微调的其他人提供了有价值的见解。
AI 帮科学家预测生命构建模块的组装方式 (www.quantamagazine.org)
该网站发布了许多文章，涵盖了数学、物理学以及计算机科学与其他学科的交叉点。它重点关注利用数学和计算机科学工具解决科学问题。最近的一篇文章探讨了新的人工智能工具，这些工具可以预测生命基础模块的组装方式。这篇文章讨论了这些新工具如何帮助科学家们了解蛋白质和其他生物分子如何形成，以及它们如何为新药和治疗方法的设计提供见解。
谷歌垄断案即将收官 (www.npr.org)
美国司法部指控谷歌在在线搜索和数字广告市场上垄断，要求拆分其业务。谷歌否认了这些指控，辩称其产品令消费者受益，并帮助小企业与大公司竞争。本周的审判是此案的最后阶段，陪审团将于未来几周宣布裁决。该案的结果可能会对科技行业产生重大影响。
Viking 7B：首个面向北欧语系的开源大型语言模型 (www.silo.ai)
.png)
欧洲最大私营人工智能实验室 Silo AI 与图尔库大学 TurkuNLP 研究小组合作发布了首个面向所有北欧语系的多语言大型语言模型 (LLM) Viking 7B。Viking 7B 是一个一流的开源模型，对当地价值观和文化敏感，是该团队为低资源语言训练强大 LLM 的新方法的进一步证明。这是迈向适用于所有欧洲语言的最先进 LLM 家族的重要里程碑。
太阳能工业革命：史上最大投资机遇 (caseyhandmer.wordpress.com)
文章认为太阳能价格下降，将带来巨大的工业变革和投资机会。太阳能电力可以用于制造业、农业、交通等各个领域，并催生新的技术和商业模式。作者列举了太阳能应用的多个领域，如海水淡化、水泥生产、化工、采矿、航空等，并预测这些领域的未来发展趋势。
从面向对象狂热中汲取的教训 (lemire.me)
本文回顾了面向对象编程的狂热时期，指出尽管面向对象编程的一些基本原则很有用，但当时的狂热是不必要的，甚至是有害的。作者将这种现象比作社会传染病，并指出现代社会中仍然存在类似的趋势，例如强制戴口罩。作者建议读者批判性地看待任何流行的技术和理念，避免盲目跟风。
甲骨文弃用 Terraform，转而使用 OpenTofu (www.thestack.technology)
由于 Terraform 即将发生的许可变更，甲骨文在其 Oracle E-Business Suite (EBS) Cloud Manager 中用开源分支 OpenTofu 替换了 Terraform。甲骨文现在告诉客户，他们“必须”在 2024 年 6 月 30 日之前迁移到基于 OpenTofu 的新版本迁移/配置工具。此举是在 Hashicorp 于 2023 年决定对 Terraform 和其他产品采用更严格的 BSL 1.1 许可证（而不是之前使用的 MPL 2.0）之后做出的。
GitHub - containers/podman-desktop-extension-ai-lab: 在本地环境中使用容器处理大型语言模型 (github.com)
Podman AI Lab 是 Podman Desktop 的开源扩展，用于在本地环境中使用大型语言模型 (LLM)。 它提供了一个包含常见 AI 用例的配方目录、一组精选的开源模型，以及一个用于学习、原型设计和实验的游乐场。 Podman AI Lab 帮助您快速轻松地将 AI 引入您的应用程序，而无需依赖笔记本电脑以外的基础架构，从而确保数据隐私和安全。
使用巨型/Unity 构建（单一翻译单元） (austinmorlan.com)
本文探讨了巨型构建（Jumbo Build）或Unity构建，它将所有代码（包括头文件和源文件）放入单个文件中进行编译。作者分析了这种构建方式的优缺点，例如更快的编译和链接速度、更多优化机会，但也存在接口消失、代码顺序重要性、无法并行编译等问题。作者建议开发者根据项目规模和特性选择合适的构建方式，并提供了一些解决方案来缓解巨型构建的缺点。
数据库版本控制 (www.lesli.dev)
本文介绍了Lesli框架中数据库版本控制的规范。为了防止命名冲突，保持数据库结构清晰有序，Lesli采用了一种自定义的8位数编码系统来命名迁移文件，并根据版本将迁移文件组织到不同的文件夹中。该编码系统包含了集合、引擎、命名空间、表和版本信息，例如 '0702110110_create_lesli_support_tickets.rb' 代表LesliSupport引擎的版本1.0的数据库迁移文件，用于创建名为 'lesli_support_tickets' 的表。文章还给出了创建新表和修改现有表的迁移文件命名示例。
SimBricks™ — 可让每个人轻松组建乐高的虚拟游戏引擎 (simbricks.github.io)
SimBricks™ 是一款虚拟游戏引擎，旨在让任何人，无论其技术水平如何，都能轻松地组建乐高积木。它提供了一个直观的用户界面和各种工具，使您可以轻松创建和定制自己的乐高模型。SimBricks™ 还提供了一个在线社区，您可以在其中分享您的创作并与其他玩家互动。无论您是经验丰富的乐高玩家还是初学者，SimBricks™ 都是一个让您尽情发挥想象力并释放创造力的绝佳平台。
CORDIC算法：低功耗硬件的三角函数计算利器 (github.com)
CORDIC算法是一种在低功耗硬件上计算三角函数的有效方法，它可以避免使用浮点运算和庞大的查找表。该算法的核心思想是通过一系列逐渐变小的角度旋转向量，最终向量的分量将收敛到目标角度的正弦和余弦值。CORDIC算法通过预先计算一系列反正切值，并将旋转矩阵中的正切值替换为2的幂的倒数，从而将乘法运算简化为位移运算。最终，CORDIC算法仅使用简单的加法和位移操作即可高效地计算三角函数。
MacRelix：在经典Mac OS中运行的类Unix环境 (www.macrelix.org)
MacRelix是一个在经典Mac OS中运行的类Unix环境，支持68K和PPC Mac OS，以及通过Carbon在PPC上运行的Mac OS X。用户可以通过下载MacRelix安装程序来体验，它需要一个带有开放传输（和上游互联网连接）的经典Mac OS环境。
数据即产品和数据契约：一种数据成熟度的进化方法 (blog.owulveryck.info)
本文探讨了数据网格范式的实际应用，并提出了数据即产品的概念作为切入点。作者利用Wardley进化模型分析了数据从原始数据到精选数据再到权威数据的演变过程，并强调了数据契约在促进数据整合和建立信任方面的重要性。文章认为，将数据视为产品对于数据从单一应用领域迁移到更广泛的领域至关重要，并且随着数据管理策略的演变和成熟，这样做将为组织带来回报。
为什么我们的祖先要在黑暗的、火光照耀的洞穴里创作令人惊叹的艺术？ (aeon.co)
文章探讨了旧石器时代晚期洞穴艺术的成因，作者认为视觉现象“空想性错视”可能在其中发挥了作用。作者指出，在昏暗的洞穴中，人们更容易将随机图案视为有意义的形状，例如将岩石纹理看作动物。作者通过虚拟现实技术模拟洞穴环境进行实验，发现现代人在观看洞穴墙壁时，也会像古代艺术家一样，将某些区域看作动物形状。文章认为，空想性错视可能促进了具象艺术的出现，帮助人们将三维的动物抽象成二维的图像。
20世纪50年代风格的科幻计算机，由荷兰制造的Z80供电 (lunduke.locals.com)
本网站展示了一台由荷兰制造的，采用Z80处理器的20世纪50年代风格的复古科幻计算机。该计算机具有许多复古元素，例如阀门、真空管和示波器，其设计灵感来自20世纪50年代的科幻电影和小说。网站包含了该计算机的详细信息、图片和视频。
汤姆·塞德曼的弗洛伊德野兔故事 (publicdomainreview.org)
本网站收集了汤姆·塞德曼为西格蒙德·弗洛伊德 1905 年版的《笑话及其与无意识的关系》一书所作的插图。这些插图以弗洛伊德精神分析理论中的概念为基础，并带有幽默和讽刺的意味。
西部数据推出新款 6TB 2.5 英寸外置硬盘，七年来首次升级 (www.anandtech.com)
西部数据发布了新款6TB 2.5英寸外置硬盘，这是七年来该尺寸硬盘的首次升级。新款硬盘将用于升级My Passport、Black P10和G-DRIVE ArmorATD系列产品。新款硬盘没有单独销售，仅供外置存储产品使用，读写速度并未公布，但由于厚度增加，很可能采用了SMR技术来提高存储密度。所有新款外置硬盘均采用USB 3.2 Gen 1接口，售价179.99美元起。
GitHub - lydiahallie/javascript-questions: (进阶)JavaScript 问题长列表及其解释 (github.com)
这是一份包含许多 JavaScript 问题的清单，涵盖基础到进阶的知识点，旨在帮助开发者测试、复习 JavaScript 知识或准备面试。问题下方有答案，可以通过点击展开查看。问题涵盖了变量提升、作用域、事件传播、原型、类型强制、异步编程、生成器函数、代理对象、私有变量等方面，并且会定期更新。
为何最近每个人都对 AI 法规如此愤怒 (asteriskmag.com)
Asterisk 杂志第 6 期文章探讨了围绕 AI 法规的争论，重点关注了科技行业反对政府干预的观点。文章认为，这种反对源于对过度监管的担忧，特别是针对人工智能初创公司，这可能会抑制创新并阻碍该领域的增长。文章还讨论了围绕人工智能潜在负面后果的担忧，例如偏见和歧视，并认为需要通过法规来解决这些问题。
网络垃圾信息横行：虚假专家“朱迪”与互联网的未来 (matt.sh)
这篇文章揭露了网络垃圾信息的泛滥现象，以虚构人物“朱迪”为例，她拥有各种头衔，从3D打印专家到营养学家，无所不能。作者指出，这些虚假人物的背后是大型联盟链接农场，他们利用搜索引擎优化、电子商务等手段，以获取点击和佣金为目的，制造了大量低质量的网页内容，污染了互联网信息环境。作者认为，“死亡互联网”理论并非空穴来风，网络欺诈和广告诱饵的盛行，源于平台监管的缺失，以及某些地区利用信息不对称进行剥削的现象。作者呼吁，未来互联网需要建立身份认证机制，以遏制网络垃圾信息的蔓延。
新研究表明，风力发电场可在两年内抵消其排放 (newsroom.taylorandfrancisgroup.com)
根据发表在《新西兰皇家学会杂志》上的一项新的同行评审研究，与火力发电厂相比，风力发电场在运转不到两年后，就可以抵消其整个30年寿命周期内产生的碳排放。该研究还表明，风力涡轮机在六个月内就能产生其整个生命周期所消耗的所有能源。
日本研究团队使用“富岳”超级计算机开发人工智能语言模型 (www.japantimes.co.jp)
日本东京工业大学、富士通和其他机构的研究人员宣布，他们利用日本超级计算机“富岳”开发了一种大型语言模型，可以作为生成式人工智能的基础。Fugaku-LLM模型在日语数据上进行了广泛的训练，日语数据占总训练数据的60%，预计将引领针对国内需求的生成式人工智能研究。
Apache Fury Metastring: 空间效率较 UTF-8 编码高出 37.5% (fury.apache.org)
Apache Fury Metastring 是一种新的字符串编码，空间效率比 UTF-8 编码高出 37.5%。它基于一种称为增强型哈夫曼编码的变种，该编码利用了字符串中存在的重复模式。Metastring 特别适用于表示数字和字符串 ID 等数据，这些数据在许多应用程序中很常见。
塑料扫描仪：让塑料回收变得更简单 (plasticscanner.com)
塑料扫描仪项目致力于开发一种能够识别常见塑料类型的开源设备，旨在简化塑料回收流程，使其更易于操作且更具可行性。该项目目前处于原型设计阶段，团队正在努力开发推荐用户构建或购买的版本。该设备的工作原理基于近红外光谱技术，可以识别日常生活中使用的75%以上的塑料。
切割与分割我的日子 (worldhistory.substack.com)
本文探讨了人类计时方法的演变，从古代的日晷、水钟到现代的机械钟表。作者以古罗马剧作家普劳图斯对钟表的厌恶为切入点，生动描绘了计时工具如何将我们的生活切割成一个个小片段。文章详细介绍了各种古代计时工具的设计和原理，并以精美图片展示了其艺术价值。