新型AI攻击技术“最佳N次尝试”攻破AI系统
研究人员开发了一种名为“最佳N次尝试”(BoN)的AI攻击算法,该算法通过反复修改提示信息(例如随机打乱或大写文本提示),直到诱导AI系统给出有害回应。实验表明,BoN在闭源语言模型(如GPT-4o和Claude 3.5 Sonnet)上取得了高达89%和78%的攻击成功率,并且能够有效绕过现有防御机制,甚至扩展到视觉和音频语言模型。该研究表明,即使是先进的语言模型也容易受到看似无害的输入变化的影响,这为AI安全敲响了警钟。
阅读更多
研究人员开发了一种名为“最佳N次尝试”(BoN)的AI攻击算法,该算法通过反复修改提示信息(例如随机打乱或大写文本提示),直到诱导AI系统给出有害回应。实验表明,BoN在闭源语言模型(如GPT-4o和Claude 3.5 Sonnet)上取得了高达89%和78%的攻击成功率,并且能够有效绕过现有防御机制,甚至扩展到视觉和音频语言模型。该研究表明,即使是先进的语言模型也容易受到看似无害的输入变化的影响,这为AI安全敲响了警钟。
阅读更多
作者遇到一个棘手的NFC问题:一些Magic MIFARE卡片无法被iPhone读取。通过Proxmark3工具,他尝试擦除卡片数据、用ndefformat格式化,但iPhone仍无法识别。最终,利用iPhone的NFC Tools应用在“兼容模式”下写入数据后,iPhone成功读取了卡片。 作者还演示了如何使用ndeflib库编写NDEF记录并写入卡片,最终实现Magic MIFARE卡片在iPhone上的正常使用。
阅读更多
3mdeb公司进行了一项研究,测试了不同类型RAM(DDR4和DDR5)的数据残留时间。结果显示,DDR5内存的数据在断电后几乎立即消失,而DDR4内存的数据则可以保留更长时间,甚至长达两分钟。这表明不同类型的RAM在数据安全方面存在显著差异。研究使用了定制的UEFI应用程序,该应用程序能够写入和比较内存模式,并考虑了各种因素,例如温度和环境湿度。这项研究对于理解内存数据安全性以及设计更安全系统具有重要意义。
阅读更多
PuzzleZilla是一个在线拼图网站,用户可以上传图片或使用网络图片创建个性化拼图。网站提供多种主题分类的拼图,例如汽车、婴儿、城市、动物、花卉、自然、女孩、风景、恐龙、城堡、电影、动漫、猫、狗、绘画、食物和奇幻等,用户可以自由选择并在线体验拼图的乐趣。
阅读更多
Hyperbola GNU/Linux-libre是一个社区驱动的操作系统项目,致力于提供一个完全自由、稳定、安全、简单、轻量级的长期支持发行版。它基于Arch Linux的包管理系统和Debian的安全补丁,遵循GNU自由系统发行指南。Hyperbola支持i686和x86_64架构,并计划推出基于BSD的HyperbolaBSD系统。项目近期新闻包括:继续支持32位系统,停止使用Debian 12之后的补丁集,以及对自由软件基金会关于机器学习的声明表达担忧。
阅读更多
为了解决孩子查看学校时间表不便的问题,作者设计了一个低功耗电子墨水屏显示器,自动抓取并显示学校网站上的时间表信息。项目克服了网站登录和API缺失的挑战,采用Playwright进行网页抓取,并利用服务器端应用生成图像,最终在电子墨水屏上显示。该方案解决了家庭日常问题的痛点,并展示了低功耗硬件和网页抓取技术的结合应用。
阅读更多
一个名为similar-cities的网站利用AI技术,通过比较城市道路网络的相似性来可视化城市间的联系。该网站使用一种基于“醉汉漫步”算法的独特方法,计算城市道路网络中随机路径的相似度,从而评估城市结构的相似性。数据来源于OpenStreetMap,包含约2500个城市。该项目开源,并提供详细的算法说明和代码,期待更多城市数据的加入以提升结果的准确性。
阅读更多
程序员Anvaka利用GitHub公开数据,创建了一个包含40万多个项目的交互式地图。该项目通过Jaccard相似度算法计算项目间的关联,并使用Leiden聚类算法将项目分组,最终呈现出一个直观的可视化效果。用户可以搜索项目,并探索项目间的联系,展现了GitHub项目生态的复杂性和丰富性。
阅读更多
本文探讨了埃隆·马斯克等试图改革政府低效的尝试。作者认为,民主党并未优先解决政府低效问题,马斯克的介入并非解决问题的良方,反而可能加剧问题。政府内部人士对马斯克的改革持观望态度,他们认为即使是亿万富翁也难以撼动根深蒂固的官僚体系。文章指出,冗长的法律程序和利益集团的阻挠是改革的巨大障碍,而法院在加剧这一问题上也扮演了重要角色。最终,作者呼吁重新审视政府改革的策略,并对改革的难度和复杂性有清醒的认识。
阅读更多
Vercel 发布了 ƒun,一个本地 Serverless 函数开发运行时,允许开发者在本地环境模拟 AWS Lambda 的运行环境。ƒun 支持多种运行时环境,包括 Node.js 和 Python 等,开发者可以使用它快速测试和调试 Serverless 函数,无需部署到云端。虽然 ƒun 尽可能模拟真实的 Lambda 环境,但仍存在一些差异,例如进程沙盒和用户权限方面。
阅读更多
本文深入探讨了最大似然估计(MLE)与常用损失函数之间的内在联系。作者从MLE的基本概念出发,逐步解释了其与KL散度的紧密关系,并以均方误差(MSE)和交叉熵为例,详细推导了它们如何从MLE自然地导出,而非人为设定。文章清晰地阐述了,通过假设数据分布(例如线性回归中的高斯分布,逻辑回归中的伯努利分布),利用MLE最大化似然函数,最终得到MSE和交叉熵损失函数。这为理解损失函数的理论基础提供了清晰的路径,不再仅仅停留在直觉层面。
阅读更多
Fractional Jobs是一个专注于兼职工作的招聘平台,为企业和求职者提供了一种新型的合作模式。平台汇集了各领域专家,提供按月付费的兼职服务,涵盖工程、市场营销、设计等多个职能。对于企业而言,这是一种灵活高效的用人方式,可以根据实际需求快速找到合适的专家,降低人力成本;对于求职者而言,这是一个拓展职业发展、提升收入的绝佳机会。
阅读更多
本文介绍了如何在Bevy 0.15 Web应用中集成Web原生API,实现拖放图像的功能。文章详细讲解了使用wasm-bindgen、gloo和bevy_channel_trigger等工具,在Rust代码中处理DOM事件、提取文件数据、并将数据传递给Bevy引擎进行图像加载和渲染的过程。整个过程类似于JavaScript中的实现,但使用了Rust的特性,并解决了错误处理和事件监听器内存泄漏等问题。最终实现了将拖放的PNG图片加载到Bevy应用中并显示的效果。
阅读更多
英国汽车改装大师Yianni Charalambous试图将一辆特斯拉Cybertruck合法注册上路,这辆车此前在捷克通过了改装后获得了上路许可。然而,由于Cybertruck棱角分明的设计与英国和欧盟的行人安全法规冲突,其在英国注册面临巨大挑战。其独特的转向系统和对OTA更新的依赖,以及与欧盟召回制度的兼容性问题,都增加了注册难度。专家认为,该车通过英国车辆鉴定测试(IVA)的可能性极低。
阅读更多
程序员Shae Erisson受到一篇关于工作中断影响的研究启发,DIY了一个名为FlowLight的系统,用于指示程序员是否处于专注的“心流”状态。该系统通过监测Emacs编辑器的空闲时间,当程序员长时间未操作时,系统会通过Adafruit MagTag板上的LED灯变为绿色表示空闲,红色表示忙碌。Erisson还在CircuitPython中编写了HTTP服务器,使得系统能够远程控制LED颜色和显示状态。虽然该系统目前还有一些改进空间,例如更精细的空闲时间监测和更美观的显示效果,但它已经能够有效地帮助程序员避免被打扰,提高工作效率。
阅读更多
该项目展示了一个概念验证,说明WASM程序如何绕过node:wasi的预打开目录限制,访问外部文件。通常情况下,WASM程序只能访问预先指定的目录,但通过巧妙地利用符号链接替换文件,并在精确的时间点运行外部进程,可以突破这一限制。这并非node:wasi的实际安全漏洞,而是其在极端情况下可能存在的边缘情况。该项目强调了在使用node:wasi时,不应依赖其完全阻止恶意代码访问外部文件。
阅读更多
公元前一世纪,一个名为安提基特拉机制的复杂天文装置被发现。它能追踪太阳、月亮和行星的运行,其精妙的齿轮系统令人叹为观止。本文深入探讨了机制中一个254:19的齿轮比,这个比例并非偶然,它巧妙地反映了19年默冬周期中太阳和月亮的运行规律,展现了古希腊人对天文学的非凡理解。文章纠正了此前关于萨罗斯周期和默冬周期的若干误解,并解释了该齿轮比背后的数学原理,揭示了古希腊人对天体运行规律的深刻洞察。
阅读更多
维多利亚时代儿童死于传染病的比例惊人,其小说反映出如今公共卫生的脆弱性。文章指出,19世纪上半叶,美国40%-50%的儿童活不过5岁,英国贫民窟的儿童死亡率也接近50%。肺结核、天花、白喉等疾病夺走了无数儿童的生命。然而,如今的卫生、法规和医疗进步,例如污水处理、巴氏杀菌法、食品安全法规以及疫苗和抗生素的发明,使得儿童死亡率降至极低。维多利亚时代小说中对失去孩子的悲痛描写,提醒我们不要忽视公共卫生措施的重要性,因为疫苗接种率下降等因素可能导致传染病卷土重来。
阅读更多
本文深入探讨了PPG Wave 2.2和2.3合成器之间细微却重要的区别。尽管2.3使用了12位DAC,但波表声音的回放仍然是8位的,只有通过外部设备导入的采样才能充分利用12位精度。文章通过示波器测量,揭示了其独特的音频处理方式:两个振荡器交错发送数据,DAC输出频率是单个振荡器采样率的两倍,这种方法创造了独特的音色,并产生了超出人类听觉范围的高频混叠。文章还分析了其CV更新速率相对较低,但音色依然富有特色。
阅读更多
历史上,许多药物和材料依赖动物提取,例如从马血中提取抗毒素,从鲎血中提取内毒素检测剂,以及用蚕丝生产丝绸。这篇文章讲述了从古代腓尼基人使用蜗牛提取泰尔紫染料,到现代利用生物技术合成胰岛素、抗体和疫苗的历程。虽然合成生物学技术已经可以替代许多动物来源的产品,但由于监管滞后、分子复杂性以及规模化生产的挑战,一些领域仍然依赖动物,例如流感疫苗的生产。文章强调了合成生物学在提高效率和减少动物使用方面的巨大潜力,但也提醒我们不能忽视生物多样性保护的重要性,因为生物技术的发展也依赖于对自然界的探索和利用。
阅读更多
本文探讨了机器人舞蹈在艺术和技术发展中的演变。从Kraftwerk乐队的歌曲《我们都是机器人》出发,作者追溯了舞蹈风格从机械化到有机化的转变,以及人类对机械美学的迷恋。作者指出,现代机器人已经超越了传统的机械式动作,展现出更流畅、更具生命力的运动方式。这种转变反映了技术和艺术的共同发展,人类对机械的认知也从最初的恐惧与疏离转变为亲近与认同。
阅读更多
Anukari 的开发者在 MacOS 系统上进行 GPU 性能优化时遇到瓶颈。由于系统对 GPU 性能的控制有限,导致 Apple 的 GPU 性能调控机制在 Anukari 的应用场景下表现不佳,出现音频卡顿等问题。最终,开发者采取了一个“笨办法”:用一个 GPU 线程组的 warp 进行无用计算,以此来“欺骗”系统,强制提升 GPU 频率,从而显著降低音频计算延迟,提升性能。虽然方法粗糙,但效果显著,解决了 MacOS 下的性能问题。然而,在不同 DAW 软件(Ableton 和 GarageBand)中,性能提升效果差异较大,后续仍需进一步优化。
阅读更多
近年来,大型语言模型(LLM)在代码生成方面展现出令人印象深刻的能力,引发了“编程终将过时”的讨论。然而,本文作者认为这种观点过于乐观。文章从程序合成(Program Synthesis)的计算复杂性入手,指出生成正确程序代码是一个难题,其复杂度属于PSPACE-complete级别,这意味着即使对于中等规模的输入,算法也可能需要指数级的运行时间。虽然LLM可以作为辅助工具,提高编程效率,但其局限性决定了它不可能完全取代程序员。编程的本质仍然是解决问题和设计系统,而这需要人类的智慧和创造力。
阅读更多
斯丹利·库布里克的最后一部电影《大开眼戒》以其多层次的含义而闻名。这部1999年上映的电影,如今被认为是库布里克最优秀的电影之一。影片探讨了性、阶级、资本主义以及强大的秘密社团等主题,并包含了大量隐喻和象征,跨越了文学、音乐、歌剧、芭蕾、戏剧、神话、宗教、政治、历史等多个领域。影片的叙事结构和影像风格也极具特色,给观众留下了深刻的印象和丰富的解读空间。
阅读更多
本文探讨了一种“乐观计算”的理念,并非盲目乐观,而是基于对诸多优秀理念的融合:极简易用(“启动即杀”)、本地优先、用户赋能。作者认为,通过限制依赖、简化流程,创造“即装即用”的体验,并赋予用户更多控制权,可以构建更可靠、安全、长久的软件。这种理念不仅适用于个人用户,也适用于企业软件开发,最终目标是创造一个尊重用户隐私和数据所有权的数字世界。
阅读更多
Anthropic提出的模型上下文协议(MCP)旨在连接大型语言模型(LLM)与外部工具和数据,例如Claude Desktop连接到数据库、搜索引擎等。虽然MCP为AI应用扩展功能提供了可能性,但其目前的实现仍存在一些不足:Claude Desktop仅支持本地服务器、缺乏对复杂输入的支持、存在客户端超时问题等。此外,MCP的文档和配置也需改进,例如建立官方注册表,支持异步任务调度和多客户端协作等,才能更好地服务用户。
阅读更多
本文对Spark、DuckDB和Polars三种数据处理引擎进行了基准测试,比较了它们在处理10GB和100GB数据集时的性能、成本和开发难度。结果显示,对于大型数据集和ETL任务,Spark凭借其分布式计算能力和成熟的生态系统仍然占据优势,而DuckDB和Polars在小型数据集的交互式查询和数据探索方面表现出色。作者建议根据实际需求选择合适的引擎,并可以结合使用这三种引擎,例如使用Spark进行ETL,DuckDB进行交互式查询,Polars用于特定场景。
阅读更多
本文讲述了作者如何使用C++和CUDA从零开始构建一个LLM推理引擎,无需任何库。通过这个过程,作者深入学习了LLM推理的全栈知识,从CUDA内核到模型架构,并了解了各种优化如何影响推理速度。目标是创建一个程序,可以在单CPU+GPU服务器上加载常用开源模型的权重,进行单批推理,并迭代改进令牌吞吐量,最终超越llama.cpp。文章详细介绍了CPU和GPU上的优化步骤,包括多线程、权重量化、SIMD、内核融合以及KV缓存量化等,并分析了遇到的瓶颈和挑战。最终实现了接近最先进性能的本地LLM推理。
阅读更多
软件开发中,传统的设计文档加渐进式开发模式并不总是高效。作者Doug Turnbull提出了一种“代码冲刺”方法:先用临时PR快速实现原型,尽早获得团队反馈,完善设计后再逐步拆分出可部署的PR。这种方法鼓励快速迭代,尽早发现问题,并认为代码本身就是最好的文档。虽然设计文档在特定情况下仍有价值,但作者更推崇“行动胜于言辞”,通过代码原型快速验证和迭代,从而更高效地完成软件开发。
阅读更多
本文探讨了高效团队运作的基石——跨记忆系统。它并非指团队成员个体记忆力的强大,而是指团队如何有效地共享和利用成员间的知识和技能。文章介绍了三种团队记忆类型:工作记忆、长期记忆和跨记忆系统,并重点阐述了跨记忆系统如何提升团队绩效。文章指出,跨记忆系统包含两个要素:成员间的协作模式和每个成员的专业知识。通过构建跨记忆系统,团队能够充分发挥集体智慧,克服成员变动带来的影响。文章还推荐了例如能力梳理、团队手册和刻意练习等方法,帮助团队快速建立和完善跨记忆系统。
阅读更多