BitNet: 微软开源的一比特大语言模型推理框架

2024-10-18

BitNet 是微软开源的一比特大语言模型推理框架,支持在CPU上进行快速和无损的1.58位模型推理,未来还将支持NPU和GPU。它在ARM CPU上实现了1.37倍到5.07倍的加速,在x86 CPU上实现了2.37倍到6.17倍的加速,同时显著降低了能耗。BitNet 还可以在单个CPU上运行100B的BitNet b1.58模型,速度可达每秒5-7个token。

阅读更多
26
未分类

ITX-Llama 用户指南

2024-10-18

本文是 ITX-Llama 电脑的组装指南,介绍了安装 Vortex86EX SOM、配置跳线、使用 PS/2 和 USB HID、音频输入、刷 BIOS、安装 DOS 和 Windows 98 系统及驱动程序、使用风扇和 mt32-pi 等内容。

阅读更多
24
未分类 组装指南

无需搜索的国际象棋大师级模型

2024-10-18

这篇文章介绍了一个名为“无需搜索的国际象棋大师级模型”的研究项目。该项目训练了一个2.7亿参数的Transformer模型,用于在下棋时进行策略选择和价值评估,并达到了国际象棋大师级的水平。该模型在包含1000万局棋谱的数据集上进行训练,并使用Stockfish 16引擎提供的行动价值进行标注。研究结果表明,模型的棋力随着模型规模和数据集大小的增加而提高,并且在没有使用任何特定领域调整或显式搜索算法的情况下,成功地解决了一系列具有挑战性的棋局。

阅读更多
21
未分类

Greenmask:一款用于 PostgreSQL 数据库匿名化和合成数据生成的工具

2024-10-17

Greenmask 是一款功能强大的开源工具,用于逻辑数据库备份转储、匿名化、合成数据生成和恢复。它基于 PostgreSQL 库,可靠且与现有 PostgreSQL 工具向后兼容。Greenmask 提供确定性转换器、动态参数、模式差异、分区表转换继承等功能,适用于备份和恢复、匿名化、数据屏蔽等场景。

阅读更多
27
未分类 匿名化

GitHub - homebrewltd/ichigo: Llama3.1 学会倾听

2024-10-17

🍓 Ichigo(原llama3-s)是一个开源的实时语音AI研究项目,目标是扩展基于文本的LLM,使其具备原生“倾听”能力。它采用受Meta的Chameleon论文启发的早期融合技术,使用WhisperSpeechVQ对连续语音数据进行预训练,并通过在交织的合成数据上进行训练来增强模型的音频指令遵循能力。Ichigo v0.3模型在更清晰、改进的数据集上进行训练,实现了63.79的增强MMLU得分,并展现出更强的语音指令遵循能力,甚至在多轮交互中也是如此。

阅读更多
25
未分类 语音AI

h2tunnel: 简单的 ngrok Node.js 替代方案

2024-10-17

h2tunnel 是一款类似于 ngrok 或 ssh -L 的隧道工具,它使用 TLS 和 HTTP2 在客户端和服务器之间建立隧道,从而将本地服务器暴露到互联网。它使用自签名证书进行身份验证,并提供命令行工具和 Node.js 库两种使用方式。

阅读更多
19
未分类

高通 Windows AI PC 的 NPU 基准测试

2024-10-17

这篇文章是对高通 Windows AI PC 中 NPU 性能进行基准测试的代码示例介绍。测试结果显示,NPU 的性能远低于预期,仅达到了宣传的 45 万亿次/秒 的 1.3%。作者分析了可能的影响因素,包括计算绑定、电源设置、模型拓扑结构、配置错误和 Onnx 框架等,并希望通过软件改进或其他 API 来提升 NPU 的性能。

阅读更多
23
未分类 NPU Windows AI PC

Forscape: 面向科学计算的编程语言

2024-10-16

Forscape 是一种面向科学计算的编程语言和编辑器,专注于解决工程问题,具备低成本抽象、安全检查和直观的用户体验。它支持数学渲染,可像科学论文和笔记一样对矩阵、分数和符号等对象进行编程。该编辑器提供矩阵语法高亮、维度检查、悬停显示维度等功能。Forscape 采用 MIT 许可证,核心代码库开源,但部分附加模块将进行商业销售。

阅读更多
30
未分类

Asterinas:一个用 Rust 编写的安全、快速、通用的操作系统内核

2024-10-15

Asterinas 是一个安全、快速且通用的操作系统内核,使用 Rust 编写并提供与 Linux 兼容的 ABI。它致力于增强内存安全和开发者友好性,采用 framekernel 架构,使用 Rust 作为唯一编程语言,并将 unsafe Rust 的使用限制在最小范围内。Asterinas 提供更友好的开发体验,允许开发者使用 Rust 语言、OSDK 工具包,并灵活选择内核模块的开源或专有发布方式。

阅读更多
25
未分类

GitHub - tzador/x.md:在可执行 Markdown 文件中组织 CLI 脚本

2024-10-15

x.md 是一款通用的命令行工具,允许你从一个或多个 Markdown 文件中执行 shell 脚本、JavaScript 和 Python 代码。它可以替代 Makefile 或 package.json 脚本,并通过 Markdown 代码块提供内置语法高亮显示。其主要功能包括:支持 Zsh、JavaScript 和 Python 的多语言执行;使用 Markdown 文件组织和运行命令;利用 Markdown 代码块提高可读性;以及提供 ZSH 命令补全以实现更流畅的工作流程。

阅读更多
22
未分类

Pumpkin: 用 Rust 编写的 Minecraft 服务器

2024-10-15

Pumpkin 是一个完全用 Rust 编写的 Minecraft 服务器,致力于提供快速、高效和可定制的游戏体验。它专注于性能和玩家体验,同时遵循游戏的核心机制。Pumpkin 旨在实现多线程、兼容性、安全性、灵活性以及可扩展性,但它不会成为原版服务器的替代品,也不兼容其他服务器的插件或模组。

阅读更多
29
未分类

GitHub - apoorvnandan/tensor.h: 使用原生 C 创建一个微型张量库

2024-10-15

这篇文章详细介绍了如何使用原生C语言创建一个微型张量库,并以此为基础解释神经网络的基本原理和训练过程。文章首先解释了神经网络的概念,将其类比为一个函数,并以图像识别为例展示了神经网络的结构和工作方式。接着,文章介绍了张量的概念,以及如何使用C语言中的结构体表示和操作张量。随后,文章解释了损失函数的作用,以及如何使用梯度下降法优化损失函数以训练神经网络。文章还详细介绍了自动梯度计算的原理和实现方法,并通过矩阵乘法、ReLU和logsoftmax等操作的示例代码展示了如何实现神经网络中的各种操作。最后,文章以MNIST手写数字识别为例,展示了如何使用该微型张量库训练一个简单的神经网络,并解释了训练过程中涉及的超参数选择和训练技巧。

阅读更多
27
未分类 张量库

Adaline Gateway:一款功能强大的本地LLM超级SDK

2024-10-15

Adaline Gateway 是一款用于调用200多种大型语言模型(LLM)的本地生产级超级SDK。它提供简单、统一、强大的接口,具备批处理、重试机制、缓存、回调和OpenTelemetry支持等功能,并支持自定义插件扩展。Adaline Gateway 完全本地化,不依赖代理,支持即插即用的自定义模型,适用于各种基础设施和企业级应用。

阅读更多
22
未分类

Payload:开源全栈 Next.js 框架

2024-10-14

Payload 是一款开源全栈 Next.js 框架,提供 TypeScript 后端和管理面板,可用作无头 CMS 或构建应用程序。它具有 GraphQL、REST 和本地 API,可定制的 ReactJS 管理界面,支持本地文件存储和上传、版本历史记录、草稿、字段级本地化、基于块的布局构建器、可扩展的 SlateJS 富文本编辑器等功能。

阅读更多
34
未分类

Gosub: 构建中的网页浏览器

2024-10-14

Gosub 是一款处于开发阶段的网页浏览器,该项目包含 HTML5/CSS3 解析器、文档树、渲染引擎等组件。该引擎旨在解析字节流,生成 HTML5 文档树和 CSS 样式表,并将其渲染到窗口或终端。目前,Gosub 可以解析并渲染简单的 HTML 页面,并支持部分 JavaScript 执行。

阅读更多
42
未分类

Vortex:用于处理压缩 Arrow 数组的工具包

2024-10-14

Vortex 是一个用于处理内存、磁盘和网络传输中的压缩 Apache Arrow 数组的工具包,旨在成为列式文件格式的 LLVM。它提供可扩展的编码、级联压缩、计算内核、统计信息和序列化功能,同时与 Apache Arrow 完全兼容,目标是成为 Apache Parquet 的继承者,实现更快的随机访问读取和扫描速度。

阅读更多
30

clipscreen: 简化屏幕共享的虚拟显示器工具

2024-10-14

clipscreen 是一款能够将部分屏幕镜像到虚拟显示器的应用程序,方便用户进行屏幕共享。它会在屏幕上创建一个绿色矩形框,框选区域内的内容会被镜像到虚拟显示器上。用户可以使用任何屏幕共享工具共享虚拟显示器的内容,而无需共享整个屏幕或在不同窗口之间切换。

阅读更多
32
未分类 屏幕镜像

GitHub - NyuB/ocli: OCaml CLI 迷你框架

2024-10-14

ocli 是一个受 Elm 启发的 OCaml CLI 迷你框架,提供了一系列核心库和示例应用。其中,tea 库实现了 Elm 风格的应用结构,tty 库封装了 OCaml Stdlib 的 termios 功能和 ANSI 控制序列,components 库提供了可组合的 ANSI 部件。此外,ocli 还包含一个名为 rebase_edit 的交互式 Git rebase 编辑器,以及一个名为 newbase 的 bash 包装器。

阅读更多
30
未分类 CLI 框架 Elm

GitHub - DarkStar1982/Orbidium

2024-10-14

Orbidium 是一款使用 NASA MPC 数据库演示小行星轨道的应用程序。它提供基本的 2D 渲染功能,并能够解析 MPC 数据文件。要运行和测试该应用程序,需要安装 Django,使用命令行执行数据库迁移和数据填充,最后运行本地服务器。

阅读更多
26
未分类 轨道

Huly: 一体化项目管理平台

2024-10-14

Huly平台是一个强大的框架,旨在加速业务应用程序的开发,例如CRM系统。该平台包含聊天、项目管理、客户关系管理(CRM)、人力资源管理(HRM)和招聘管理系统(ATS)等应用程序。 用户可以使用Docker轻松地在自己的服务器上托管Huly。

阅读更多
19
未分类
1 2 7 8 9 11 13 14 15 44 45