搜索技巧 海洋云增白 开源地图 AI 搜索答案 沙丘魔堡2 压缩机站 自由职业 policy 小团队 颈挂空调 Chumby 个人电脑 极端主义 团队 PostgreSQL AI工具 证券 DirectX DrawingPics 化学 KDE 披萨农场 多动症 植物学 分析化学 Three.js 大会 残疾人学校 初创 QB64 更多

训练生成式人工智能模型的大型 GPU 集群测试和运行指南 (www.together.ai)

这篇文章详细介绍了 Together AI 开发的验收测试流程，该流程已成功应用于包含数千个 GPU 的集群。文章指出，随着人工智能能力的不断扩展，确保硬件基础设施（尤其是 GPU 集群）达到最高的可靠性和性能标准变得越来越重要。文章介绍了 GPU 集群测试的重要性、Together AI 的测试流程以及测试后的可观察性。

FlashAttention-3：异步和低精度实现快速、精确的注意力机制 (www.together.ai)

FlashAttention-3是一种针对英伟达Hopper GPU架构优化的注意力机制算法。它利用了异步Tensor Core和TMA、warp specialization、GEMM与softmax操作交织以及FP8低精度计算等技术，显著提升了注意力机制的速度和效率。相比FlashAttention-2，FP16精度下速度提升1.5-2倍，FP8精度下接近1.2 PFLOPS，且量化误差更小。

Dragonfly：一种具有多分辨率缩放功能的大型视觉语言模型 (www.together.ai)

文章介绍了一种名为Dragonfly的全新指令微调视觉语言架构，该架构通过多分辨率缩放和选择来增强多模态推理，同时兼顾上下文效率。文章发布了两个新的开源模型Llama-3-8b-Dragonfly-v1和Llama-3-8b-Dragonfly-Med-v1，并通过示例展示了Dragonfly在视觉问答、图像描述和医学影像分析等方面的出色表现。