Nvidia、7億ドルで買収したRun:aiをオープンソース化

2024-12-30

Nvidiaは、AI向けGPUクラウドのオーケストレーションを簡素化するソフトウェア企業Run:aiを7億ドルで買収し、直ちにソフトウェアをオープンソース化しました。この動きは、Nvidiaの市場支配力による反トラスト懸念への戦略的な対応と考えられ、テクノロジーへのより広いアクセスを可能にし、潜在的な規制問題を軽減します。Run:aiのソフトウェアは、企業がAI開発のためにGPUリソースを効率的に管理するのに役立ち、AIエコシステム全体の成長を促進します。

続きを読む
AI

LLMのメモリコストを最大75%削減する画期的な技術

2024-12-17

東京に拠点を置くスタートアップ企業Sakana AIは、「ユニバーサル・トランスフォーマー・メモリ」と呼ばれる画期的な技術を開発しました。これは、大規模言語モデル(LLM)のメモリ効率を大幅に向上させるものです。ニューラル・アテンション・メモリ・モジュール(NAMM)を使用して、冗長な情報を破棄し、重要な詳細を保持するインテリジェントなエディターとして機能します。これにより、メモリコストを最大75%削減し、さまざまなモデルやタスクでのパフォーマンスを向上させることができます。LLMを利用する企業にとって大きなメリットとなります。

続きを読む