この記事では、GeminiなどのAIコード生成モデルと人間のエンジニアの生産性を比較検討しています。現状では、個々のエンジニアの方が効率的かもしれませんが、AIモデルのコストは下がり、能力は向上しています。将来、多数のAIモデルが連携し、AI向けに最適化されたコードベースと開発ツールを使用することで、人間のチームをはるかに凌駕する効率性を達成するでしょう。この記事は、ソフトウェアエンジニアリング業界が工業化に向かい、エンジニアの役割はAIを管理・監督する「工場監督者」へと変化すると予測しています。
2024年のAI博士号取得者で、LLMに関する著書もある著者が、大規模言語モデル（LLM）に対する独自の視点について語っています。彼はLLMを完全に否定するわけではありませんが、その能力と限界を慎重に検討しています。彼は、LLMを執筆補助、情報検索、技術的問題解決などにどのように使用しているかを詳しく説明するとともに、LLMの欠点、つまりエラーを起こしやすい、深い思考能力が不足している、既存の意見に過度に依存しているといった点を率直に認めています。彼は、LLMは思考の代替物ではなくツールであり、効果的な使用には批判的思考と慎重な検証が必要だと主張しています。
Appleは、Genmoji、画像生成ツール、ライティングツールなどのAI機能を向上させながら、ユーザーのプライバシー保護に尽力しています。同社は差分プライバシー技術を用いて、ユーザーデータを匿名化し、Genmojiの人気プロンプトなど、集約されたトレンド情報のみを収集します。メールなどの長文テキストを処理するAI機能については、合成データを使用します。これは、実際のメールコンテンツにアクセスすることなく、モデルのトレーニングとテストのために、実際のユーザーデータパターンを模倣する合成データを生成するものです。これにより、Appleは製品体験を向上させながら、ユーザーのプライバシーを最優先事項として維持することができます。
この記事は、エントロピーの概念を分かりやすく説明しています。エントロピーは単なる「無秩序」ではなく、システム内の不確実性の尺度です。情報理論の観点からは、エントロピーはシステムの状態を伝えるために必要なビット数を表し、統計力学の観点からは、特定のマクロ状態に対応するミクロ状態の数に関連しています。箱の中のボールの例を用いて、マクロ状態、ミクロ状態、粗視化がエントロピーに及ぼす影響を説明し、時間が方向性を持つ理由を説明します。宇宙は低エントロピーの状態から始まり、システムは高エントロピーの状態へと進化しますが、これは物理法則が不可逆的であるためではなく、高エントロピーの状態の方がはるかに確率が高いためです。この記事では、一見エントロピーに反する現象、例えば油と水の分離についても触れ、システムのすべての属性を考慮するとエントロピーは実際には増加することを示しています。
既存の音声と音楽生成モデルは、モダリティ間の独立した動作、高品質なマルチモーダル訓練データの不足、多様な入力の統合の困難など、限界を抱えています。統合拡散トランスフォーマーモデルであるAudioXは、柔軟な自然言語制御とテキスト、ビデオ、画像、音楽、音声などのシームレスな処理により、高品質な汎用音声と音楽を生成することで、これらの課題に対処します。その主要な革新は、クロスモーダル表現学習を向上させるマルチモーダルマスクトレーニング戦略です。データ不足を克服するために、2つの包括的なデータセットが作成されました。vggSound-caps（19万の音声キャプション）とV2M-caps（600万の音楽キャプション）です。広範な実験により、AudioXは、統一アーキテクチャ内で多様な入力モダリティと生成タスクを処理する際の汎用性において、最先端の専門モデルに匹敵するか、それを上回ることが示されています。
MITとハーバード大学医学部の研究により、免疫分子IL-17は、扁桃体と体性感覚皮質に作用することで、それぞれ不安を誘発し、社会的行動を促進することが明らかになりました。この研究は、免疫系と神経系の密接な相互作用を明らかにし、IL-17は炎症を促進する前に、神経調節物質として進化した可能性を示唆しています。この発見は、自閉症やうつ病などの神経疾患に対する新しい治療法へのアプローチを提供し、免疫系を標的とすることで脳機能に影響を与える可能性を示しています。
OpenAIに続いて、GoogleはGeminiモデルがAnthropicのモデルコンテキストプロトコル（MCP）をサポートすると発表しました。MCPは、ビジネスツール、ソフトウェア、コンテンツリポジトリ、アプリケーション開発環境など、さまざまなデータソースにAIモデルが直接アクセスできるようにし、より複雑なタスクの完了を可能にします。この動きは、MCPがオープンスタンダードとして業界で受け入れられていることを示しており、AIアプリケーションの開発と普及を加速すると予想されます。Google DeepMindのCEOであるDemis Hassabisは、Anthropicや他の企業との協力によるMCPの更なる開発に期待を寄せています。
今夏、Wild Dolphin Project、ジョージア工科大学、そしてGoogleは、大西洋のバンドウイルカの音声データで訓練された音響モデルであるDolphinGemmaをオープンソースとして公開します。その潜在能力は他の鯨類の研究にも及びます。研究者たちは、異なる種の鳴き声に合わせて微調整することができます。このツールを提供することで、研究者たちは自身の音響データセットを分析し、パターン発見を加速させ、これらの知的な海洋哺乳類に対する理解を深めることができます。この共同研究は、フィールドリサーチ、エンジニアリングの専門知識、最先端技術を組み合わせることで、人間とイルカのコミュニケーションのギャップを埋めるためのエキサイティングな可能性を開きます。
リソースの制約により、DeepSeekチームは内部推論エンジンを直接オープンソース化することを避け、既存のオープンソースプロジェクトとの協業を選択しました。彼らはエンジンから再利用可能なコンポーネントを抽出し、独立したライブラリとして貢献し、最適化戦略も共有します。このアプローチは、オープンソースコミュニティへの持続可能な貢献、AGI開発の促進、その恩恵を全人類が享受することを目指しています。将来の取り組みでは、新しいモデルリリース時のDay-0 SOTAサポートを実現するため、オープンソースコミュニティとハードウェアパートナーとの推論エンジニアリングの同期を優先します。
Pillar Securityの研究者たちは、「ルールファイルバックドア」と呼ばれる危険な新しいサプライチェーン攻撃ベクトルを発見しました。この手法により、ハッカーは、CursorやGitHub CopilotなどのAIコードエディターで使用される一見無害な設定ファイルに悪意のある命令を挿入することで、AI生成コードを密かに侵害することができます。隠されたUnicode文字と高度な回避技術を利用して、攻撃者はAIを操作し、コードレビューを回避する悪意のあるコードを挿入します。この攻撃は事実上目に見えず、悪意のあるコードを密かに伝播させます。AI自体を武器化することで、この攻撃は開発者の信頼できるアシスタントを不本意な共犯者に変え、数百万人のユーザーに影響を与える可能性があります。
科学者たちは、進化の新しい理論「機能情報」を提案しています。この理論は、選択プロセスが複雑なシステムの進化を推進しており、生物学に限らず、鉱物、元素、さらには宇宙全体にも適用できることを示唆しています。この進化は常に漸進的なものではなく、生物進化史における重要な転換点のように、飛躍的に起こることもあります。「機能情報」の概念は、宇宙の複雑性の起源と生命進化の方向性を理解するための新たな視点を与え、宇宙生物学、腫瘍学などの分野の研究に新たな道を切り開きます。
Model Context Protocol（MCP）は、サードパーティツールとデータをLLMと統合するためのデファクトスタンダードとして急速に普及しています。しかし、この利便性には、セキュリティとプライバシーに関する大きなリスクが伴います。この記事では、不十分な認証、ユーザー提供コードの実行、大規模データセットと自律性におけるLLMの固有の制限など、いくつかの脆弱性を詳細に説明しています。MCPは、機密データの漏洩や意図しないデータの集約につながる可能性があり、企業セキュリティにとって課題となります。著者は、開発者、アプリケーション、ユーザーが協力してMCPのセキュリティを向上させ、潜在的なリスクを軽減するために注意深く使用すべきだと主張しています。
大規模言語モデル（LLM）は、単に訓練データの統計的パターンを記憶し、繰り返す「確率的オウム」に過ぎないと、一部の人々から却下されてきました。しかし、最近の研究は、より微妙な現実を明らかにしています。研究者たちは、これらのモデルの中に複雑な内部「回路」を発見しました。これは、特定の種類の問題を解決するために自己学習されたアルゴリズムです。これらの回路は、訓練データにはない状況への一般化を可能にします。例えば、韻を踏む詩句の生成、さらにはこれらの詩句の構造を積極的に計画することさえできます。制限は残っていますが、これらの発見は「確率的オウム」という物語に異議を唱え、モデルの知性の本質に関するより深い疑問を提起しています。LLMは、完全に新しい問題を解決するために、新しい回路を独立して生成できるのでしょうか？
Metaが最近リリースした大規模言語モデルファミリーLlama 4、特にMaverickバージョンは、OpenAIのGPT-4oやGoogleのGemini 2.0 Flashなどのモデルを凌駕する優れたベンチマーク結果でAI業界を驚かせました。しかしすぐに、ベンチマークで使用されたMaverickと一般公開されたものとの間に動作の差異が発見され、Metaの不正行為疑惑につながりました。Metaはベンチマークで特別に調整されたバージョンを使用していたことを認め、修正されていないLlama 4 MaverickモデルをLMArenaに追加しました。その結果、ランキングは大幅に低下しました。この事件は、大規模モデルのベンチマークにおける透明性の問題を浮き彫りにし、モデル評価方法の見直しを求める声が高まっています。
Lotka-Volterra方程式、別名Lotka-Volterra捕食者・被食者モデルは、一対の一階非線形微分方程式であり、2つの種が相互作用する（一方を捕食者、もう一方を被食者とする）生物システムの動態を記述するために頻繁に使用されます。このモデルは、被食者が無制限の餌を持ち、捕食されない限り指数関数的に繁殖すると仮定します。捕食率は、捕食者と被食者が遭遇する速度に比例します。捕食者の個体数増加は、捕食率に依存し、自然死亡率の影響を受けます。このモデルの解は決定論的で連続的であり、捕食者と被食者の世代が継続的に重複することを意味します。Lotka-Volterraモデルは、捕食者と被食者の個体数の変動を予測し、個体数均衡の特徴を明らかにします。つまり、被食者の均衡密度は捕食者のパラメータに依存し、捕食者の均衡密度は被食者のパラメータに依存します。このモデルは、経済学やマーケティングにも応用されており、複数の競合他社、補完的なプラットフォーム、製品が存在する市場の動態を記述しています。
政治神経科学者レオア・ズミグロッドの著書『イデオロギー脳：柔軟な思考の急進的科学』は、イデオロギーが人間の脳と体にどのように影響するかを探っています。神経画像処理と心理学的研究を用いて、ズミグロッドは、イデオロギーが認知の柔軟性と反応性にどのように影響するかを明らかにし、極端なイデオロギーを扁桃体などの特定の脳領域の活動と関連付けています。この本は、認知の柔軟性とドーパミンとの関係、そして創造性と認知の柔軟性を育むことで、イデオロギーの影響に対する抵抗力を高める方法についても考察しています。ズミグロッドの研究は、イデオロギー的思考を単なる「無思考」とみなすという従来の概念に挑戦し、複雑な認知プロセスとして提示しています。
SkyworkAIは、Skywork-OR1-Math-7B、Skywork-OR1-32B-Preview、Skywork-OR1-7B-Previewを含む、強力なオープンソース推論モデルシリーズSkywork-OR1をリリースしました。大規模なルールベースの強化学習を用いてトレーニングされたこれらのモデルは、数学とコードの推論において優れた性能を発揮します。Skywork-OR1-Math-7Bは、AIME24とAIME25のテストで同規模のモデルを大幅に上回りました。Skywork-OR1-32B-Previewは、数学とコーディングのタスクでDeepseek-R1のパフォーマンスレベルに達しました。Skywork-OR1-7B-Previewも、同規模のモデルを上回っています。完全なモデルとトレーニングスクリプトは今後数日でオープンソース化される予定です。
この記事では、機械学習の分類タスクにおける損失関数としての交差エントロピーの役割を明確に説明します。情報理論の概念である情報量とエントロピーから始め、交差エントロピーを構築し、KLダイバージェンスと比較します。そして、交差エントロピーと最尤推定との関係を数値例を用いて示し、機械学習におけるその応用を明確にします。
OmniSVGは、事前トレーニング済みのビジョンランゲージモデル（VLM）を活用した、エンドツーエンドのマルチモーダルSVGジェネレーターの最初のファミリーです。単純なアイコンから複雑なアニメキャラクターまで、複雑で詳細なSVGを生成できます。このプロジェクトでは、MMSVG-IconとMMSVG-Illustrationのデータセットと研究論文を公開しました。今後の計画には、コードと事前トレーニング済みモデル、MMSVG-Characterデータセット、および技術レポートを含むプロジェクトページの公開が含まれます。
この記事は、AIトレーニングにおける著作権の影響について掘り下げています。一部の人々は、著作権で保護された作品を用いたAIトレーニングにはライセンスが必要であり、「学習権」を確立すべきだと主張しています。著者はこれを反論し、AIトレーニングはデータを分析するだけでコピーではないと述べています。中心的な問題は、AIによるアーティストの労働搾取であり、著作権侵害ではありません。著者は、著作権の拡大ではなく労働者の権利を擁護し、後者は大企業に利益をもたらし、独立系アーティストを損なうためです。
OpenAIに先行された後、Google DeepMindがGemini 2.5で鮮やかに復活しました。主要なAIベンチマークテストで圧倒的な勝利を収めています。Gemini 2.5は、優れたパフォーマンス、低コスト、巨大なコンテキストウィンドウ、そしてGoogleエコシステムとのシームレスな統合を誇ります。Googleの優位性はテキストにとどまらず、画像、動画、音楽、音声生成においても卓越性を示し、競合他社を圧倒しています。この記事ではGemini 2.5の多くの利点と、Google DeepMindがAI分野で総合的にリードしていることを強調しています。
元OpenAI社員グループが、イーロン・マスクのOpenAIに対する訴訟を支持する意見書を提出、非営利組織から営利企業への転換計画に反対しました。彼らは、これが人類全体に利益をもたらすというOpenAIの本来の使命に反すると主張しています。複数の元社員は以前、OpenAIの透明性と説明責任の欠如を批判し、AI支配への無謀な競争を警告していました。OpenAIは、非営利部門は残るものの、公益法人（PBC）への移行を進めていると回答しました。この訴訟は、OpenAIの組織構造とAI開発への影響に焦点を当てており、AI分野における商業化と社会的責任の複雑な相互作用を浮き彫りにしています。
著者は、子供の頃、小川にダムを作った経験を用いて、AI開発における最大限の努力の限界を説明しています。最初は小さなダムを苦労して作ったが、後でシャベルを使う方が効率的だと気づきました。しかし、この成功によって、探索的な側面が減りました。同様に、仕事や人生において、目標（高給の仕事など）を達成すると、ゲームのルールが変わります。著者は、AI開発はこの教訓に留意すべきであり、強力なAIを作るだけでなく、潜在的なリスクや未開拓の分野にも注目すべきだと主張しています。潮だまりで必死に生き残ろうとする小さな貝を観察するのと同様に、細部への注意が重要です。Anthropicの最近の教育アプリケーションに関するレポートも、この点に気づいているようです。
大規模言語モデル（LLM）は、高度な自律性を持つタスクを実行できるようになってきていますが、顧客サポートなどの高価値なユースケースへの展開には、信頼性と一貫性を優先する必要があります。研究によると、高度な自律性を持つエージェントは理想的な環境では優れていますが、現実世界の顧客サポートには、知識のギャップ、予測不可能なユーザー行動、時間的な制約などの課題があります。これを解決するために、新しい指標であるpass^kが開発され、シミュレートされた顧客とのやり取りを通じてテストされました。その結果、高度な自律性を持つエージェントは、複雑なタスクにおいて信頼性の問題を抱えていることが示されました。解決策は？「Give Fin a Task」エージェントです。これは、エージェントの自律性を制限し、ステップバイステップの手順を用いることで信頼性を向上させ、複雑なタスクをより単純なモジュールに分解します。このアプローチは、現実世界の顧客サポートシナリオにおけるLLMのパフォーマンスを向上させるための有望な方法です。
新たな研究によると、ボノボは複雑な方法で鳴き声を組み合わせて独特のフレーズを形成し、この種の構文はこれまで考えられていたよりも進化的に古いことを示唆している。研究者らは、ボノボの発声を観察し分析し、意味論的手法を用いることで、ボノボの鳴き声の組み合わせに非自明的な構成性があることを発見した。つまり、組み合わせの意味は、個々の部分の意味とは異なるということである。この発見は、人間の言語の独自性に疑問を投げかけ、人間の言語の複雑な構文はより古い祖先から由来している可能性を示唆している。
AIはすでにリアルな写真、動画、音声の生成をマスターしています。次の飛躍は？AIアバター—顔と声を組み合わせて話すキャラクターを作成することです。これは単なる画像生成と音声解説ではありません。AIは、唇の同期、表情、ボディランゲージの複雑な調整を学習する必要があります。この記事では、AIアバター技術の進化を探り、単一の写真に基づく初期モデルから、全身の動きとダイナミックな背景を生成する高度なモデルまでを解説します。また、AIアバターのコンテンツ制作、広告、企業コミュニケーションにおける応用と、より自然な表情、体の動き、現実世界とのインタラクションといった将来の方向性についても分析します。
子供の頃の小川にダムを作る遊びの比喩を用いて、著者はAI開発における最大限の努力と賢明な選択の間の緊張関係を探っています。最初は子供のように、小さな石や葉でダムを作ろうとしていましたが、最終的にはシャベルを使う方が効率的であることを発見しました。「勝利」が、遊びの範囲を狭めることを意味することもあります。同様に、AIの分野では、著者は投資銀行の職を必死に求めていましたが、成功した後、「できるだけ多くの金を稼ぐ」というゲームがもはや不可能であることに気付きました。圧倒的な力（自然、市場）に立ち向かうとき、最大限の努力は逆効果になる可能性があると主張しています。しかし、Anthropicの教育アプリケーションに関する最近のレポートは、潜在的なリスクへの意識の高まりを示唆しており、それは海岸で必死に生きようとする貝殻のようなものです。
午前2時のページャー義務と終わりのないアラートにうんざりしていませんか？ParityはAIを使用して、インフラストラクチャの問題の調査、根本原因分析、修復を自動化し、オンコールを過去のものにします。この製品は初期顧客から高い採用率を得ており、新しいカテゴリーを定義する可能性を秘めています。Parityは、Y Combinator、General Catalyst、Sugar Free Capitalなどのトップティア投資家、そしてMidjourneyやCrusoeなどの主要スタートアップの創設者や初期従業員からのエンジェル投資を受けています。
現在のAIモデルは膨大な中央集権化されたデータセットに依存しており、セキュリティとプライバシーに関する懸念を引き起こしています。EPFLの研究者たちは、データを中央集権化せずに分散型デバイスでAIモデルをトレーニングするために、フェデレーションラーニングを使用するライブラリByzFLを開発しました。ByzFLは悪意のあるデータを検出して軽減し、特に医療や輸送などのミッションクリティカルなアプリケーションにとって重要な堅牢性と安全性を確保します。信頼できるAIシステムを構築するための革新的なソリューションを提供します。
Appleの機械学習研究者たちは、Activation Transport (AcT)と呼ばれる新しい技術を開発しました。これは、LLMやテキストから画像への拡散モデルなど、大規模な生成モデルの出力を精密に制御する技術で、RLHFやファインチューニングのようなリソースを大量に消費するトレーニングを行う必要がありません。AcTは最適輸送理論を用いてモデルの活性化を制御し、最小限の計算オーバーヘッドでモダリティ非依存の制御を実現します。実験では、毒性の軽減、LLMにおける真実性の向上、画像生成におけるスタイルの制御において、著しい改善が示されました。AcTは、より安全で信頼性の高い生成モデルへの道を切り開きます。