tiny-llm: 1週間でLLMサービング - 実践的なチュートリアル

2025-04-28
tiny-llm: 1週間でLLMサービング - 実践的なチュートリアル

tiny-llmは、1週間でLLMサービングインフラストラクチャを構築する方法を説明するチュートリアルです。高レベルのニューラルネットワークAPIではなく、MLXの配列/行列APIに焦点を当て、ゼロから構築し、最適化を理解することに重点を置いています。このチュートリアルは、アテンションメカニズム、RoPE、グループ化されたクエリアテンションなどのコアコンセプトを網羅し、モデルのロードとレスポンスの生成へと進みます。現在、アテンション、RoPE、モデルのロードは完了しています。今後の章では、KVキャッシュ、量子化された行列乗算、Flash Attentionなどの最適化技術を深く掘り下げ、Qwen2などのモデルに対応する効率的なLLMサービングを目指します。

続きを読む

1991年冬季オリンピックゲームのリバースエンジニアリング:コピー保護とアンチデバッグの解明

2025-04-28

子供の頃のDOSゲーム「The Games: Winter Challenge」へのノスタルジアから、あるコンピューター科学者がリバースエンジニアリングの旅に出た。彼は、このゲームがコードホイールによるコピー保護とアンチデバッグ対策を採用しており、複数のリリースとクラックが存在することを発見した。詳細な分析により、コードホイールのチェックの複雑さが明らかになり、ゲームプレイを微妙に壊す隠れたコピー保護チェックが発見された。彼はコピー保護をすべて回避し、GOGなどで入手可能な壊れたバージョンを修正し、そのパッチツールを共有した。

続きを読む

PyXL:ハードウェアでPythonを実行、GPIOラウンドトリップ時間480ナノ秒

2025-04-28
PyXL:ハードウェアでPythonを実行、GPIOラウンドトリップ時間480ナノ秒

PyXLは、シリコン上で直接Pythonコードを実行するカスタムハードウェアプロセッサであり、インタープリタやJITコンパイラは不要です。Pythonコードをカスタムアセンブリにコンパイルし、カスタムパイプラインプロセッサ上で実行します。テストでは、驚くべき480ナノ秒のGPIOラウンドトリップ時間が測定され、MicroPythonよりも30倍以上高速です。これは、リアルタイム応答と決定論的なタイミングを必要とする高性能アプリケーション(リアルタイム制御システム、ML推論、ロボティクスなど)にPyXLが最適であることを示しています。

続きを読む
開発

テスラの苦境:EV市場の再編

2025-04-28
テスラの苦境:EV市場の再編

テスラの販売台数減少と市場シェア縮小が、他のEVブランドにチャンスを生み出している。記事では、CEOイーロン・マスクへの消費者の不満と、新型EVモデルの流入が主な要因として挙げられている。関税などの課題はあるものの、EV需要は依然として強く、多くの新型モデルが市場に参入し、競争力のある価格と改良された技術で消費者を惹きつけている。従来の自動車メーカーも積極的に参入し、より多くのEVオプションを提供することで、消費者の選択肢を広げている。

続きを読む
テクノロジー

巨大プログラムにおける理論の幻想:LLMとコード理解の限界

2025-04-28

ピーター・ナウアの論文は、巨大プログラムの「理論」はコードそのものではなく、それを構築したプログラマーが持つ深い理解であると主張しています。ライルのアナロジーを用いると、コードは道であり、プログラムを理解することはその道を歩くことに相当します。LLMは一見理論的に詳しいテキストを生成できますが、これは表面的なものに過ぎず、真の理解を欠いています。ナウアは、巨大プログラムを理解するには、その開発と保守に継続的に関与する必要があると強調しています。これは、コードやドキュメントを読むだけでは得られない知識です。

続きを読む

学術会議の危機:形式主義がイノベーションを阻害する?

2025-04-28

コンピュータサイエンスにおいて、トップレベルの学術会議は研究の価値を測る主要な指標となっていますが、その官僚化と形式主義の増大は、学術的イノベーションの活力を脅かしています。この記事は、会議が年次の「昇進試験」と化し、査読が研究の本質的な価値よりも形式的な規則に重点を置くようになり、多くの有望な革新的な研究が阻害されていると主張しています。著者は、会議の査読文化を変える必要性を訴え、学術的イノベーション自体に焦点を戻すことを提言しています。不要な官僚主義的な規則を廃止し、意思決定を当該分野のベテラン専門家に委ねることで、学術的進歩を促進すべきだと主張しています。

続きを読む
開発 学術会議

電子はなぜ原子核に落ちないのか?

2025-04-28
電子はなぜ原子核に落ちないのか?

古典物理学では、原子核の周りを回る電子はエネルギーを放射し、原子核にらせん状に落ち込み、原子が崩壊すると予測されています。しかし、量子力学は異なる説明を与えます。電子は明確な軌道を描くのではなく、確率雲の中に存在し、その位置と運動量はハイゼンベルクの不確定性原理に従います。電子が原子核に近づくにつれて、そのポテンシャルエネルギーは減少し、運動エネルギーが増加し、両者のバランスによって原子核への落下が阻止されます。確率密度プロットは電子が原子核の近くに存在する可能性が最も高いことを示していますが、動径確率プロットはボーア半径で確率が最も高いことを示しています。これは原子の安定性を説明し、量子力学と古典力学の根本的な違いを浮き彫りにしています。

続きを読む
テクノロジー 電子

シュタージの「Zersetzung」:東ドイツの活動家たちはどのように弾圧に抵抗したか

2025-04-28
シュタージの「Zersetzung」:東ドイツの活動家たちはどのように弾圧に抵抗したか

この記事は、ベルリンの壁崩壊前にシュタージの密告者や浸透工作に直面した東ドイツの政治活動家の経験を探ります。シュタージの侵入的なスパイ活動と混乱を招く戦術は、市民的不服従の可能性を著しく制限しました。それにもかかわらず、活動家たちは1989年に草の根革命を引き起こしました。インタビューに基づいて、この記事はシュタージの「Zersetzung(腐敗)」戦略を明らかにします。それは、対立の創出、活動の妨害、集団の孤立化を通して抵抗勢力を弱体化させるものでした。活動家たちは、支援ネットワーク、集団間の連帯、公開行動、潜在的な密告者の慎重な調査を通して抵抗しました。彼らの回復力は、弾圧の人道的コストと、極度の監視下にあっても草の根運動が予期せぬ成功を収めることを強調しています。

続きを読む

CleverBee:強力なLLM搭載AI研究アシスタント

2025-04-28
CleverBee:強力なLLM搭載AI研究アシスタント

CleverBeeは、ClaudeやGeminiなどの大規模言語モデル(LLM)、PlaywrightによるWebブラウジング、ChainlitによるインタラクティブなUIを利用した、強力なPythonベースのAI研究アシスタントです。Webをブラウジングし、コンテンツを抽出し、データをクレンジングし、ユーザーの研究トピックに基づいて調査結果を要約することで研究を行います。複数のLLMのサポート、自動Webブラウジング、コンテンツ処理、トークントラッキング、高度な構成可能性、LLMキャッシングなどの機能を備えています。macOSとLinuxで完全にサポートされています。

続きを読む

arXivLabs:コミュニティとの協働による実験プロジェクト

2025-04-28
arXivLabs:コミュニティとの協働による実験プロジェクト

arXivLabsは、共同作業者がarXivの新しい機能を直接ウェブサイトで開発・共有できるフレームワークです。arXivLabsに関わる個人や組織は、オープンさ、コミュニティ、卓越性、ユーザーデータのプライバシーという私たちの価値観を受け入れています。arXivはこれらの価値観にコミットしており、これらの価値観を共有するパートナーのみと協力しています。arXivコミュニティに利益をもたらすプロジェクトのアイデアをお持ちですか?arXivLabsの詳細をご覧ください。

続きを読む
開発

エージェントオレンジの残された遺産:米国援助削減の中で続くベトナムの浄化への闘い

2025-04-28
エージェントオレンジの残された遺産:米国援助削減の中で続くベトナムの浄化への闘い

ベトナム戦争終結から数十年後も、エージェントオレンジの壊滅的な影響は、数百万人のベトナムの人々を苦しめ続けています。2000年代半ばに米国が浄化への資金提供を開始したものの、トランプ政権時代の対外援助削減は、これらの重要なプロジェクトに影を落としており、何百万人もの犠牲者が不安定な状況に置かれています。浄化は資金不足と人員削減に直面しており、長期的な健康への影響に関する科学的知見も不完全です。この記事は、グエン・タイン・ハイ氏のような人々の苦境を浮き彫りにし、エージェントオレンジによって引き起こされる持続的な苦しみと、変化する米国の政策がベトナムの人々に与える深い影響を示しています。

続きを読む

DARPA、AIで数学研究を加速化を目指す

2025-04-28
DARPA、AIで数学研究を加速化を目指す

米国防高等研究計画局(DARPA)は、数学の進歩が遅すぎるとして、AIを活用した研究加速プロジェクトexpMathを開始した。AIによる数学的抽象概念の提案と証明を可能にする「共同執筆者」AIの開発を目指す。AIは基礎数学では優秀だが、高度な概念の扱いは大きな課題。プロジェクトの成功は、大規模言語モデルを超えたアプローチや、視覚・聴覚入力などの代替手法の探求にかかっている。

続きを読む
AI

英国核融合企業First Light Fusion、戦略転換:原子炉建設計画を断念し、技術ライセンスへ

2025-04-28
英国核融合企業First Light Fusion、戦略転換:原子炉建設計画を断念し、技術ライセンスへ

資金調達の問題により、英国の核融合企業First Light Fusionは最初の原子炉建設計画を断念し、企業価値が60%減少しました。電磁石を使って燃料セルに小さな発射体を高速で発射する「射出融合」技術は、発電所の開発にはコストがかかりすぎることが判明しました。代わりに、First Lightは、核融合反応を増強する「増幅器」技術を他の原子力企業にライセンス供与することにしました。この戦略転換は、より資本効率の良いモデルと迅速な収益化を目指しています。この決定は、中国の核融合技術の進歩による競争激化の状況下で行われ、この有望だが複雑なエネルギー源の商業化における課題を浮き彫りにしています。

続きを読む
テクノロジー

Boxie:3歳児のためのオフラインオーディオプレーヤー -自作-

2025-04-28
Boxie:3歳児のためのオフラインオーディオプレーヤー -自作-

Game Boyにインスパイアされた父親が、3歳の息子のためのオフラインオーディオプレーヤーを自作しました。市販品の欠点を解消するためです。Boxieと名付けられたこのプロジェクトは、ESP32-S3マイクロコントローラー、Micro SDカードストレージ、カスタム設計のPCBと3Dプリント筐体を用いています。記事では、電子工作の学習からSMD部品のはんだ付け、EasyEDAを使ったPCB設計、Fusion 360を使った3Dモデリング、ファームウェアの記述に至るまでの全プロセスを詳細に説明しています。その結果、堅牢でオフライン、子供にも使いやすいオーディオプレーヤーが完成し、素晴らしいDIYスキルと親としての献身を披露しています。

続きを読む
ハードウェア

SFアート界のレジェンド、デビッド・シュラインコファー氏逝去

2025-04-28
SFアート界のレジェンド、デビッド・シュラインコファー氏逝去

著名なSFイラストレーター、デビッド・シュラインコファー氏がALSのため74歳で亡くなりました。40年以上にわたるキャリアで、彼の独特のエアブラシ技法は、『トランスフォーマー』や『シムシティ』などのSF小説、雑誌、ゲームの表紙や挿絵を飾りました。代表作『トゥモロー・アンド・ビヨンド』など、彼の作品はSFアート界に多大な影響を与え、その死は深く悼まれます。

続きを読む

イーロン・マスクのテスラFSDに関する主張:事故待ち?

2025-04-28
イーロン・マスクのテスラFSDに関する主張:事故待ち?

イーロン・マスクは、テスラのフルセルフドライビング(FSD)が年間約1回、1万マイルを介入なしで走行できると豪語しています。しかし、これはポジティブではありません。彼のロボタクシーが安全ではないことを示唆しています。平均的なテスラオーナーは、500マイルごとに介入が必要だと報告しており、マスクの主張をはるかに下回ります。マスクの数字を受け入れたとしても、彼のロボタクシーは毎年少なくとも1回は事故を起こすでしょう!人間のドライバーは平均して10万マイルに1回事故を起こしますが、ウェイモは230万マイルに1回という割合を誇っています。さらに、ロボタクシーの乗客がどのようにして事故を回避できるのでしょうか?

続きを読む
テクノロジー

シリコンバレーのオープンシークレット:ネットワークが従来のテクノロジーを凌駕した方法

2025-04-28
シリコンバレーのオープンシークレット:ネットワークが従来のテクノロジーを凌駕した方法

シリコンバレーの優位性は偶然ではありません。この記事では、シリコンバレーの台頭をボストンのルート128と比較し、シリコンバレーのオープンネットワーク、ダイナミックな文化、そして繁栄するベンチャーキャピタルを重要な差別化要因として強調しています。ボストンの大規模で閉鎖的なテクノロジー企業とは異なり、シリコンバレーは人材の流動性、情報共有、実験的なイノベーションを促進し、強力な相乗効果を生み出しています。著者は、インド系企業家協会(TiE)の例を用いて、オープンネットワークの力を示し、ボストンなど優れた大学や研究機関を持つ地域でも、同様にオープンなエコシステムがなければ競争が難しいことを示しています。

続きを読む
テクノロジー

革命的な高温合金:銅ベース材料におけるブレークスルー

2025-04-28
革命的な高温合金:銅ベース材料におけるブレークスルー

アメリカ陸軍研究所(ARL)、リーハイ大学などの研究者らが、極高温下で比類のない安定性を示す新しい銅ベース合金を開発しました。この画期的な成果は、Taリッチな原子二層によって安定化された独自のCu₃Li析出構造によるもので、結晶粒成長を防ぎ、高温性能を劇的に向上させています。ニッケルベース超合金の高温耐性と銅の優れた導電率を組み合わせることで、この合金は、熱交換器、高度な推進システム、超音速技術などの用途に期待が持たれています。研究チームは、粉末冶金とクライオミルを用いて合金を合成し、800℃で1万時間におよぶアニール試験を実施するなど、厳格な試験を行い、長期的な安定性とクリープ抵抗を確認しました。この合金は特許を取得しており、特に防衛用途における戦略的重要性を示しています。

続きを読む
テクノロジー 銅合金

AAAゲームは本当に劣化しているのか?データが語る真実

2025-04-28
AAAゲームは本当に劣化しているのか?データが語る真実

著者は当初、AAAゲームの質が低下していると信じ、オープンワールドゲームと続編の増加が原因だと仮定していました。しかし、IGDBデータベースのデータ分析の結果、この仮説は否定されました。データは、AAAオープンワールドゲームと大型続編の数は2010年代後半にピークに達し、それ以降減少していることを示しています。近年、AAAオープンワールドゲームの評価はやや低下していますが、全体的には他のAAAゲームタイプと比較して遜色ありません。著者は、ゲームジャンル自体ではなく、個人の認識の変化が、質の低下という感覚を生み出していると結論付けています。

続きを読む

国立公文書館がUAP記録を公開

2025-04-28
国立公文書館がUAP記録を公開

アメリカ国立公文書館(NARA)は、2024年国防権限法に基づき、様々な政府機関から移管された未確認異常現象(UAP)に関する新たな記録を公開しました。これらの文書は、現在NARAのUAPコレクションの一部となっており、オンラインで閲覧可能です。この公開は、公文書館の透明性へのコミットメントを反映しており、継続的な更新が期待されます。

続きを読む
テクノロジー 国立公文書館

AI駆動型医薬品開発:低分子化合物NCT-503がアルツハイマー病治療に光明

2025-04-28
AI駆動型医薬品開発:低分子化合物NCT-503がアルツハイマー病治療に光明

カリフォルニア大学サンディエゴ校の研究者らは、AIを用いてPHGDH酵素を標的とする低分子化合物NCT-503を発見し、アルツハイマー病のマウスモデルにおける疾患進行を軽減することを示しました。NCT-503は血液脳関門を通過し、マウスの実験で記憶力と不安症状を大幅に改善しました。自然発症アルツハイマー病の完全な動物モデルがないなどの限界はありますが、結果はNCT-503が潜在的な治療薬となる可能性を示唆しており、更なる開発と臨床試験への道を開きます。

続きを読む

平均性能をめぐる大論争:幾何平均 vs. 調和平均

2025-04-27
平均性能をめぐる大論争:幾何平均 vs. 調和平均

コンピュータアーキテクチャにおいて、平均性能の計算方法をめぐる長年の議論がある。HennesseyとPattersonの画期的論文は、その望ましい数学的特性から幾何平均を提唱している。しかし、最近の論文では幾何平均の物理的意味に疑問を呈し、「等時間調和平均速度向上」を代替案として提案している。著者は、調和平均は、ワークロードを逐次実行した場合の総速度向上に等しいため、現実世界のシナリオをより適切に反映すると主張する。しかし、これは実際にはワークロードの実行時間の偏りを無視しており、その物理的意味は多くの場合無関係となる。論文は、ワークロードの正確な組み合わせと重みがわからない限り、単一の数字による平均値ではマシンを完全に比較することはできず、幾何平均は比較の容易さと広く認知されていることから妥当な選択肢として残ると結論付けている。

続きを読む

スタンフォード研究所:シリコンバレーの揺り籠

2025-04-27
スタンフォード研究所:シリコンバレーの揺り籠

1950年代初頭、スタンフォード大学は遊休地を巧みに活用し、アメリカで最初の郊外オフィスパークの一つであるスタンフォード研究所を設立しました。この動きは、大学の財政難を解決しただけでなく、シリコンバレーの隆盛を予想外の形で促進しました。HPやロッキード・マーティンといったテクノロジー企業を誘致し、大学との緊密な連携を築くことで、研究所は技術革新と人材育成を促進し、今日の世界的なテクノロジー業界の現状を形作りました。しかし、その成功は、パロアルトにおける深刻な住宅不足と雇用機会の不均衡という負の影響も生み出しました。

続きを読む
テクノロジー テクノロジーパーク

レトロゲームUIショーケース:80年代へのタイムトリップ

2025-04-27

この記事では、コモドール64、ZXスペクトラム、アムストラッドCPCなど、80年代のクラシックなホームコンピューターやゲーム機のユーザーインターフェースのスクリーンショットを多数紹介しています。スクリーンショットは、BASIC、FORTH、ASMなどのプログラミング言語にまたがるさまざまなゲームやプログラムのUIを示しています。BoulderdashやBomb Jackなどのクラシックゲームも含まれており、当時のシンプルながらも魅力的なUIデザインが示されています。

続きを読む

私の肩の上の天使と悪魔:プログラマーのジレンマ

2025-04-27

プログラマーが、楽しみのためにコーディングすることを推奨する天使と、富と成功を求めることを促す悪魔との間の内なる葛藤を語ります。子供の頃のコンピューターゲームへの情熱から大学卒業まで、彼のプログラミングの旅は常に学習と探求を伴っていました。しかし、「ハッスル」文化の影響を受け、彼はしばしばスタートアップの魅力に誘惑され、情熱と利益の間で揺れ動きます。最終的に彼は、両方のバランスを取り、燃え尽き症候群を避け、持続可能な成長のためにいつ悪魔の声を聞くべきかを判断することが重要だと気づきます。

続きを読む
開発

ウェズリーと奴隷制度:18世紀の良心

2025-04-27

1774年、ジョン・ウェズリーは「奴隷制度についての考察」を発表し、当時横行していた大西洋奴隷貿易を痛烈に批判しました。この文章は、アフリカでの誘拐や強制連行、船旅中の非人道的な扱い、プランテーションでの容赦ない弾圧など、奴隷貿易の残酷さを克明に描写しています。ウェズリーは多くの第一級資料を用い、奴隷制度の正当性を否定し、それが自然の正義と人道に反することを指摘し、この忌まわしい貿易の終焉を訴えています。この力強い著作は、18世紀における奴隷制度への深い省察であり、現代への厳しい警告となっています。

続きを読む

arXivLabs:コミュニティとの協働による実験プロジェクト

2025-04-27
arXivLabs:コミュニティとの協働による実験プロジェクト

arXivLabsは、共同作業者がarXivの新しい機能を直接当社のウェブサイトで開発および共有できるフレームワークです。arXivLabsに携わる個人および組織は、オープン性、コミュニティ、卓越性、ユーザーデータのプライバシーという私たちの価値観を受け入れています。arXivはこれらの価値観に尽力しており、それらを遵守するパートナーのみと協力しています。arXivコミュニティを強化するアイデアをお持ちですか?arXivLabsの詳細をご覧ください。

続きを読む
開発

パイプオルガン:巨大なホイッスルボックス

2025-04-27
パイプオルガン:巨大なホイッスルボックス

パイプオルガンは、本質的に巨大なホイッスルボックスです。各パイプは、ふいごまたはブロワーから供給される圧縮空気で満たされた中空のウインドチェストの上にあります。コンソール上の各ストップは、特定の音色のパイプのセット(ランク)を表し、キーボード上の各音符に異なるパイプがあります。ストップを引くと、これらのパイプの下にあるスライダーが作動し、それらが音源になります。ウインドチェストには、キーボードに機械的にリンクされたバルブ(パレット)もあります。これらは空気の流れを制御します。ストップがオンになっていても、キーがパレットを作動させ、圧縮空気をパイプに解放するまで、音は発生しません。これが音を生成します。すべてのパイプオルガンはユニークで、音の種類、部屋のサイズ、美観、予算などを考慮して、購入者の仕様に合わせてカスタムメイドされています。

続きを読む
その他 楽器 音響

NetBSDのi486SX向けFPUエミュレーション復活

2025-04-27
NetBSDのi486SX向けFPUエミュレーション復活

このレトロコンピューティングプロジェクトは、ハードウェアFPUを持たないレガシー486SXプロセッサ向けに、NetBSDカーネルへのx87浮動小数点ユニット(FPU)エミュレーションのサポートを復活させます。NetBSD 10.x以降で元のMATH_EMULATEオプションを復活させ、FPUエミュレーションサポートをカーネルから削除したコミットdfe83e0で導入された変更を元に戻し、修正します。このプロジェクトは開発中であり、バグや機能の不完全さが含まれている可能性があります。自己責任で使用してください。

続きを読む

AIによるコード生成:実態よりも過大評価?

2025-04-27

この記事は、AIによるコード生成ツールの限界を批判しています。著者は、AI生成コードは一見うまく見えるかもしれませんが、実際には潜在的な危険が潜んでいると主張しています。AIは単に言語のパターンを予測してコードを生成するだけであり、真のエンジニアリング思考や実行環境の理解を欠いているため、生成されたコードは理解しにくく、デバッグが困難で、再利用性も低いのです。対照的に、モジュール化プログラミング、優れたオープンソースプロジェクトやドキュメントを参照することは、高品質なコード作成に役立ちます。最終的に著者は、ソフトウェアエンジニアリングの中核は思考と理解であり、単なるコード記述ではないと述べています。

続きを読む
1 2 275 276 277 279 281 282 283 595 596