推論LLMを通常の方法で枝刈りすると、思考トークンが増えて遅くなる場合があります。CoTの活性値を使うReasoning-Aware Compression（RAC）の仕組み、精度、実行時間、導入時の注意点を原論文から解説します。

FP8 rolloutとBF16 trainerでLLM強化学習の勾配がずれる原因を、量子化誤差と数値例から解説。誤差が初期には探索、後期にはbiasへ変わる理由と、AISの確率比・3指標・勾配補正を詳しく整理します。

Apple MPSのLLM推論で、生成長を少し増やすと最大21倍遅くなり、その後回復する現象を報告した論文を解説。KV Cache、prefillとdecode、メモリ使用量、M3 Max・M3 Proでの実験、Macでの測定方法を整理します。

LLMが望ましい回答から望ましくない回答へ傾く時点を、C・B・DベクトルとD-B方向から予測するFusion-Fission論文を解説。式の符号、3レジーム、転換時刻、Python実装、限界を図解します。

OP4KSRは、F16 VAEで圧縮した4K画像をパッチ分割せず1ステップで超解像する手法です。圧縮と最終画質の関係、2D-RoPEの周波数スケーリング、自己相関損失による32 pixel周期アーティファクト抑制を数式と実験結果から解説します。

Agent-Xとは、オンデバイスAIエージェントのprefillとdecodeをソフトウェアだけで高速化する手法です。PromptWeaverのKV Cache再利用、ExSpecの追加LLMなし投機的デコーディング、M4 Proで1.61倍となった実験結果と課題を解説します。

SARQCとは、LLMの学習後量子化で再構成誤差と重みドリフトを同時に抑え、重要チャネルを保護する手法です。RQCとの違い、AWQ・GPTQへの統合、INT4〜INT2の実験結果を論文ベースで解説します。

FlashAttentionとは、Self-Attentionを近似せず、GPUのHBMとSRAM間のIOを減らして高速・省メモリ化する手法です。tiling、online softmax、recomputation、Block-sparse FlashAttention、実験結果を論文ベースで解説します。

推論LLMを通常の方法で枝刈りすると、思考トークンが増えて遅くなる場合があります。CoTの活性値を使うReasoning-Aware Compression（RAC）の仕組み、精度、実行時間、導入時の注意点を原論文から解説します。

FP8 rolloutとBF16 trainerでLLM強化学習の勾配がずれる原因を、量子化誤差と数値例から解説。誤差が初期には探索、後期にはbiasへ変わる理由と、AISの確率比・3指標・勾配補正を詳しく整理します。

Apple MPSのLLM推論で、生成長を少し増やすと最大21倍遅くなり、その後回復する現象を報告した論文を解説。KV Cache、prefillとdecode、メモリ使用量、M3 Max・M3 Proでの実験、Macでの測定方法を整理します。

LLMが望ましい回答から望ましくない回答へ傾く時点を、C・B・DベクトルとD-B方向から予測するFusion-Fission論文を解説。式の符号、3レジーム、転換時刻、Python実装、限界を図解します。

OP4KSRは、F16 VAEで圧縮した4K画像をパッチ分割せず1ステップで超解像する手法です。圧縮と最終画質の関係、2D-RoPEの周波数スケーリング、自己相関損失による32 pixel周期アーティファクト抑制を数式と実験結果から解説します。

Agent-Xとは、オンデバイスAIエージェントのprefillとdecodeをソフトウェアだけで高速化する手法です。PromptWeaverのKV Cache再利用、ExSpecの追加LLMなし投機的デコーディング、M4 Proで1.61倍となった実験結果と課題を解説します。

SARQCとは、LLMの学習後量子化で再構成誤差と重みドリフトを同時に抑え、重要チャネルを保護する手法です。RQCとの違い、AWQ・GPTQへの統合、INT4〜INT2の実験結果を論文ベースで解説します。

FlashAttentionとは、Self-Attentionを近似せず、GPUのHBMとSRAM間のIOを減らして高速・省メモリ化する手法です。tiling、online softmax、recomputation、Block-sparse FlashAttention、実験結果を論文ベースで解説します。