AI研究・論文解説 SARQCとは？LLM量子化の精度劣化を抑える仕組みとAWQ・GPTQとの違い
SARQCはLLM量子化の校正時に重みドリフトを抑える手法です。RQCとの違い、AWQ・GPTQへの組み込み方、2bit・4bitの実験条件、理論の保証範囲と導入前の確認点を原論文v2から解説します。
2026-06
AI研究・論文解説 
AI研究・論文解説 FlashAttentionとは？AttentionをIO-awareに高速化する仕組み
FlashAttentionとは、Self-Attentionを近似せず、GPUのHBMとSRAM間のIOを減らして高速・省メモリ化する手法です。tiling、online softmax、recomputation、Block-sparse FlashAttention、実験結果を論文ベースで解説します。
AI研究・論文解説 WiCERとは？LLMの長文知識をWiki-memoryとして圧縮・改善する仕組み
WiCERとは、LLM向けに長文知識をWiki-memoryへ圧縮し、診断プローブで欠落事実を見つけて反復改善する手法です。RAG、full-context KV cache、compilation gapとの違いを論文ベースで解説します。
AI研究・論文解説 Patch Forcingとは？画像生成をパッチごとの難しさで適応的に進める仕組み
Patch Forcingとは、画像をパッチごとの難しさに応じて異なる速度で生成する適応サンプリング手法です。LTG sampler、difficulty head、dual-loop、look-aheadの仕組みを、Flow Matchingの数式とImageNet・Text-to-Imageの実験結果から解説します。
AI研究・論文解説 学習率とは？DALS論文で見る最適化手法の進化と使い分け
学習率とは何か、SGD、cosine decay、AdamW、RAdam、LARS、Grokfast、DALSの違いを論文ベースで解説します。DALSが提案する層と学習フェーズに応じた最適化、scratch学習とfine-tuningでの使い分け、実験結果の読み方を整理します。