AI技術・仕組み vLLMとは？仕組み・使い方とPagedAttentionを図解
vLLMとは何かを、用途とOllamaとの使い分けから解説。PagedAttentionの仕組み、KV Cacheの容量計算、連続バッチ処理・APCの違い、APIの起動手順と性能の測り方を図と表で整理します。
2026-09
AI技術・仕組み 
AI技術・仕組み Speculative Decodingとは？LLM生成を速くする方法
Speculative Decodingの仕組みを図解。draft modelの候補生成、target modelの一括検証、samplingの受理・棄却、高速化条件と実測方法を解説します。
AI技術・仕組み GQA/MQAとは？KV Cacheを減らすAttention改良
GQAとMQAの仕組みを図解。MHAとのhead構成の違い、KV Cache容量の計算、group数とgroup size、品質・速度のtrade-off、実装確認を解説します。
AI技術・仕組み FlashAttentionとは？Attentionを高速化する技術
FlashAttentionの仕組みを図解。N×N中間行列、HBMとSRAM、online softmax、メモリ削減、KV Cacheとの違い、PyTorchでの確認方法を解説します。
AI技術・仕組み 量子化とは？LLMを軽くする省メモリ技術
LLMの量子化を図解。scaleとzero point、INT8・INT4、W4A16・W8A8、GPTQ・AWQの違いと、容量・速度・品質の測り方を解説します。
AI技術・仕組み KV Cacheとは？LLMの生成を高速化する仕組み
LLMのKV Cacheを図解。過去のKeyとValueを再利用する理由、prefillとdecode、メモリ使用量の計算、長いcontextでのボトルネックを解説します。
AI技術・仕組み QLoRAとは？NF4・Double Quantization・Paged Optimizerと実装上の注意点
QLoRAの仕組みを、4-bit保存とBF16計算、LoRA更新に分けて解説。NF4、Double Quantization、Paged Optimizer、メモリ計算、実装・保存・評価の注意点まで整理します。
AI技術・仕組み LoRAとは？低ランク更新の仕組み・rank・メモリ・実装を詳しく解説
LoRAが更新差分を低ランク化する仕組みを数式と具体値で解説。rank・alpha・対象層、減るメモリと残るメモリ、保存・merge、QLoRAとの違いまで整理します。
AI技術・仕組み DPOとは？選好データからLLMを直接学習する仕組みと実装上の注意点
DPOの仕組みを、選好ペア、参照モデル、4本のlog probability、betaから解説。RLHFとの違い、実装上の注意点、失敗要因と評価方法まで整理します。
AI技術・仕組み RLHFとは？報酬モデル・PPO・KL制約から「人間の好み」を学ぶ仕組みを理解する
RLHFの仕組みを、選好データ、報酬モデル、PPO、KL制約から解説。4モデル構成、reward hacking、評価、DPOとの違いまで整理します。