AI研究・論文解説

AI論文記事のカテゴリ画像自分が読んだAI関連の論文について、日本語解説していきます。

特に、AI(LLM, Diffusionモデルなど)を用いた画像処理(Denoiseや画像再構成、超解像などについての技術論文と
上記技術をエッジデバイスなどに搭載するために必要な縮小・軽量化(Quantization, LoRAなど)がメインになります。

AI研究・論文解説

DINOv2とは?正解ラベルなしで画像の特徴を学ぶ仕組み

DINOv2とは何かを原論文から解説。正解ラベルなしで学ぶ教師・生徒の仕組み、画像全体とパッチの特徴、DINOとの違い、分類・検索・深度推定への使い方を図解し、ラベル不要の範囲も整理します。
AI研究・論文解説

拡散言語モデルとは?LLaDA論文で理解する文章生成の仕組み

拡散言語モデルはどう文章を作る?LLaDA論文を基に、自己回帰型との違い、マスクを予測して一部を戻す生成過程、事前学習とSFTを図解。BERT・画像拡散との違いや、速度と品質の条件も解説します。
AI研究・論文解説

Self-RAGとは?検索するタイミングと回答の根拠を自己評価する仕組み

Self-RAGとは、必要なときに資料を検索し、関連性・回答の裏付け・有用性を自己評価するLLMの仕組みです。架空の図書館案内と図解で、通常のRAGとの違い、4種類の評価、学習方法、原論文の結果と限界を解説します。
AI研究・論文解説

GRPOとは?複数の回答を比較してLLMを学習させる仕組み

GRPOとは、同じ問題への複数回答を採点し、グループ内の相対評価でLLMを学習させる方法です。DeepSeekMath論文を基に計算例を図解。PPO・DPOとの違い、価値モデルと報酬モデルの役割、同点時の注意点を解説します。
AI研究・論文解説

GraphRAGとは?通常のRAGとの違いと文書全体を要約する仕組み

GraphRAGとは、資料の関係図と要約を使って回答する方法です。Microsoft原論文を基に、通常のRAGとの違い、コミュニティ要約、Global・Local Searchを図解。評価結果の読み方、コストと採用時の注意点も説明します。
AI研究・論文解説

VLMはどこを量子化すべき?ViT・Connector・LLMの感度を論文から解説

VLMはどこを量子化すべきか。BLIP-2とLLaVAをGPTQ・AWQで比較した論文から、ViT、Connector、LLMのタスク別感度、bit配分、評価手順を解説します。
AI研究・論文解説

FP4量子化とactivation sparsityを両立するSharQを解説

SharQはLLMのactivationを疎なFP4本体と密なFP4残差へ分け、量子化誤差とsparsity損失を同時に補います。4:8 in-pairs、2経路GEMM、精度・速度、Blackwell依存の制約を原論文から解説します。
AI研究・論文解説

量子化するとLLMは遅くなる?推論tokenが増えるReasoning Token Inflationを解説

LLMをINT4へ量子化して1トークンの生成が速くなっても、推論tokenが増えると総時間は延びる場合があります。Reasoning Token Inflation論文からCTIR、実験結果、対策、評価指標を解説します。
AI研究・論文解説

推論LLMは枝刈りで遅くなる?Reasoning-Aware Compression論文解説

推論LLMを通常の方法で枝刈りすると、思考トークンが増えて遅くなる場合があります。CoTの活性値を使うReasoning-Aware Compression(RAC)の仕組み、精度、実行時間、導入時の注意点を原論文から解説します。
AI研究・論文解説

FP8ロールアウトはなぜLLM強化学習を不安定にする?AISの仕組みを解説

FP8 rolloutとBF16 trainerでLLM強化学習の勾配がずれる原因を、量子化誤差と数値例から解説。誤差が初期には探索、後期にはbiasへ変わる理由と、AISの確率比・3指標・勾配補正を詳しく整理します。
スポンサーリンク