記事論文
arXiv••2 min read
ブラックボックスLLMの入力トークン重要度を可視化するDBSA手法を提案
ブラックボックスLLMの各入力トークンが出力にどれだけ影響するかを可視化する「Distribution-Based Sensitivity Analysis（DBSA）」手法を提案する研究論文。[1] DBSAは、LLMの出力分布の変化を統計的に分析することで、各入力トークンの重要度を推定する。従来の勾配ベース手法と異なり、モデル内部へのアクセスを必要とせず、APIエンドポイント経由でも適用可能。LLMが確率的関数であるという特性を活か
#論文#LLM#解釈可能性