HOME
Lv022

「Lv022」の記事一覧

パラメータ効率の良い微調整手法 PEFT (Parameter-Efficient Fine-Tuning) の代表例である LoRA の仕組みはどれか。

元の重み W を固定し、ΔW = AB（A, Bは低ランク）のみを学習することでコストを大幅に抑える。

2026年4月3日

主成分分析において、元のデータの分散をどれだけ説明できているかを示す累積寄与率の目安として一般的に使われる値はどれか。

情報の約8割が保持される主成分数までを採用するのが一つの慣習である。

2026年4月3日

Vision Transformer (ViT) において、画像をどのようにTransformerに入力するか。

画像を固定サイズのパッチ（16x16など）に切り分け、単語トークンと同様に扱う。

2026年4月3日

ニューラルネットワークの計算において、FP16を用いる際に値が小さすぎて 0 になるのを防ぐ手法はどれか。

損失（Loss）に大きな値を掛けてから勾配を計算し、後で戻すことでアンダーフローを防ぐ。

2026年4月3日

GANの評価指標である Inception Score (IS) が高いときに意味することはどれか。

画像の質の高さ（確信度）と多様性（エントロピー）の両方を評価する。

2026年4月3日

オプティマイザ Lookahead が行う操作はどれか。

通常の更新（fast weight）の数ステップ後に、その方向へゆっくり重みを動かすことで安定化させる。

2026年4月3日

決定木の学習において、ある分割による「情報利得」の定義はどれか。

分割によってどれだけ不確かさ（エントロピー）が減少したかを計算する。

2026年4月3日

自然言語処理の評価指標 BLEU スコアにおいて、主に比較されるものはどれか。

機械翻訳の結果と参照訳がどれだけ単語の並び（N-gram）を共有しているかを測る。

2026年4月3日

連続確率分布の平均・分散・尖度・歪度を一挙に導出するために便利な関数はどれか。

tで微分してt=0を代入することで、各次数のモーメントが得られる。

2026年4月3日

正方行列 A に対して、A = A^H（共役転置）が成り立つ行列を何と呼ぶか。

複素数行列における対称行列の概念がエルミート行列である。

2026年4月3日