HOME
Lv041

「Lv041」の記事一覧

AIに特定のトピック（暴力や差別など）について語らせないようにする「安全フィルタ」を、プロンプトの工夫だけで突破しようとする行為を何というか。

「ロールプレイ」などの巧妙な指示でガードレールを回避する試み。

2026年1月25日

AIモデルの性能を「特定のデータセット」ではなく；実際のユーザー利用シーンに近い「人間による評価」で順位付けするプロジェクトはどれか。

複数のモデルを匿名で比較させ；イロ・レーティング（Elo rating）でランク付けする。

2026年1月25日

大規模モデルの学習において；全ての重みを更新するのではなく；少数の「特異値」のみを学習させることで効率化する手法はどれか。

行列分解の技術を用いて；さらにパラメータ効率を高める微調整手法。

2026年1月25日

AIを導入した組織において；人間がAIの指示に従うだけでなく；AIの提案を批判的に吟味し、修正する能力を何というか。

AIの誤りを防ぎ；人間の主体性を保つために不可欠な素養。

2026年1月25日

2つの事象が「直接的な因果」ではなく；第3の変数を通じて繋がっている場合、その第3の変数を何と呼ぶか。

A→B→Cという流れにおいて；BがAとCを仲介する役割を果たす。

2026年1月25日

NIST（米国国立標準技術研究所）が定義する「AIの信頼性」の7つの柱に含まれないものはどれか。

信頼性は「害を及ぼさないこと」や「正しく機能すること」に重点を置いている。

2026年1月25日

モデルの精度が十分であっても；あえてモデルを簡略化して「なぜその予測になるか」を人間が完全に理解できるようにする設計方針を何というか。

医療や司法など；説明責任が極めて高い分野で重視される。

2026年1月25日

ニューラルネットワークのパラメータを、特定の数学的な対称性（回転や反転など）を保ったまま学習させる手法を何というか。

物理法則などの対称性を持つデータに対して；少ないサンプルで効率的に学習できる。

2026年1月25日

ロボットが視覚情報（画像）と言語指示を受け取り；具体的な動作（関節の制御など）を出力する統合モデルを何というか。

RT-2（Robotics Transformer）などが代表例で；汎用的なロボット制御を目指す。

2026年1月25日

LLMのコンテキスト長を拡張する際；データの先頭部分のみを重要視するアテンションの性質を利用した手法はどれか。

「最初の数トークン」がアテンションの受け皿（Sink）として機能することを発見し；省メモリで無限長の推…

2026年1月25日