HOME
Lv066

「Lv066」の記事一覧

LLMの運用において；特定の「有害な意図」を持つユーザーからの攻撃（ジェイルブレイク試行など）を検知し；アカウントを一時停止するセキュリティ機能を何というか。

サービスの安全性と健全性を維持するための重要なインフラ。

2026年1月25日

強化学習において；エージェントが「過去に一度も見たことがない状態」に遭遇した際に；その新奇性を評価して報酬を与える仕組みを何というか。

未知の領域を積極的に探索させるための工夫。

2026年1月25日

AIが生成した回答の「真偽」を検証するために；回答の根拠となったウェブサイトのURLを自動で付加する技術を何と呼ぶか。

ユーザーが情報の信頼性を自分で確認できるようにする透明性の確保手段。

2026年1月25日

AIを導入した際の「組織の受容性」を高めるために；AIによる成功を「一部の専門家の手柄」にせず；現場の成果として称えるマネジメント手法を何というか。

AIに対する現場の心理的ハードルを下げ；共生を促進する。

2026年1月25日

分類モデルにおいて；「クラスごとのサンプル数に極端な偏りがある」場合に；多数派クラスを間引いてバランスを取る手法を何というか。

モデルが多数派のデータばかりを学習し；少数派を無視するのを防ぐ。

2026年1月25日

2つの変数間の因果関係を分析する際；「処置群」と「対照群」の属性の偏りを調整するために；処置を受ける確率（傾向スコア）を用いる手法はどれか。

観察データから擬似的に実験状況を作り出し；因果効果を測定する。

2026年1月25日

AIによる動画像解析において；「背景は固定されている」という前提をおき；動いている物体（前景色）だけを抽出する古典的な手法を何というか。

監視カメラなどで侵入者を検知するための基礎的な技術。

2026年1月25日

「AIガバナンス」において；AIが下した決定に対して「なぜその決定に至ったか」の説明を求める権利を；GDPRなどの法的枠組みでは何と呼ぶか。

自動化された意思決定によって個人の権利が不当に侵害されるのを防ぐ。

2026年1月25日

TransformerのAttention計算において；行列の次元 $d$ の平方根でドット積を割る（スケーリングする）主な理由はどれか。

ドット積の値が大きくなると；Softmax関数の勾配が消失し学習が停滞するのを回避する。

2026年1月25日

LLMのデコーディングにおいて；もっともらしい単語（確率の高い単語）だけでなく；複数の候補を枝分かれさせて探索し；全体の確率が最も高い文を選ぶ手法はどれか。

局所的な最適解に陥るのを防ぎ；より流暢な文章を生成する。

2026年1月25日