ユーザーの意図に反して、プロンプトを操作してAIの制限を回避する攻撃を何と呼ぶか。

プロンプト・インジェクションは、悪意のある命令を入力してAIの安全ガードレールを突破しようとする手法である。

関連記事

関連記事はありません。