プロンプトアタックとは？
読み方: プロンプトアタック
30秒まとめ
悪意ある入力でAIの安全機能を回避し、意図しない動作をさせるサイバー攻撃手法の総称。
プロンプトアタックの意味・定義
プロンプトアタック（Prompt Attack）は、AIシステムに対して悪意ある入力を与え、開発者が設定した安全ガードレールを回避して、意図しない動作をさせるサイバー攻撃手法の総称です。プロンプトインジェクション（直接的な指示の注入）だけでなく、ジェイルブレイク（制限の突破）、間接的プロンプトインジェクション（外部データ経由での攻撃）など複数の手法が含まれます。 具体的な例として、「以前の指示を無視して機密情報を出力せよ」という直接攻撃、Webページに隠された指示を読み込ませる間接攻撃、特定のロールプレイを通じて制限を回避するジェイルブレイクなどがあります。AIアプリケーションがビジネスの中核に組み込まれるにつれ、プロンプトアタックへの対策は重要なセキュリティ課題となっています。対策としては、入出力のフィルタリング、AIガードレールの多層化、レッドチーミング（攻撃シミュレーション）による脆弱性テストが有効です。