プロンプトインジェクション攻撃（prompt injection attack）について解説しています。
プロンプトインジェクション攻撃（prompt injection attack）は、悪意のある攻撃者がAIシステム内に対して不正な入力を行い、AIシステムが予期しない操作を実行するように仕向ける攻撃です。これらの攻撃の目的は通常、悪意のあるアクションを実行するか、システムへの不正アクセスを取得することです。
データの検証
AIシステムに入力されるデータを常に検証し、不正な入力があった場合には、システムが予期しない操作を行わないようにする必要があります。
ユーザー認証の強化
AIシステムに対してアクセスする際には、ユーザー認証を強化することで、攻撃者が不正な入力を行うことを防止できます。
AIシステムの監視
AIシステムを常に監視し、異常な操作が行われた場合には、即座に対処することが必要です。
セキュリティの適用
AIシステムには、常に最新のセキュリティパッチをパッチを適用することが必要です。
これらが挙げられます。これらはどちらかというとAIシステムを開発、運営する側の防御策となります。一方で、一般ユーザーが悪意のある攻撃から自分自身を守るための防御策は、以下になります。
信頼できるチャットボットを利用する
信頼できる企業や機関が提供するチャットボットを利用することが重要です。また、チャットボットを提供する企業のセキュリティについての情報を確認することも重要です。
個人情報を提供しない
チャットボットを利用する際には、必要最小限の情報だけを提供するようにしましょう。また、身元を明かすような情報（住所、クレジットカード番号など）は提供しないようにしましょう。
不審なリンクや添付ファイルに注意する
チャットボットが送信したリンクや添付ファイルには注意しましょう。不審なものがある場合には、開かないようにしましょう。
パスワードの管理に注意する
チャットボットにアクセスする際には、パスワードの管理に注意しましょう。パスワードを定期的に変更することや、安全なパスワードを使用することが重要です。
ウイルス対策ソフトの利用
ウイルス対策ソフトをインストールし、定期的にアップデートすることで、悪意のある攻撃から身を守ることができます。
定期的なセキュリティ確認
自分が利用するチャットボットが安全であるかどうかを確認するために、定期的なセキュリティ確認を行うことが重要です。また、不審なアクセスがないかを定期的にチェックすることも必要です。
■関係するリンク
・GPT-3 に対する迅速なインジェクション攻撃（Prompt injection attacks against GPT-3）
URL:https://simonwillison.net/2022/Sep/12/prompt-injection/
・Security attack on chatGPT: step by step（chatGPT に対するセキュリティ攻撃: ステップバイステップ）