AI をめぐる攻防
AI が攻める・AI が狙われる この章には 4 つの用語があります。
AI の自律攻撃(エージェント型)とは?
ここでは攻撃の台本を与えず、「個人情報を抜け」という目的だけを AI に渡す。AI は自分で偵察し、穴を探し、使う道具を選んで攻…
詳しく見る(このページで実演あり)→
レッド vs ブルー(攻防戦)とは?
現実のセキュリティは、攻める側と守る側のいたちごっこ。ここでは攻撃 AI が穴を突き、守り AI が穴を塞ぐのを同時に走らせる。…
詳しく見る(このページで実演あり)→
プロンプトインジェクションとは?
AI には「秘密は言うな」といった指示が与えられている。でも後から来た言葉で、その指示を上書きしたり押し切れることがある。言葉だ…
詳しく見る(このページで実演あり)→
AI エージェント乗っ取り(間接注入)とは?
道具(返金など)を操作できる AI は、顧客のメッセージを読んで動く。そのメッセージの中に命令を紛れ込ませると、AI がそれを自…
詳しく見る(このページで実演あり)→
AI は、自分の頭で
どこまでやれるのか。
どこまでやれるのか。
このラボで攻撃を実演する AI とは別もの。ぼぶは、自分の頭でマインクラフトを攻略していく。
ぼぶのAIマイクラYouTube チャンネル
見る ▶