AIのリスクは2つに分けて考えます。①攻撃者がAIを使う（自然な日本語の詐欺メール、偽の声や動画、攻撃準備の効率化）と、②自分たちがAIを使うときのリスク（機密情報の入力、AIの誤り、AIを組み込んだシステムへの攻撃）です。IPAの10大脅威 2026では、組織編3位に「AIの利用をめぐるサイバーリスク」が入りました。
①攻撃者によるAIの悪用
- 不自然さのない詐欺メール：以前は「日本語がおかしいメールは怪しい」と言えましたが、今は通用しません
- 声や顔のなりすまし：経営者や家族の声をまねた電話、偽の動画（ディープフェイク）
- 下調べの効率化：公開情報から標的の人物や組織を調べる作業が速くなる
②利用する側のリスク
- 顧客情報や社外秘の資料を、ルールのないまま外部のAIサービスに入力してしまう
- AIのもっともらしい誤り（ハルシネーション）を確認せずに使う
- AIを組み込んだシステムに、文書やWebページに隠した命令を読ませて誤動作させる（プロンプトインジェクション）
対策の基本：見た目や言葉づかいではなく、「お金・パスワード・急ぎ」が出てきたら別の手段で本人に確かめる習慣をつけること。会社では、AIに入力してよい情報のルールを決めます（生成AIの社内ルール、AIシステムの守り方）。