2025年11月21日開催情報セキュリティ分科会【毒にも薬にもなるAIを知る～攻撃者の先手を打つセキュリティ～】

2025年12月2日 2025年12月2日

rena.takebe@ciolounge.org

１１月２１日、情報セキュリティ分科会では株式会社アシスト様の東京本社カンファレンスルームをお借りして、「毒にも薬にもなるAIを知る　～攻撃者の先手を打つセキュリティ～」をテーマに多くの方に参加いただき、セミナーを開催しました。

AI脅威のリアルな体験

セミナーはCIO Loungeの矢島理事長のビデオメッセージからスタートしました。

このメッセージは、理事長が出張中と称し「次回の衆議院選挙に出る。選挙資金の献金を求める」など普段の理事長とはかけ離れた内容を含んでいました。

実はこのメッセージは生成AIで合成された偽動画(ディープフェイク)でした。しかし、その場ですぐに偽物だと気づいた参加者はほとんどいませんでした。苦笑しながらも「そうなんだ」と頷きながら聞いている参加者もいました。

詳細に観察すると、口元が発音と微妙に異なっていることや、目のあたりの表情が乏しいこと、本人と比べてきつい関西弁など違和感のある部分もいくつか見られました。

高市首相の偽動画が話題になったように、偽動画技術の進化は著しく、自社の社長を騙る動画が出回る日も近いかもしれません。AIがもたらす脅威の現実味を、参加者一同が肌で感じた導入となりました。

基調講演

基調講演ではトレンドマイクロ株式会社の大田原忠雄様にご登壇いただきました。講演は「トレンドマイクロは日本の会社ですよ！」というメッセージから始まりました。

1. 生成AIの全体動向とセキュリティの現状

・多くの企業でAIの利用が進んでおり、使いこなせない企業は競争力を失う、などの市場の状況説明がありました。

・AI利用に関するセキュリティ対策については、ガイドラインを設けている企業は80%にに上る一方で、実際の「ガードレール」(技術的な防衛策)を設けている企業は半数程度にとどまっている現状が紹介されました。

・AIの活用トレンドとして、エージェントの登場とエージェント同士の連携によるオーケストレーションによる複雑な業務の代行などが注目されています。

２．AIによるゲームチェンジ

・攻撃者のAI活用による攻撃の高度化に対抗する防御側のAI活用が必要です。

・現状は攻撃側優位で守備側は後手に回っている状態です。

・ディープフェークについては20代や30代の若い人の方が騙されやすい傾向にあるようです。

・冒頭の矢島理事長の偽画像については、ご本人から「自分のフェイク映像をみて、たった数秒の動画から生成される技術の進化に驚いた」とのコメントも寄せられ、その技術に対する注意喚起がなされました。

３．AI環境におけるアタックサーフェス（攻撃対象領域）の悪用

AI環境におけるアタックサーフェスの悪用について解説がありました。APIやライブラリー・クラウドインフラなど、様々な方向から攻撃を受ける可能性があります。

クラウド上の無防備な(管理されていない)AIコンテナを利用して、誤った出力をさせる「ハルシネーション」を強制的に起こさせるなど、新たな攻撃手段も紹介されました。

4. AI脅威に対する対策のポイント（6項目）

大田原様からはこれらの脅威に対抗するための対策のポイントとして以下の6項目があげられました。

1．データ保護：Data Security Posture Management（データセキュリティポスチャー管理）：組織が保有する機密データを、どこに保存されているか、誰がアクセスできるか、どのように使用されているかを可視化し、セキュリティ上のリスクを評価・管理するサイバーセキュリティのテクノロジー

2．AIモデルの保護：コンテナ環境のAIを保護する

3．AIインフラの保護：AI-SPM

4．ユーザとAIアプリケーションの保護：アクセス権など

5．AIサービスへのアクセスの保護：ゼロトラスト

6．ゼロデイ脆弱性保護：IDS/IPSによるリスクの軽減