①データ保護：DataSecurityPosture②AIモデルの保護：コンテナ環境のAI③AIインフラの保護：AI‒SPM④ユーザとAIアプリケーションの保護：⑤AIサービスへのアクセスの保護：ゼロ⑥ゼロディ脆弱性保護：IDS/IPSにTrend Vision One（２０２５年１１月２１日開催）冒頭の挨拶で島根に出張中のCIOLounge矢島理事長の動画メッセージが流れました。動画の最後に「次回の衆議院選挙に出馬する。選挙資金の献金をお願いしたい」など理事長らしからぬ言動がありました。会場の皆さんは苦笑しながらも「そうなんだ」と頷きながら聞いている人も結構おられました。実は、このメッセージは生成AIで合成した偽動画（ディープフェイク）だったのですが、すぐに気付いた人は殆どいませんでした。注意深く見ると口元が発音と微妙に異なったり、目のあたりの表情がほとんどない、さらに関西弁が本人よりきついなど違和感のある部分も結構ありました。高市首相の偽動画をはじめこのようなフェイク動画の技術は非常に進んでいます。自社の社長などを騙る動画が出回る日も近いかもしれません。トレンドマイクロの大田原様の講演では、「トレンドマイクロは日本の会社ですよ！」というメッセージから始まりました。最初に生成AIの全体動向について、多くの企業で利用されており、使いこなせない企業は競争力を失う、などの市場の状況について説明がありました。またAI活用に関するセキュリティについては、ガイドラインを設けている企業は80%あるのに対し、自社独自のガードレール（技術的な防衛策）まで設けている企業は16％程度にとどまっています。現状の活用状況については、エージェントの登場とエージェント同士の連携によるオーケストレイションによる複雑な業務の代行などがトレンドになっています。AIによるゲームチェンジの章では、攻撃者のAI活用による攻撃の高度化に対抗する防御側のAI活用が必要である。とはいえ今のところは攻撃側優位で防御側は後手に回っている状態です。また、ディープフェイクについては２０代や３０代の若い人の方が騙されやすい傾向にあるようです。冒頭の矢島理事長のフェイク画像については、本人から「自分のフェイク映像をみて、たった数秒の素材動画から生成される技術の進化に驚いた」とのコメントもあり、その技術に対する注意喚起も行われました。次に、AI環境におけるアタックサーフェスの悪用について解説がありました。APIやライブラリー・クラウドインフラなど様々な方向から攻撃の可能性があります。クラウド上の無防備な（管理されていない）AIコンテナを利用して強制的にハルシネーションを起こさせるなどの新たな攻撃手段も紹介されました。大田原様からはこれらの脅威への対策ポイントとして６項目の指摘がありました。管理）で、組織が保有する機密データがどこに保存されているか、誰がアクセスできるか、どのように使用されているかを可視化し、セキュリティ上のリスクを評価・管理するサイバーセキュリティのテクノロジーを保護するアクセス権などトラストよるリスクの軽減これらの対策を盛り込んだトレンドマイクロ様の「とともに、今後のセキュリティは、リアクティブからプロアクティブなものにシフトすべきという提言もありました。また、最新の手法として、サイバーセキュリティデジタルツインの紹介もありました。これはデジタルの世界で仮想環境を構築してAIによって徹底的に調査する手法です。講演後のディスカッションでは、以下のようなテーマで活発な議論が行れました。Management（データセキュリティポスチャー」の解説が行われる①AIを活用する上での心配事、課題点②ガイドラインやガードレールの策定・導入状況と認知・教育の手段③AIを活用する上でのSaaSベンダーへの期待④AIを活用する上でのセキュリティベンダーへの期待AI活用については、各社様とも色々な分野で積極的な利用を検討されているようですが、その進化が早く、導入タイミングの見極めが困難になっていることや野良AIの存在を危惧する声なども上がりました。AI活用におけるSaaSベンダーへの期待やセキュリティベンダーへの期待は色々あるものの具体的に提示することは難しかったようです。最先端のAIをサイバーセキュリティでどう活用するか？AIの進化に応じてどのように対応していけばいいのか？などの疑問は尽きませんが、情報セキュリティ分科会ではこれらの疑問や課題を解決する一助になるよう今後もイベントを企画してまいりますのでご期待ください。 情報セキュリティ分科会イベント「毒にも薬にもなるAIを知る〜攻撃者の先手を打つセキュリティ〜」【基調講演】トレンドマイクロ株式会社コマーシャルマーケティング部長大田原忠雄様生成AIで合成した偽動画大田原忠雄様分科会報告20
元のページ ../index.html#21