【24-112】AIを使った「AI対策」は可能か？
張佳星（科技日報記者） 2024年12月10日
中国工程院の鄔江興院士（アカデミー会員）は、このほど開かれた「2024緑盟科技（NSFOCUS）TechWorldスマートセキュリティ大会」で、「人工知能（AI）のアルゴリズムモデルには、説明不能、判断不能、推論不能という『3つの不能』の『遺伝的欠陥』が存在する」と述べ、「AIを活用した技術には極めて幅広い応用の可能性があるが、これまでにないセキュリティの課題ももたらしている」と指摘した。
中国科学院の馮登国院士は、「AIはすでにサイバー空間におけるセキュリティ発展の重要な変数となっている。AI技術はすでに単一的なアルゴリズムの発展段階から、ソフトウェア、ハードウェア、応用シーンが結びついた全面的で一体化した発展段階へと飛躍している。サイバー空間のセキュリティ状況の変化に対応するには、より堅固で弾力的なサイバー空間のセキュリティ保障システムが必要だ」と述べた。
AIの幅広い応用はどんなセキュリティ上のリスクをもたらすのだろうか。また、こうしたセキュリティの課題にどのように対処すればよいのだろうか。大会では、専門家や学者がサイバーセキュリティの最先端技術やデジタルインテリジェンスによる能力強化の発展について、踏み込んだ議論を行った。
セキュリティリスクが増大
馮氏は「ある種の状況で、大規模モデルが生成したテキストは言葉の意味や構文という点では論理に合致しているように見えるが、実際には内容に誤りがあったり、意味を成さない場合がある。こうした『ハルシネーション（幻覚）』の問題はあらゆる大規模モデルに共通する固有の問題だ。大規模モデルの『ハルシネーション』という欠陥がもたらす大量の誤った情報の出現は、大規模モデルが抱える主要なセキュリティリスクの1つだ。さらに、重要な情報インフラをターゲットにしたサイバー攻撃の自動化・スマート化が一層進んでいる。同時に、AIアルゴリズムの急速な更新とイテレーションにより、従来のセキュリティ分析技術ではAI分野に登場する新たなアルゴリズムやモデルに対応できなくなっている」と訴えた。
NSFOCUSの葉暁虎最高技術責任者（CTO）は「デジタルトランスフォーメーション（DX）はネットワークエコシステムの脆弱性を高めている。攻撃手段の多様化や関連する技術戦術の変化により、セキュリティ産業は新たなセキュリティの課題に絶えず適応し、対応することが求められている。このためNSFOCUSでは、既存のセキュリティ製品とセキュリティサービスの提供だけでなく、大規模AIモデルの応用や『ブルーチーム』システムなど、複数の分野にわたるソリューションを展開している」と紹介した。
デジタル経済の時代において、データセキュリティを保障することは国家の安全保障と経済・社会の発展に関わる重要な問題となっている。国家工業情報安全発展研究センターの首席専門家でデータセキュリティ研究所の所長を務める李俊氏は「工業企業のデジタル化、ネットワーク化、スマート化のプロセスが加速すると同時に、データのセキュリティリスクも顕著に増加している。これには産業データのキャリアに存在する脆弱性やバックドア、管理不能な運用保守などの問題が含まれる。こうした背景の下、業界の主管部門は関連政策を打ち出し、データセキュリティ監督管理の技術的能力の構築と実践を加速させている」と語った。
AIが新ツールを提供
新たなセキュリティリスクに直面する中で、AIによるAI対策を行うことは可能だろうか。大会に参加した専門家の間では「AIシステムはセキュリティ保障面での応用がすでに広く認知されており、AIがセキュリティ分野で果たすサポート的役割が今後ますます強まるだろう」との見方で一致した。
馮氏は「AIはサイバー空間のセキュリティ保障を支援し、セキュリティ作業に新たなツールを提供できる。AIによって強化された攻撃技術、悪意あるコード生成、ゾンビ化したデバイスによるサイバー攻撃などの課題に対し、AIによって防御の能力とレベルを大幅に高め、脅威の検出や対応能力を効果的に高めることができる」と述べた。
緑盟科技天枢実験室の顧杜娟主任研究員は「AIは非常に多くのサイバーセキュリティタスクを自動で遂行できる。例としては脅威の検出や緊急時対応、脆弱性分析などがある。これにより作業効率が向上し、人為的なミスの可能性を減らし、サイバーセキュリティチームが大量のセキュリティアラートに効果的に対応できるようになる。AIは新しいタイプの攻撃手段や戦略を識別し、マシンラーニングやディープラーニングの技術を活用して複雑なサイバー攻撃を検出し、これに対応するよう支援することもできる」と説明した。
NSFOCUSは技術イノベーションを通じて一連の新しい成果とプランを打ち出した。例えば、AIセキュリティ能力プラットフォーム「風雲衛」では、脅威の情報を集積させることで、サイバーセキュリティ業界のスマートトランスフォーメーションをサポートする。セキュリティ運営の面では「AI＋」戦略によって無駄な警報を97％以上減らし、脅威への対応にかかる時間を30分まで短縮し、全体的な運営効率を70％以上向上させている。
さらに、騰訊（テンセント）などの企業もAIセキュリティアシスタントを構築し、セキュリティサービスの能力と効率を高めている。業界の専門家は「AIとセキュリティを融合して活用することが、DXと持続可能な発展の促進に資する」との考えを示した。
※本稿は、科技日報「能否用AI防范AI？」（2024年11月11日付6面）を科技日報の許諾を得て日本語訳／転載したものである。