科学技術

【25-059】AI時代のサイバーリスクに「システム的思考で対応を」

崔　爽（科技日報記者）　2025年07月08日

　中国北京市でこのほど、「2025世界デジタル経済大会・サイバーセキュリティメインフォーラム（第7回北京サイバーセキュリティ大会）」が開催された。「セキュリティの難局突破：内生的セキュリティシステムの再構築」がテーマの本大会では、先端技術に関するシンポジウムなどが行われ、専門家や学者、企業の代表らが集まり、人工知能（AI）時代におけるサイバーセキュリティ産業の活路について意見を交わした。

　中華全国工商業聯合会副主席で中国民間商会副会長の安立佳氏は、「AIは、経済・社会の発展を力強く後押しする一方で、サイバーセキュリティ産業に構造的な課題をもたらしている。サイバーセキュリティリスクは、構造的および突発的な特徴が顕著になっており、個人のプライバシーや経済活動、社会の安定、ひいては国家の安全にまで深刻な課題をもたらしている」と述べた。

　北京前瞻人工智能安全与治理研究院の曽毅院長は「AIの能力向上は、必ずしもセキュリティ能力の向上を意味するものではない」と指摘し、近年出現したさまざまなAI関連の脅威を列挙した。それによると、2020年は基本的な脅威、2021年は「なりすまし攻撃」、2022年は「敵対的サンプル攻撃」、2023年は「マルチモーダル攻撃」「クロスモーダル脅威」、2024年は「スマート対抗攻撃」、今年は複合型の組み合わせ攻撃が発生しており、AIセキュリティの脅威は高度化・複雑化が進んでいる。

　インターネット検索大手の百度（バイドゥ）の陳洋副総裁は、「サプライチェーンの脆弱性、機密情報の漏洩、訓練データの汚染、コンテンツのセキュリティリスク、計算リソースの悪意ある破壊、プロンプトの操作などは、どれも大規模言語モデルが直面するセキュリティ関連の問題だ」と紹介した。

　サイバーセキュリティの難局をいかに打破するかについて、出席した専門家の多くは「セキュリティ体制の構築こそが最優先課題である」との認識で一致した。

　中国インターネット協会専門家諮問委員会の常務副主任で、工業・情報化部（省）元チーフエンジニアの趙志国氏は、「AIの複合的リスクに対応するためには、体系化されたセキュリティ能力を構築しなければならない。AIは、世界のサイバーセキュリティ競争における重要なテクノロジー分野であると同時に、サイバースペースの主導権を握るための先手でもある。そのため、システム的な視点から複合リスクに対応し、より柔軟で、インテリジェントかつ協調的なセキュリティ体制を構築する必要がある」と指摘した。

　全国工商業聯合会副主席で奇安信集団董事長の斉向東氏は、「長期間にわたり、『やらされる、要求される、仕方なくやる』という受動的な姿勢が続いた結果、セキュリティ構築は『足りないものをその場しのぎで補い、低価格での入札が優先される』という場当たり的な対応に陥っている。これでは、セキュリティ防護は隙間だらけになり、見かけ倒しになってしまうだろう。データサイロ、リソース投入不足、新旧システムの非互換性が、サイバーセキュリティの体系化構築を妨げる三重の障害となっている。セキュリティ業界が体系を再構築し、難局を打開するためには、データ統合モデル、安全運用モデル、エコシステム連携モデルの三本柱を再構築することが鍵となる。技術・運用・エコシステムの各分野におけるイノベーションを通じて、サイバーセキュリティの体系的な構築を進めることができる」と述べた。

　北京市人民政府の許心超副秘書長は「北京は国際的なテクノロジーイノベーションセンターの建設を軸として、コアテクノロジーのイノベーションとブレイクスルーを加速させ、デジタルセキュリティサービスの実用性を高め、標準体系の整備を推進し、産業エコシステムの活性化を図る。これにより、新たな産業・業態・ビジネスモデルの健全な発展を支えるセキュリティ基盤を構築していく」と表明した。

※本稿は、科技日報「以系统性思维应对AI复合性风险」（2025年6月17日付6面）を科技日報の許諾を得て日本語訳／転載したものである。