【23-50】AI技術を活用してネットワークの脅威に対処
劉 艷（科技日報記者） 2023年09月22日
人工知能（AI）などの技術は、サイバーセキュリティの防御における重要ポイントとなるだけでなく、サイバーセキュリティを保障する有力な手段でもある。ビッグデータやAI、インターネットなどの技術の融合を推進し、保障能力を高める必要がある。
尚 氷（中国インターネット協会理事長）
汎用人工知能（AGI）は現在、新たな「黄金の10年」を切り開いており、中国のAI産業は活気に満ちあふれ、100を超える大規模言語モデルが相次いで登場しているが、それに伴い、セキュリティの問題も増えている。8月9日に開かれた第11回インターネットセキュリティ大会（ISC）では、サイバーセキュリティとAI技術の融合発展が重要な議題となった。
データの安全がAI産業発展の前提条件
中国工程院院士（アカデミー会員）の鄔江興氏は「AIが新たな産業変革をリードする重要な技術エンジンとなっており、各分野に情報化、デジタル化、スマート化したソリューションを提供し、経済構造の大きな変革を引き起こし、社会の生産力の全体的向上を促進している」と述べた。
中国インターネット協会の尚氷理事長は「生成AIが現在、新たなスマート化の波を引き起こしている。生成AIは、インターネット業界に力強い発展の原動力を注入するとともに、データ漏洩や虚偽情報、アルゴリズムバイアスなど、ネットワーク・情報セキュリティ関連の新たな課題ももたらした」と指摘した。
生成AIの発展における早急に解決が必要な問題に関し、中央インターネットセキュリティ・情報化委員会弁公室インターネットセキュリティ協調局の羅鋒盈副局長は「新技術と新応用のセキュリティリスク防止能力を高める必要がある。また、データリソースをデータの優位性に変換し、サイバーセキュリティ、教育、技術、産業が融合発展する健全なエコシステムを構築する必要がある」との見方を示した。
第13期全国政治協商会議経済委員会の蘇波副主任は「AI産業の急速な発展を促進するためには、データセキュリティ保障を際立たせる必要がある」と述べ、次の3点を提案した。
1つ目は、AIデータリソースの構築加速だ。発展の過程で、セキュリティ面の問題を解決し、中国の状況に合致したデータ流通・共有メカニズムを構築するとともに、データ取引市場を育成・規範化し、異なる経済主体が安全にデータを交換できるよう働きかける必要がある。中国のAI産業の発展をサポートする高品質なデータリソースを構築し、AI応用シーンにおけるデータセキュリティ、保護技術の研究を強化し、AI技術のデータセキュリティガバナンス、サイバー攻撃・防御分野への応用を促進する。
2つ目はAI技術、手段のイノベーションに取り組む。技術の進歩を利用して、セキュリティリスクをめぐる難題を解決し、AIデータセキュリティ保護基礎理論の研究と技術開発を強化する。責任があり、信頼できる、制御可能なAGIを発展させる。企業に対して、AIオープンソースラーニングフレームワークを構築・整備し、フレームワークビルトイン学習データ、インフラを強化し、中国の巨大な市場優位性を活用して、AIオープンソースプラットフォーム、エコロジカル、産業チェーンの育成を加速させるよう働きかける。
3つ目は、AIデータセキュリティの監督・管理体制を構築し、規範化された監督・管理を通じて、安全な発展を保障する。AIが健全に発展するための監督・管理規則、法整備を加速させ、AIデータセキュリティの法律や原則を明確にし、異なる経済主体がAIライフサイクルの各段階で、有するデータの権利と負うべきセキュリティ上の責任を確立する。また、AI製品応用サービスのデータセキュリティサービス体制を構築し、検査・認証を通して、AI製品の安全性・成熟度を高め、AIデータセキュリティリスクを低減する。
AI技術を活用してサイバーセキュリティリスク対策を
現在、ネットワークの脅威は高まり続けている。「単独の窃盗犯」や「一匹狼のハッカー」は過去のものとなり、組織的なサイバー犯罪、APT攻撃などがサイバーセキュリティ上の最大の潜在的リスクとなっている。従来のセキュリティ防御は、戦略的な統一的計画が不足し、連携や協力が難しいため、変化し続けるセキュリティ問題に対応できなくなっている。そのため、デジタル化の思考を利用して、セキュリティを再構築し、体系化、実戦化、スマート化したサイバーセキュリティ能力を構築することが必須となっている。
そのようなサイバーセキュリティ能力はどうやって構築するのか？ 鄔賀銓氏は「サイバーセキュリティの新たなスタイルを模索し、複雑なデジタル化シーンに対応する必要がある。ハードウェア型で、断片化した、協調性が低い従来のセキュリティ防御手段を捨て、クラウド化、サービス化へとアップデートする必要がある」と提案した。
サイバーセキュリティ企業は、サイバーセキュリティ能力を構築する上で重要な役割を担っている。AI時代において、これらの企業は、体系化された安全な運営サービス、各業界へ提供するサイバーセキュリティ能力を構築し、他の企業がセキュリティ防御体制を構築するのをサポートし、データセキュリティと企業プライバシーを保護する必要がある。こうしたサイバーセキュリティ企業のデジタルリスク対策について、AIを活用することができる。尚氏は「人工知能（AI）などの技術は、サイバーセキュリティの防御における重要ポイントとなるほか、サイバーセキュリティを保障する有力な手段にもなる。ビッグデータやAI、インターネットなどの技術の融合を推進し、保障能力を高める必要がある」と訴えた。
360集団の創始者、周鴻禕氏は「当社は現在、世界最大のサイバー攻撃サンプルバンクと、攻撃の全過程・全記録のナレッジベースを有しており、膨大な量のサイバー攻撃を記録している」と説明した。同社ではこれらの知識を垂直大規模モデルに組み込む実験をしており、次に攻撃に遭った際に、大規模モデルを使って、本当の攻撃かどうかを判断できるように取り組んでいる。周氏はこの点について「大規模モデルの判断精度は97％に達している。それに対し、人間がサイバー攻撃を判断する場合、精度が80％を超えると良いほうだ。大規模モデルの判断精度が99％に達すると、実用化が可能になる」と展望を語った。
※本稿は、科技日報「用人工智能技术应对网络威胁升级」（2023年8月14日付6面）を科技日報の許諾を得て日本語訳／転載したものである。