内発的原動力の増強―AIに求められる「三大関門」の突破

2021年02月18日　付麗麗（科技日報記者）

中国国際工業設計博覧会2020が12月11日、武漢で開幕。コンセプトEV、警備パトロールロボット、無人配送車などデザイン感満載のハイテク展示品が数多く登場した。（撮影・熊琦）。

データ駆動型の第2世代AIには「先天的不足」が存在

　顔認証、自動運転、スマートスピーカー、手術ロボット......近年、中国の人工知能（AI）は爆発的な発展期に入り、金融や電子商取引、医療、警備、教育などの分野に広く応用されている。しかし技術の発展と応用にともなって、それによって起こるデータ偽造や、アルゴリズム上のボトルネック、プライバシー・セキュリティ、倫理的難題といった問題もますます浮き彫りになってきた。

「多くのAI企業が抱える、評価額が高いが販売数は少ないといった問題も含め、これらの問題の根本的原因はAI技術そのものにある。こうした問題は、現在のデータ駆動型の第2世代AIがそもそも持っている欠陥が原因になっている」。12月9日、清華大学AI研究院などが主催した2020第3世代AI産業フォーラムで、中国科学院院士、清華大学AI研究院院長の張鈸氏は上記のように語った。

　張氏は「世界で複数の国が新世代AIの発展を国家戦略に位置付けたことで、産業的ニーズが爆発的に増えたことから、安全で信頼性が高く、拡張が可能な第3世代AI技術を早急に開発することが求められている」と指摘する。

　第3世代AIとは何か？このコンセプトの提唱者である張氏によると「第1世代の知識駆動型AIと第2世代のデータ駆動型AIとの組み合わせをベースにした、知識・データ・アルゴリズム・演算能力の4つの要素から出発して構築する全く新しい発展体系だ。その目的は、コンピューターの知能に関する問題を完全に解決し、人間の知能を全面的に反映することにある」と説明する。

　瑞莱智慧RealAIの田天CEOによると、AIが新時代の「水と電気」になり、各業界のアップグレードを推進する共通能力となるには、AIインフラの完備が主柱となるという。インターネット時代からの経験を受け継いで、現在のAIインフラ建設はデータセンターと演算能力プラットフォームに重きを置いており、主にAIの「基本的ニーズを満たし」て、AIに基礎演算環境を提供するものだった。しかしデータ蓄積がシーンの制約を受けるようになると、既存の演算能力は限界に近づき、ビッグデータや大規模演算能力など外部の駆動力によるAI産業の第1成長曲線は緩やかになり始めた。

「内部から打破してこそ成長する」として、田氏は「各産業のスマート化の度合いが高まるとともに、AIインフラ建設は自身の基礎能力増強からスタートし、データや演算能力という次元とは異なる全く新しい能力を開発し、内発的な駆動力でAIネイティブなインフラを構築し、同じデータと演算能力を保証するという条件下で、AIエンパワーメント業界のさらなる応用をより良くサポートし、AI産業化の全く新しい市場空間を切り開き、産業の第二成長曲線を駆動することが急務である」と語る。

　田氏は、AIの内発的駆動力を強化するには、「三つの関門」を突破する必要があると考えている。第一の関門は「アルゴリズムの関門」で、アルゴリズムによる意思決定の信頼性と安全性を保証することだ。田氏は「スマート化時代においては、AIの意思決定ロジックとリンクにはそもそも多くの不確定性が存在しており、解釈可能性に乏しく、高価値意思決定シーンに応用することが難しい。また、アルゴリズムに普遍的に存在する『アドバーサリアル・エグザンプル』という特徴により、AIシステムが悪意ある攻撃を受けるリスクが存在する」と説明する。

　第二の関門は「データの関門」で、データプライバシーとセキュリティの保障のことである。AIモデルを訓練する際、データテキストを暗号化されていない状態で伝送・利用することでプライバシー漏洩が起きやすい。それと同時に、AIの応用のためにデータのサイロ化を崩す過程ではデータの用途と使用量を保障することが難しく、濫用や複製される可能性があると同時に、収益を確定し所有者の権利・利益を確保することも困難である。

　最後の関門は「応用の関門」、すなわちAI応用シーンの管理・制御である。例えば、信用貸付モデルにおける「生存バイアス」や顔認識における人種差別などアルゴリズムの公平性に関する一連の問題、技術の濫用による金融詐欺、ひいてはプロパガンダによる世論誘導などの問題が起こっている。

「この三大関門を突破するには、AIネイティブなインフラが3つの能力を持つ必要がある。この3つの能力とは、信頼性の高いアルゴリズム、制御可能なデータセキュリティと応用、そして既存のAIプラットフォームに対してアップグレードとエンパワーメントを実現して、AIの各シーンにおける使用可能性を高めることだ。これらは現段階でAI産業が必要としている点であり、産業目標でもある」と田氏は強調する。

　AI応用過程におけるデータのサイロ化という難題を解決するために、学術界と産業界から実行可能なアプローチとみなされているのがプライバシー保護マシンラーニングだ。しかし、プライバシー保護マシンラーニングと従来のマシンラーニングは1つの技術システムに属しておらず、企業がプライバシー保護システムを構築する際には性能の差や操作性の差、ブラックボックス・プロトコルなど多くの難題に直面している。このため、本フォーラムでは業界初のプライバシー保護AIコンパイラが発表された。

「応用において難題にぶつかった場合に、問題を発見したらその都度解決して修正していくというのとは異なり、このAIコンパイラの目標はAIネイティブなインフラ体系を補完し、各業界向けの業務用商品とソリューションを提供し、大小や価値に関係なく、すべてのシーンでAIエンパワーメントによる恩恵を得られ、AIがより質の高いサービスを人類社会に提供できるようにすることだ」と田氏は語った。

※本稿は、科技日報「増強内生動力 AI還需突破三大関卡」（2020年12月17日付7面）を科技日報の許諾を得て日本語訳／転載したものである。