【25-004】信頼できるAIシステムをいかに構築するか（その１）

呉葉凡（科技日報記者）　2025年01月09日

　人工知能（AI）は現在、急速に発展し、人間の世界に対する理解を深め、世界を変える能力を大幅に高めると同時に、予測の難しいリスクや課題ももたらしている。

　中国内外の一部のAI製品が生成する回答の価値観が歪んでいるというニュースが、たびたび検索のトレンドに入っている。AI技術の発展に伴い、AIの価値観についての問題が次第に注目を集めるようになり、「信頼できるAIシステムを構築すべきだ」という声がますます高まっている。2024年世界テクノロジー・発展フォーラム期間中に発表された「2024年AI先端技術トップ10の動向と展望」には「AIアライメント：信頼できるAIシステムの構築」が含まれた。2024年世界インターネット大会烏鎮サミットでも、AIに焦点が当てられ、人間中心で社会的利益に即したデジタルの未来を目指すというシグナルが発せられた。

　では、信頼できるAIシステムとはどのようなシステムなのだろうか。それを構築するためにはどんなテクノロジー・ルートがあるのだろうか。これらの課題について専門家に聞いた。

信頼性と安定性がカギ

　AIが社会生活や各業界に深く浸透するようになり、意思決定と行動が影響を及ぼす範囲も日々拡大している。例えば、医療や交通、金融などのハイリスク分野におけるAIシステムの意思決定は、人間の命や財産、福祉にも影響を及ぼす。意思決定を誤ると、人間の命や財産が危機にさらされることになりかねない。コーネル大学SCジョンソンカレッジのLin William Cong講座教授によると、金融分野でAIは、主に資産管理や資産運用の利益予測、資産評価などに応用されている。同氏は「金融分野ではAIが正確な答えを提供してくれることを願っており、AIが発散的思考や特別な創造力を有することは願っていない。正しい答えを提供するか、ある程度のロバストネスを備えていればいい」との見解を述べた。

　中国科学技術大学AI・データ科学学院の王翔教授は「AIシステムの信頼性確保は、AIの発展において無視できない要件となっている。それは単なる技術レベルの改善だけでなく、社会の倫理と責任の反映でもある。信頼できるAIシステムは、技術が人類のニーズにより良く応えるだけでなく、AIの判断ミスやバイアスが原因の悪影響を効果的に防ぐこともできる。信頼できるAIシステムは、優れた予測、生成、意思決定などの業務能力を備えるだけでなく、透明度や公平性、解釈可能性、安全性などの面でもユーザーの期待に応える必要がある」と語った。

　この中で公平性は、AIの意思決定がバイアスの影響を受けて、異なるグループの人に対する差別につながることを防ぐ必要があることを指す。解釈可能性とは、ユーザーがAIの行動と意思決定のプロセスを理解することで、AIに対するユーザーの信頼を高め、より良く活用できることを指す。安全性とは、AIシステムの運用中に潜在的リスクをもたらさず、一定の範囲内でその行動を抑制することであり、特に極端な状況や想定外の状況下で、人間の安全を守る能力があることを指す。王氏は「AIシステムは信頼性と安定性を備える必要があるほか、その複雑で、変化に富む開発環境においては、パフォーマンスが一貫し、外部要因による干渉を容易に受けないことが求められる」と指摘した。

（その２ につづく）

---

※本稿は、科技日報「如何构建可信赖的AI系统」（2024年11月25日付6面）を科技日報の許諾を得て日本語訳／転載したものである。