インターネットの海を見守る「ライフガード」

2020年12月04日　仇広宇／『中国新聞週刊』記者　舩山明音／翻訳

　すみません、どうやって死んだら痛くないですか？

　8月1日の夜、アリババセキュリティーのスペシャリスト・武綱（ウー・ガン）と同僚は、ある情報を受け取った。山東省の16歳の少女が、オンラインモールの淘宝（タオバオ）ショップで商品購入の問い合わせをした。そのやりとりの中で、ドラッグストア〔実店舗〕で大量の薬物を購入したと語り、さらに「どうやって死ねば痛くないか」と尋ねたというのだ。

　武綱と同僚たちはそのアラート情報をキャッチすると、急いで手元の仕事を中断し、緊急対策を開始した。

　中国最大のｅコマースプラットフォームとして、淘宝はすでに社会的感情を察知する一種のアンテナになっており、加えて様々なアプリやソーシャルネットワークには、不可避的に人々の感情の足跡が残される。喜び、悲しみ、退屈さ、鬱憤の発散、それにもちろん抑鬱、ときには自殺願望を表す言葉なども含まれている。

　これにより、すべてに追跡可能な痕跡が残ることになった。武綱と同僚たちが所属するアリババセキュリティーの「生命保護」プロジェクトは、まさにネットのプラットフォームの力を借り、AIを利用してショップや警察、第三者機関と協力し、自殺予防介入メカニズムを構築しようとするものだ。このプロジェクトは昨年の7月に運用がスタートし、現在までにすでに2,500人以上に自殺予防介入を実施している。

　ビッグデータやAIによる自殺予防介入は早くから始まっているが、その主体が大手インターネット企業になったのは、やはりここ数年のことだ。多くの巨大インターネット企業が次々に類似部門を立ち上げている。それにより、今まで水面下にあった青少年の自殺と、関連する心理的問題の実態も徐々に明るみに出ている。

自殺予防介入のスペシャリスト

　8月1日、山東省の少女が淘宝ショップで商品を発注した。ショップ側は、その後のチャットの中で少女が不審な様子を見せ、自殺の意図を漏らしているのに気がついた。すぐに「生命保護」チームに通報した。

　武綱は、少女はおそらく学生で、高考〔全国統一大学入試〕の失敗による自殺願望だろうと判断した。チームのメンバーは夜の10時まで少女に電話をかけ続けたが、一度もつながらなかった。

　その晩メンバーは現地の派出所に保護を要請した。少女が思いつめて自ら命を絶とうとしているのは間違いなかったが、警察が来るまで家族はまったく何も知らなかった。

　これは「生命保護」プロジェクトがスタートして1年あまりの予防介入例の1つである。プロジェクトはアリババセキュリティーの7～8名の専任スタッフと兼任スタッフで組織され、こういった事態にいつでも対処できるよう毎朝9時から夜の10時まで待機し、夜10時以降もオンラインで警戒に当たっている。1年365日を通じて誰かが任務に当たり、直ちに緊急予防介入が必要な場合に備えて、春節や新型コロナ流行期間中にもスタッフを通常通り配置していた。

　武綱はもともと薬学が専攻だった。普通に販売されている商品の多くが、消費者に自殺のために使われる可能性があると気づいたのは、この仕事を通じてのことだ。薬学を学んでいた頃の習慣と感覚から、武綱は人の生命に関わることには特に敏感だ。自らのかつての専攻という背景と現在の仕事で直面する現実――まさにこの2つがきっかけで2019年3月、アリババ内部で試験的に「生命保護」プロジェクトを立ち上げた。正式プロジェクトとして本格スタートしたのは7月である。

　これは、心理的危機に予防介入するメカニズムである。

　ユーザーが淘宝の携帯アプリで自殺にかかわるコンテンツを検索すると、自動的に「生命保護」誘導ページがポップアップで現れ、目立つ場所に「12355青少年サービスホットライン」〔中国共産主義青年団の青少年向けメンタル相談・法的援助窓口〕と「国家無料メンタル相談ホットライン」の案内が提示される。ページにはさらにメンタルヘルスの啓発コーナーも置かれ、焦燥感・不眠・感情障害などの顕著な人に向け、自己学習を通じて科学的な対処方法が理解できるようにしている。さらに重要なことは、このメカニズムは一連の業務モデルを通じて、潜在的自殺者に生身の人間が予防介入することだ。

　AI技術を利用して危険を感知する一方で、ショップに対して専門的な訓練もおこなっている。ショップ側は危険を察知すればただちに相手を落ち着かせ、自殺を踏みとどまるよう説得し、第一の保護障壁を築くと同時にアリババセキュリティーの「自殺予防介入スペシャリスト」に連絡する。緊急の場合には、プラットフォームと警察が協力して適時に介入する。

　当初は、ショップ側と消費者とのチャットの内容から判断してアラート機能を発動していたが、この方法の精度は決して高くはない。その後、アリババのプログラマーがマルチモーダル・ニューラルネットワーク〔多角的に人間の感情を認識するアルゴリズムモデル〕を構築し、ユーザーに本当に自殺のリスクがあるかどうかを識別するようになった。あるプログラマーはわざわざこのために1万語以上の自殺関連ワードを収集し、アルゴリズムを精緻化した。

　プロジェクトがスタートすると、まず1,000以上の淘宝ショップに対して訓練をおこなった。不審な注文を受けた場合、やり取りの際にショップ側からひとこと用途を聞き、危険を察知すれば受注をストップするよう求めた。スタート当初、大多数のショップはこのプロジェクトに積極的に関わろうとしなかった。ある試算によれば、こういった注文を1件阻止するコストは、その商品の2日分の売り上げに相当する。

　第一の防衛ラインでのショップの積極性を引き出すため、「生命保護」プロジェクトは各ショップのカスタマーサービスに対して2万元の予算補填を提示した。その後、一部のトップクラスのショップが何件かのネット注文をストップし、自分たちの行動が確実に「命を助ける」ことができるのだと実感して、このプロジェクトに参与するショップはますます増えていった。ショップから武綱のもとに「この試みは意義がある」という声が続々と寄せられ、さらには注文ストップの後、補填は不要だというショップも出てくるようになった。

アリババセキュリティー・自殺予防介入チームメンバーの武綱。写真／取材先提供

水面下にある危険

「生命保護」が予防介入し支援したケースは若者が多く、そのうち「90後」と「00後」〔1990年代生まれと2000年代生まれ〕が6割以上を占める。ユーザーの多くが若年層であるビリビリ動画が提供したデータによれば、2020年上半期の自殺予防介入ケースのうち、警察への通報に至ったのは26例だが、深刻な抑鬱と自殺傾向が見られたケースは、5月だけでも714例にのぼった。

　アリババのほか、若年層ユーザーに人気のあるテンセントやビリビリ動画などの企業でもこういった情報を発見すれば、関連した救助活動やサービスをおこなうことがある。アメリカでも2019年9月10日の「世界自殺予防デー」前後にFacebookが、自殺や自傷行為に関する事柄がネット上に出ることに対する人々の不安を解消するため、自殺関連の話をしているユーザーの公開データを共有し、同時に健康面の専門家を安全ポリシー・マネージャーに招聘する対策を開始した。

　ビリビリ動画にはインターフェイスに「動態」と呼ばれる機能があり、微博（ウェイボー）にも類似のものがある。もしサイト内で誰かが深刻なマイナス感情などを含む投稿をすれば、審査スタッフが介入してそのユーザーの心理状態を判断する。かなり危険な種類の内容（重度の抑鬱、自殺傾向）であった場合は、直ちに専門のメンタルサポートカスタマーサービスに引き継いで介入させる。カスタマーサービスはユーザーに接触して安全確認を行い、同時にメンタル面のケアをおこなう。もし深刻な精神的問題であれば、カスタマーサービスはさらにプロのメンタルサポート機関である「青小聊」に引き継ぎ、より専門的なメンタルサポートとケアをしてもらう。もしユーザーの身が危険に瀕していれば、警察に通報して連携して処理し、ユーザーの生命の安全を確保する。

　ビリビリ動画や百度の検索ページで「睡眠薬」「自殺」などのキーワードを入れると、注意画面、支援コメント、不眠などの問題を解決するための知識普及動画や、カウンセリング機関の連絡先などが現れる。メンタル面の問題を抱えているがまだそれほど深刻ではないネットユーザーがいつでも助けを求められるようにするためだ。淘宝提供のデータによれば、携帯アプリで今年6月に「生命保護」啓発ページを導入してから、メンタルヘルス知識の動画再生回数は1日2,500回前後に達し、現場のスタッフが感じる自殺リスクは3割近く減少した。

　一方、テンセントの「微光行動」プロジェクトは主にQQユーザーを対象としている。そのきっかけは、外国から流入した「青い鯨ゲーム」〔Blue Whale Challenge〕のような自殺誘導行為への対処だった。このプロジェクトは2018年7月に開始し、2019年1月までに2,000以上のQQグループアカウントを停止、警察と連携して35名の自殺・自傷傾向のあるユーザーを助けた。

　2014年、世界保健機関（WHO）がはじめて発表した自殺予防報告では、全世界の15～29歳の死亡原因の第2位が自殺だった。WHOは世界各国に対して、すべての年齢層を対象にした自殺予防介入策の実施を促した。その方法は、衛生・保健サービスへのアクセスビリティの向上、メンタル面の健康促進、アルコールの有害な摂取の低減、自殺ツールを入手しにくくすること、メディアの責任の明確化を進めることなどである。

　自殺予防のためにネット上で人が介入することはすでに目新しいことではない。2018年、武漢科技大学ビッグデータ研究院副主任・特別招聘教授の黄智生（ホアン・ジーション）氏は「樹洞救援団」を設立し、AI技術でネット上の情報を収集して自殺行為の予防介入を実施している。すでに昨年末までに1,600回以上の自殺行為を食い止めた。これよりもさらに以前の2017年7月には、中国科学院心理研究所研究員の朱廷劭（ジュー・ティンシャオ）氏とそのチームが、自殺願望のある新浪微博のユーザーに危機介入の提供をはじめた。

　朱廷劭氏のチームは、自殺で亡くなった新浪微博のユーザーと、自殺傾向のないユーザーの社交行動や言語使用の差異を比較し、自殺傾向のあるユーザーの識別モデルをそこから導き出した。朱氏はある講演で異なるユーザーの3つの発言を例に挙げ、自殺の考えがあるだけならレベル1、考えると同時に企図している場合はレベル2、企図から実行に移っている場合はレベル3と、発言は程度に基づき3つのレベルに分けることができると説明した。

　心理学研究によれば、「激情による自殺」「衝動的な自殺」をしようとする人には内面に非常に強い生への欲求があり、さらに人に話を聞いてほしい、表現したいという欲求もある。これは自殺予防可能なカテゴリで、つまり先述の「レベル2」の状態に当たる。ネット企業が自殺予防介入する対象は大部分がこういった人々である。武綱はこう語る。「『行って』しまうことを決めた人々が私たちのこのプラットフォームに辿り着く可能性は低いのです。物流は時間がかかります。非常に決心が固ければ、その人は待てません。すぐにでも『道具』を手にして『行って』しまいたいと思うでしょう。もっと激しい方法をとるかもしれません。でも意思と計画があっても実行まで決心が固まっていない人たちには、（そういう状況で）私たちが介入する時間が少しあるのです」

　ネット企業のスタッフにとって、生命の安全リスクに関わる案件を処理するのは、インターネット「ライフガード」たちの日々多忙な業務の一つに過ぎず、企業としてのKPI〔重要業績評価指標〕の審査対象となることはない。全力を尽くしても救いようのない事例に直面すれば、スタッフはなおのこと無力感を感じる。チームが偉大なことをしているとは武綱は思っていない。自分たちは偶然にそういう悩める人々に出会い、たまたま彼らに寄り添っただけなのだ。「重要なことは、結果が全てだということです」。武綱はこう語る。

※本稿は『月刊中国ニュース』2020年12月号（Vol.106）より転載したものである。