このソフトウェア・テクノロジーは多くの命を救うためのものだ。FacebookはAIを利用した「プロアクティブな探知」機能を実装する。これはコンテンツをスキャンして自殺の可能性を示唆する投稿を抽出し、自殺の危険性が発見されたユーザー、あるいはその友達に対し、必要に応じてメンタルヘルス専門家などのリソースを提供できるようにする。
また地域で自殺防止のために活動している人々に通報する機能もある。AIを利用して憂慮すべき兆候がある投稿にフラグを立て、これを人間のモデレーターが精査する仕組みだ。従来のように投稿を読んだメンバーからの通報を待って行動するのにくらべてはるかに素早い対応が可能になるという。
Facebookでは以前からAIを利用して問題のある投稿を判別する実験を行ってきた。今回は自殺防止通報という分野でこれを大々的に実際の機能として展開する（当面アメリカが対象）。Facebookでは世界中でAIを利用した投稿スキャンを行っている。例外はプライバシー関連法が複雑なEUだけだ。
Facebookでは特に危険性が高い投稿を優先してモデレーターが介入し、あるいは地元の自殺防止対策組織に通報する。Facebookでは自殺防止に対応するモデレーターを増員し、専門的な訓練を施し、24時間体制で待機させる。また自殺防止に活動しているSave.org、National Suicide Preve
スポンサーリンク
FacebookにAIを活用した自殺防止・通報機能――ライブビデオでの自殺を機に本格的対策
IT起業ニュース
コメント