Discordがネット上の有害コンテンツとハラスメントに真剣に取り組むためAIソフトウェアSentropyを買収

オンラインチャットプラットフォームのDiscord（ディスコード）はSentropy（セントロピー）を買収する。AIを利用してオンラインハラスメントやヘイト発言を検出、削除するソフトウェアを開発している会社だ。
現在Discordは、発言の管理に「マルチレベル」のアプローチをとっており、社内の人力監視チームと有志のモデレーターと管理者の力で個々のサーバーの基本ルールを作っている。ユーザーを守り、コンテンツ管理ポリシーを整備することに特化したTrust and Safety（信用と安全）チームは、2020年5月時点でDiscordの労働力の15％を占めている。
Discordは、Sentropyの独自製品を既存のツールキットに組み込むとともに、同社の経営陣も迎え入れる。契約条件は明らかにされていないが、この買収は有害なコンテンツとハラスメントに真剣に取り組むことが正しい行動であるばかりでなく、ビジネスにもなることを示す証だ。
「Trust and Safetyチームの技術とプロセスは競争優位性のために使うべきものではありません」とSentropy CEOのJohn Redgrave（ジョン・レッドグレイブ）氏が合併を発表するプログ記事で述べた。「誰もがデジタルでもリアルでも安全でいる権利があります。モデレーターたちはこのオンラインで最も困難な仕事を、効率よくかつ悪影響なくこなすための

リンク元