Instagramは、敵意があったり、攻撃したり、あるいは嫌がらせをするようなコメントを自動的に検出し、人びとがそれらを見ないようにする仕掛けを導入しようとしている。この新しいシステムはFacebookとInstagramがDeepTextを使って行った成果に基づくものだ。なおDeepTextとは、スパムと戦うために言葉を文脈の中で解釈するテキスト分類エンジンだ。
Wiredが最初に報告したように、Instagramのシステムは、Facebookがスパム対策に上手く適用できた技術を、昨年10月から取り込んでいる。どのようスパムを識別すべきかを人間の入力によって教える訓練を経て、チームは満足できる結果を得ることができた。ただしこのことによって、対策前に比べて正確にはどれ位の効果が出たのかについては発表されていない。
このシステムの成功に基づいて、チームは更により強烈な問題に適用できるかを探りたいと思っていた。すなわち敵意に満ち、嫌悪感むき出しで、嫌がらせを狙ったコメントを識別するということだ。さて、おそらく読者はインターネットには詳しいと思う。もしそうなら、インターネットという場所が、その最終的な効果をほとんど考慮しない、言いっ放しの、傷つける罵りや攻撃が、大量に拡散される手段となっていることに気がついているだろう。
Wiredによれば、DeepTextの訓練を請け負った評価者たちは
スポンサーリンク
AIでヘイトコメント問題に取り組むInstagram
IT起業ニュース
コメント