ブログで100万の秘訣ってなに?
詳しくはコチラ

InstagramはAIにより悪質なキャプションにも注意を与える

今年7月にInstagram(インスタグラム)は、悪質と思われるコメントが投稿される前に警告する機能を発表した。先回りして警告するこの機能を、今度はキャプションにも拡張する。今回のこの新機能では、ユーザーが投稿に付けるキャプションを書くと、これまでにいじめと報告された文言に類似していないかどうかをインスタグラムのAIが検知する。
ただし悪意のある発言の公開を阻止するわけではない。書いた言葉を考え直すようにとちょっと注意を促すだけだ。しかし前述の機能が公開された後は、コメント欄でのいじめが減っている。
この新機能が実装されると、ユーザーが悪質と思われるキャプションを書いた場合に「このキャプションは以前に報告されたものと類似しているようです」と通知が表示される。この通知を見たユーザーは、文言を編集するか、ボタンを押して詳しい情報を見るか、無視して投稿することができる。
オンラインでのいじめの減少だけでなく、インスタグラムはユーザーに対し、どういうことが禁止されているか、どういう場合にルール違反でアカウントが無効化されるおそれがあるかを知らせることも狙っている。
今回の新機能でネガティブな、あるいは暴力的なキャプションの投稿を阻むことはできないが、インスタグラムはオンラインでのいじめの被害者を救う機能をこれまでに数多く導入している。例えばユーザーは、個々のポストについてコメントをオフ

リンク元

コメント

タイトルとURLをコピーしました