ヌードと下着を判別できない？　Google セーフサーチの「行き過ぎた」アルゴリズムに悩まされるボディウェアブランド

黒人創設ブランドで、さまざまな色合いの肌に合わせたヌードボディウェアに特化した「ヌードバール（Nude Barre）」は、Google広告が検索結果でぼかし入り画像にされてしまう問題に立ち向かっているブランドのひとつだ。
その「元凶」は、Google画像検索（Google Images）やGoogle検索（Google Search）に搭載されているセーフサーチ（SafeSearch）だ。この機能により、潜在的に攻撃的で不適切な可能性があるコンテンツは検索結果から除外される。セーフサーチは何年も前から存在していたが、ぼかしを入れるのが公式にGoogle画像検索のデフォルト設定になったのは2023年8月のことだ。ヌードバールの創設者であるエリン・カーペンター氏が、この広く使われている検索エンジンによる広告支出とトラフィックの両方が落ち込んでいることに気づきはじめたのはその時だった。
セーフサーチには何十年にもわたって問題が報告されてきた。2003年にハーバードロースクール（Harvard Law School）によって行われた調査では、無害なサイトが誤ってブロックされることが判明した。何かを検索し、露骨なコンテンツが出てきたときは、画像や動画の「表示」オプションをクリックして、見ることを選択できる。しかしそれは、セーフサーチが不快と判断した画像を自動的にぼかした後のこ

リンク元