AIの偏見、認識されつつも未解決の難題とは？

AIテクノロジーを人類最大の問題を解決してくれるものと賛美する人もいれば、AIは人類存続の危機をもたらす悪魔と恐れる人もいる。もちろんこれらは、さまざまな考えの中の両極端に位置するものだが、AIが未来に向けた胸躍る好機をもたらすものであり、同時に克服しなければならない難題を孕んでいることに変わりはない。
近年、多くのメディアの関心を惹きつけている問題点のひとつに、AIに生じた偏見がある。それは、2年以上も前に私がTechCrunchに書いた「Tyrant in Code」（コードの中の暴君）のテーマでもあったが、論議は、ますます激化している。
あの当時、Googleは、ユーザーが「hand」（手）と画像検索すると、ほとんど白人の手が現れ、「black hands」（黒い手）と画像検索すると、白人の手が黒人の手に何かを施していたり、黒人の手が土をいじっていたりなど、じつに侮辱的な画像が「hands」の場合よりもずっと多く示されるとの調査結果から炎上の真っ最中だった。これは大変にショッキングな発見であり、AIテクノロジーは社会の分断を解決するどころか、それを恒久化してしまうという主張を生み出した。
2年前に私が断言したとおり、そうした事態は杞憂ではない。少なくとも2017年当時、米国におけるAIアルゴリズムの開発は、大多数が白人男性の手によって行われていた。その人たちがマイノリティーに

リンク元