AIは障害者を排除し包摂する

オーストラリアの放送局ABCは、障害者の社会的包摂への新技術の利用について討論番組を制作した。11月5日の放送だがネット経由で聴取できる。ここではその概要を紹介する。
番組はスマートスピーカーの話題からスタートし、音声認識・音声合成技術、そしてAI（人工知能）を活用したスマートスピーカーが障害者に利用されている様子が紹介される。複数の障害を持ち読み書きもできないため今までコンピュータを使用していなかった男性が、スマートスピーカーでネットにアクセスできるようになり、知識の海にたどり着いたという。
新技術には障害者を排除する側面もある。確率の大小を基準にして動くAIには例外的な事象を排除する傾向がある。異常な声やアクセントがあると声は認識されず、顔変形があると顔が認識されない。これによって、クレジットやローン、保険、仕事などの申請などができない場合がある。
イノベーションは社会と想像力の最先端（エッジ）で起こる。エッジゆえに社会常識からは外れ、結果として障害者が排除されることも起き得る。しかし、排除は意図的ではない。
平均的でないデータを取り込むことで新技術は進歩するので、投げ捨てられたデータを使ってマシンを教えることを始めるべきというのが討論参加者の主張である。参加者の一人は、現時点ではAIが認識・理解できないようなシナリオや秘密テストを作成しているという。これらのシナリオや秘密テス

リンク元