公共向けアルゴリズムには慎重な配慮が必要だ

【編集部注】著者のBrian Brackeenは、顔認識ソフトウェアを開発するKairosのCEOである。
最近MIT Technology Reviewに掲載された記事で、記事の著者Virginia Eubanksが自身の著書である”Automating Inequality”（不平等の自動化）について論じている。その中で彼女は、貧困層が不平等を増加させる新技術のテスト場にされていると主張している。なかでも、アルゴリズムがソーシャルサービスの受給資格を判断するアルゴリズムに使用されると、人びとがサービスを受けにくくなり、一方では侵害的な個人情報提供を強制される点が強調されている。
私は、法執行機関による顔認識の公的使用に関する危険性について、多くのことを語ってきたが、それでもこの記事には目を開かされた。アルゴリズムデータに基く決定によって、本当にサポートサービスが必要な人たちに対する支援が拒絶もしくは削減されてしまうという、不平等で生命を脅かす実情が存在している。
私たちは、住宅ローン、クレジットカード申請、自動車ローンなどの、私たちの生活について恣意的な決定を下す企業にはある程度慣れている。とはいえそうした決定は、決定のための直接的な要因にほぼ基いている、クレジットスコアや、雇用状況、そして収入などだ。これに対してソーシャルサービスに対するアルゴリズム的

リンク元