New York市が近く、行政の各部局が使用しているアルゴリズムの公正さを監視するタスクフォースを設ける。自動化システムのエキスパートと、それらのシステムのユーザーや受益者（ときには受‘害’者）代表から成るそのチームは、市が使っているアルゴリズムを精査して、説明責任を強化し偏向を避けるための推奨を行う。
平凡な名前のその設置条例は市議会で可決され、今は市長のデスクの上で署名を待っている。ACLUのニューヨーク支部も、これに賛同している。
たとえば、“自動化決定システム(automated decision system)”（これは法律用語だ！）が、被告人の保釈の可否を決めている、としよう。しかしそのシステムの訓練データに偏向があったため、特定の人びとをほかの人びとよりも不法に依怙贔屓（えこひいき）している、としよう。
そんな場合タスクフォースは、この状況をどのように処理するかを書いたレポートを市へ提出する。そこにはたとえば、次のようなことに関する推奨事項があるだろう:
被告人など関連する人びとが、自分の状況をアルゴリズムが評価した/しなかったことを、どうやって知るのか。人びとはその評価過程について、どのように報告されるべきか。
システムは特定グループ、たとえば高齢者や移民、障害者、少数民族などに特別の（好悪どちらかの）対応をしていな
スポンサーリンク
ニューヨーク市が行政が利用する各種システムのアルゴリズムを監視する組織を作る
IT起業ニュース
コメント