機械学習のシステムはときどき人間をびっくりさせる…学習内容に忠実なだけで

機械学習の弱点や奇癖をまとめた、このシンプルなスプレッドシートは、それほど膨大ではないが、‘機械’の考え方を知るための楽しい資料だ。研究者のVictoria Krakovnaが作ったこのリストは、ロボットが法の精神と文字の両方に同時に従おうとしたときの、さまざまな状況を記述している。
たとえば下のビデオでは、機械学習のアルゴリズムが、ボートレースにただ参加するのではなく、円を描いてぐるっと回ったら高い得点が得られる、と学習した結果だ。
別のシミュレーションでは、“生きるためにはエネルギーが必要だが出産のエネルギー消費量はゼロ”、と学習した種族が、じっと座って動かない〔エネルギー消費量最小〕ライフスタイルを発達させ、もっぱら生殖行為〔エネルギー消費量ゼロ〕だけをして子孫を生産し、それを食べたり、それらにも生殖をさせて食料としての子孫を作らせる。Krakovnaはそれを、“怠け者の共食い種族”と呼んでいる。
もちろんこれらの‘機械’は本当の意味で“考えて”いるわけではないが、いくつかのパラメーターと、進化という能力と目標を与えられたロボットが、そのアルゴリズムに忠実に従って、おかしなことをしてしまう例だ。
あるテストでは、ロボットが自分の腕でテーブルを殴ることによっ

リンク元