今日、メディアが抱えている最大の問題は、いわゆる「フェイクニュース」。それは表面的に本物を装うという点で大変に悪質だ。AIを使ったツールがフェイクニュースの判別に役立つと言われているが、それを可能にするための最良の方法は、AI自身にフェイクニュースの書き方を教えることだと研究者たちは気がついた。それほど危険なことには感じられないかもしれないが、これは諸刃の剣だ。
「Grover」は、ワシントン大学とアレン人工知能研究所（AI2）のコンピューター科学者たちが開発した、フェイクニュースの執筆に大変に長けた新型のシステムだ。いろいろな話題を、いろいろなスタイルでフェイクニュースに仕立てることができる。その直接的な効果として、フェイクニュースの見極めが得意になったことがある。このモデルに関する論文はこちらで読める。
フェイクニュース執筆システムのアイデアは、これに始まったものではない。実際にOpenAIは、同団体が開発したテキスト生成AIを世に送り出すのは大変に危険だと話し、波紋を呼んだことがある。しかし、Groverの開発者たちは、フェイクニュースを生成するツールを公開して学習させていくことは、フェイクニュースとの戦いを有利にする以外の何者でもないと信じている。
OpenAIは非常に優れたテキストジェネレータを開発したが、そのままリリースするのは危険すぎると考えている
「これらのモデル
スポンサーリンク
敵を知るには敵になろう！向学のためにフェイクニュースを自分で書くAI
IT起業ニュース
コメント