溢れるAIによる ディープフェイク 。 メタ は審査を強化も実効性には疑問

記事のポイント
メタは、他社のAIプラットフォームによって生成されたコンテンツにラベルを付けを行う独自のAI技術を使用する計画を発表した。

背景には、AIが生み出す誤情報が政治に悪影響を与える懸念があり、たとえばディープフェイク音声が政治的な呼びかけに使用されたケースが挙げられている。

しかし、メタのポリシーに即効性があるのか、本当に害を防げるのかという疑問や不安が上がっており、過去の報告ではメタの審査に問題があることも指摘されている。

AI生成コンテンツがソーシャルメディアに広がるなか、メタ（Meta）が2月6日、新たなポリシーと検出ツールを導入して、透明性の向上と有害コンテンツの防止に乗り出す計画を発表した。しかし一部からは、この取り組みがすぐに効果を発揮するのか、これで本当に害を防げるのかを疑問視する声も上がっている。
Facebookとインスタグラムを傘下に置くメタによれば、他社のAIプラットフォームによって生成されたコンテンツを対象としてラベル付けを開始する予定だという。コンテンツにジェネレーティブAIの特徴が含まれている場合、その情報の開示をユーザーに義務付けることに加えて、メタは独自のAI技術を使って、ジェネレーティブAIコンテンツを識別し、ポリシーを実行するという。
さまざまな変更の実施が「今後数カ月」のあいだに予定されているが、そのひとつとして、Go

リンク元