テック業界は、AIが生成したコンテンツにウォーターマーク（透かし）を入れるなど、さまざまな取り組みで連携を図っているが、一部の専門家はもっとやるべきことがあると警告している。
モジラ（Mozilla）が最近発表したリポートで示唆されたのは、AIコンテンツの開示や検出によく使われている手法ではAIで生成された誤情報に伴うリスクを十分に阻止できないとのことだった。多くのAIコンテンツプロバイダーやソーシャルメディアプラットフォームで使われている現在の対策は、「悪事を働く者に対抗できるほど強力ではない」と、研究者らは2月26日に発表されたこの分析結果で指摘している。
研究者らが分析したのは、AIコンテンツにラベルを付けて表示や音声で警告するという「人間向け」の手法と、暗号技術の使用、メタデータの埋め込み、統計的パターンの追加など、機械で読み取り可能なウォーターマークの手法だった。
AI生成コンテンツとインターネット進化の新たなリスク
AI生成コンテンツの広がりが、インターネットでのコンテンツ配信手段の進化と同時に起きていることが、固有のリスクを生み出している。モジラは、技術的な解決策に焦点を当てるだけでは、よりターゲットを絞った政治広告など、広範な影響をもたらすシステム的な問題の解決が置き去りにされかねないと指摘し、自己開示だけでは十分ではないとした。
モジラのリポートの著者は、「ソーシャルメディアはコンテンツ配信の重要なインフラであり、コンテンツの影響を加速させ、かつ増幅させている」と述べている。また、「ソーシャルメディアプラットフォームはよく知られているように、感情的なコンテンツや扇動的なコンテンツをアルゴリズム的に推薦するという問題を抱えているため、合成コンテンツの配信を優先し、その影響力を『倍増』させている可能性がある」とも言い添える。
モジラによれば、最善のアプローチは、技術的な解決策を増やして透明性を高めるだけでなく、メディアリテラシーを高めて法的規制を設けることだという。また、欧州連合（EU）のデジタルサービス法（Digital Services Act：以下、DSA）に言及し、DSAは特定の解決策を示すのではなく、プラットフォームに対策を要求している点で「現実的なアプローチ」だと語った。［続きを読む］
The post AI による誤情報をどう阻止するか。既存の手法は「対抗できるほど強力ではない」 appeared first on DIGIDAY［日本版］.
Source: New feed
