Reddit、AIシステムでスパムと偽投票が減少と説明

Redditは7月6日、強化した自動システムにより、人が目にする前に1日2300万件のスパム表示を止めていると発表した。生成投稿、ボット、操作によってオンラインの真正性を判断しにくくなる中、プラットフォームの価値を支える人間同士の会話を守る取り組みと説明した。

同社は、1日に約2万5000件の新規スパム投稿やコメントを検出し、約200万件の不正な投票を取り消しているとも述べた。1月から3月までのスパムへの利用者露出は、その前の3カ月より20%減ったという。いずれもRedditが提供した測定値で、今回の資料では外部監査を確認できない。

英語の憎悪や暴力を含む文章に対する平均措置時間は5秒未満になったとRedditは説明した。迅速な対応は露出を減らし得るが、正当な内容を誤って削除する頻度、異議申し立ての仕組み、他言語での性能は分からない。分母と誤検出率があれば、主張を評価しやすくなる。

発表の対象はスパム、ボット、操作、有害な内容であり、AIを補助的に使って書かれた投稿の全面禁止ではない。低品質な内容が常に生成物とは限らず、生成物が自動的に投票操作や組織的アカウントの証拠になるわけでもないため、この区別は重要だ。

Redditには、会話が利用者と検索エンジンにとって本物であり続けると示す直接的な利害がある。数値は対策規模と変化を示すが、利用者がサイトを以前より信頼できると感じるかは解決しない。外部監査、言語別結果、異議申し立てに関する透明なデータが、より強い説明責任につながる。