Reddit twierdzi, że systemy AI ograniczają spam i fałszywe głosy

Reddit podał 6 lipca, że ulepszone systemy automatyczne zatrzymywały dziennie 23 miliony wyświetleń spamu, zanim zobaczył je człowiek. Firma przedstawiła działanie jako ochronę ludzkich rozmów nadających platformie wartość, gdy generowane wpisy, boty i manipulacja utrudniają ocenę autentyczności w internecie.

Platforma twierdziła też, że codziennie wykrywa około 25 tysięcy nowych postów i komentarzy spamowych oraz cofa prawie 2 miliony nieautentycznych głosów. Według Reddita ekspozycja użytkowników na spam spadła od stycznia do marca o 20 procent wobec poprzednich trzech miesięcy. Wszystkie pomiary pochodzą od Reddita i nie przeszły audytu zewnętrznego w analizowanych źródłach.

Reddit podał, że średni czas działania wobec angielskich tekstów pełnych nienawiści lub przemocy spadł poniżej pięciu sekund. Szybkość może ograniczać ekspozycję, ale nie pokazuje, jak często usuwane są legalne materiały, jak działają odwołania lub czy wynik obejmuje inne języki. Liczby bazowe i odsetek fałszywych alarmów ułatwiłyby ocenę.

Ogłoszenie dotyczyło spamu, botów, manipulacji i materiałów szkodliwych. Nie było ogólnym zakazem postów napisanych z pomocą AI. To ważne, ponieważ niska jakość nie zawsze oznacza treść generowaną, a wygenerowana treść nie jest automatycznie dowodem manipulacji głosami lub skoordynowanego konta.

Reddit ma bezpośredni interes w dowodzeniu użytkownikom i wyszukiwarkom, że jego rozmowy pozostają autentyczne. Liczby pokazują skalę i zmianę działań, ale nie rozstrzygają, czy ludzie uważają serwis za bardziej wiarygodny. Zewnętrzne audyty, wyniki według języka i przejrzyste dane o odwołaniach stworzyłyby mocniejszy zapis odpowiedzialności.