Цукерберг вистрілив із перевірки фактів. Ми перевірили їх заміну.

Я склав примітку, що розвінчав зображення, яка стверджує, що показує Трампа, який спить під час церемонії. Я цитував кадри в прямому ефірі та підтверджуючи часові марки. Я пов’язаний з дослідженнями Snopes.

Нічого з цього не було. Моя нота спільноти ніколи не була додана до публікації, оскільки недостатньо інших користувачів проголосували, що це було “корисно”.

Протягом чотирьох місяців я склав 65 нот, що розвінчав теорії змови на теми, починаючи від аварії літака до морозива Бен і Джеррі. Я намагався позначити фальшиві відеокліпи, створені штучним інтелектом, вірусні загрози безпеці та помилкових звітах про льодового партнерства з Doordash.

Лише троє з них опублікували, всі пов’язані з липневими повені в Техасі. Це загальний рівень успішності менше 5 відсотків. Запропоновані нотатки були на теми, інші новини – включаючи Snopes, Newsguard та Bloomberg News – вирішили, що варто опублікувати власні перевірки фактів.

Цукерберг звільнив професійних перевірок фактів, залишивши користувачів боротися з неправдивими нотками спільноти. Як головна лінія захисту від підступів та навмисних брехунів, що використовують нашу увагу, нотатки громади – поки що – ніде не до цього завдання.

Казки, наповнені неточними інформаційними питаннями для 54 відсотків американських дорослих, які, за даними дослідницького центру Pew, отримують новини з соціальних медіа.

Рішення Цукерберга про звільнення фактів широко критикувалось як кревену спробу звернутися до президента Дональда Трампа. За його словами, META приймає систему нотатки спільноти, що використовується на краудсурсах, використовувану X Musk’s X, оскільки користувачі будуть більш надійними та менш упередженими, ніж перевірки фактів. Перед тим, як нотатки опубліковані до публікацій, достатньо користувачів повинні погодитися, що вони корисні. Але угода виявляється складнішою, ніж це звучить.

Мета відмовилася відповідати на мої запитання про те, скільки записів він опублікував, скільки учасників у програмі чи є докази, що це впливає, незважаючи на те, що обіцяє бути прозорим щодо програми.

Алексій Мантзарліс, директор Ініціативи безпеки, довіри та безпеки в Cornell Tech, опублікував ще одну незалежну оцінку нотаток громади в червні і заявив, що “ще не готовий до прайм -тайму”. Він виявив, що лише кілька запропонованих записів дають справді цінний контекст, а деякі – неточні.

“Це стосується чотирьох місяців, вони не поділили оновлень”, – сказав мені Мантзарліс.

Це має значення, оскільки програми громади розповсюджуються за рамки X та META як спосіб для Big Tech передати політично загрозу роботу модеруючого контенту. YouTube сказав, що минулого року тестує версію. І Тікток заявив у квітні, що тестує систему під назвою Виноски.

Якщо нотатки громади стають стандартом для боротьби з неправдивими, ми повинні бути чесними щодо того, що вони можуть, а що не можуть зробити.

Волонтери можуть натиснути кілька кнопок у будь -якому дописі від користувача США та запропонувати примітку, доповнену текстом та посиланням як доказ. Я навмисно склав нотатки, які перетнули політичний спектр. Наприклад, я запропонував нотатки про сфабриковане зображення Пам Бонді, що бачиться понад півмільйона разів, а також помилкову претензію на багатство Олександрії Окасіо-Кортеса, що бачили чверть мільйона разів.

Я також проголосував за десятки нот, складених іншими, оцінюючи їх “корисними” або “не корисними”.

Нотатки спільноти мають переваги. Я бачив, як користувачі намагаються вирішити більш широкий набір тем, ніж традиційна перевірка фактів, можливо, є експертом. Деякі намагаються боротися з брехнею, простою для розуміння мовою.

Але я швидко виявив проблеми. Іноді публікації, які я ідентифікував для нотаток, не приймають їх, оскільки вони були написані обліковими записами за межами США (які виключені з початкової програми META) або мали інші технічні проблеми. Я бачив нотатки, запропоновані іншими, які мали низьку якість, деякі з більшою думкою, ніж факти, або які отримали “Google It”.

Найбільшим викликом було прорізання. Я почав внести свій внесок у квітні, і до початку липня я не запропонував нічого не було опубліковано. Опублікована лише одна примітка, яку я оцінив як корисну, написану кимось іншим.

Мета каже, що це не вибір вишні, які нотатки публікуються. Він використовує “алгоритм мосту”, щоб спробувати визначити, які нотатки насправді корисні, на відміну від просто популярних. Ця формула вимагає учасників, які не погоджувались один з одним минулий Примітки, щоб погодитися з тим, що нова нота корисна.

Теоретично це добре. Ви не хочете публікувати нотатки, що містять неправди, або просто напади на певних людей чи ідей.

Однак угоду важко знайти. Примітки, які я не міг опублікувати, включали факти, які не повинні обговорюватись, включаючи виявлення Deepfakes AI. Ця система також не піддається унікальним ризикам новин та швидкоплинних вірусних змов. (Meta все ще видаляє деякі неправди безпосередньо, але в дуже конкретних випадках, коли це може призвести до фізичної шкоди або втручатися у вибори.)

Meta каже, що використовує той самий алгоритм, що і X, який опублікувала суперницька соціальна мережа. “Це дуже, дуже консервативна система”, – сказала Коліна Колтай, яка допомогла розробити нотатки спільноти у Twitter, який зараз називається X. Алгоритм краще уникати поганих речей, ніж забезпечення того, щоб хороші речі насправді опубліковані, каже вона.

Колтай, який зараз є журналістом Bellingcat, каже, що її власна персональна ставка публікації на X становить близько 30 відсотків – низька, але все ще множиться вище, ніж у моїх соціальних мережах Мета.

Чи можливо, мої нотатки були занадто однобічними? Я поділився тим, що запропонував з Манцарлісом, який також був засновником директора міжнародної мережі перевірки фактів. Він сказав, що вони використовували “неполяризуючу мову, чіткий контекст та високоякісні джерела”.

Можливо, META не змогла набрати достатньо широкого різноманітності користувачів, щоб відповідати вимогам алгоритму мости. Також може бути те, що громада зазначає добровольців, які Meta мають просто не дуже займаються. Я продовжував робити свій внесок місяцями, хоча нічого, що я писав, не опублікував. Я не можу уявити, що більшість неоплачених користувачів намагатимуться триматися.

Деякі з цих факторів можуть покращитись, коли програма META MATURES. Але оскільки Цукерберг вже звільнив професійних перевіряючих фактів, система примітки громади-це не просто тест-це наша поточна основна лінія оборони.

Як примітки громади можуть покращити

Але наша найкраща надія полягає в тому, що команди всередині мета, які дбають про правду, можуть розвивати нотатки громади, щоб зробити їх більш ефективними.

Це може почати дозволяти людям складати нотатки на публікаціях, написаних закордонними рахунками. Він може розробити тріадну систему, щоб поставити нотатки на певні теми або, ймовірно, завдати більше шкоди в черзі. Це також може покращити залучення, надаючи учасникам Clout – можливо, значок? – для повторних подань.

І все -таки реальність полягає в тому, що випадково відібрані волонтери просто не можуть виконати цю роботу самостійно.

Twitter спочатку запустив нотатки спільноти разом із професійними перевірками фактів. “Ніколи не було, щоб бути соломкою”, – каже Колтай.

Маск також врешті-решт закінчив програму оплати фактів X, а нотатки громади намагалися не відставати від припливу неправди. Аналіз минулого року напередодні президентських виборів виявив, що більшість точних записів, запропонованих користувачами X на політичних посадах, ніколи не були показані громадськості.

Перевірці фактів можуть помилитися, як сказав Цукерберг, але вони також можуть перевірити один одного як частину спільноти.

META може дати експертам спеціалізованих профілів у нотатках громади, як тільки вони очистить якісь довіри – і, можливо, також дозволять їм платити за свою роботу. “Професіонали та натовп не суперечать, вони можуть доповнити”, – каже Мантзарліс.

Андреа Хіменес внесла цей звіт.