Користувачі Gen Z та тато протестували акаунти підлітків в Instagram. Їх корми були шокуючими.

Протягом двох тижнів, каже Гулаті, його тестовий рахунок отримав рекомендований сексуальний зміст, який “дуже мало залишив уяві”. Він нарахував щонайменше 28 котушок Instagram, що описує сексуальні дії, включаючи цифрове проникнення, використовуючи секс -іграшку та меми, що описують оральний секс. За його словами, акаунт в Instagram став зайнятий дискусією “токсичної маскулінності” про те, що чоловіки повинні, а що не повинні робити “.

Ще чотири тестери Gen Z, що є частиною молодіжної організації під назвою Design It для нас, зробили той самий експеримент, і всі отримали рекомендований сексуальний зміст. Четверо з п’яти отримали образ тіла та невпорядкований вміст їжі, наприклад, відео про жінку, яка говорить: «Худий – це спосіб життя, а не фаза».

Молоді люди, дослідження яких отримали стратегічну та оперативну підтримку некомерційною підзвітною технікою, також показали алкоголь, наркотики, ненависть та інший тривожний зміст. Деякі детально описані у звіті, опублікованому підзвітною технікою, але занадто груби, щоб описати тут.

Що слід вигадливо зрозуміло для будь -якого батька: на підліткові рахунки Instagram не можна покладатися на фактично захищати дітей. Небезпека, з якою вони стикаються, – це не просто погані люди в Інтернеті – це також алгоритм рекомендацій програми, який вирішує, що бачать ваші діти, і демонструє страхітливу звичку приймати їх у темних напрямках.

Для законодавців зважувати законопроект для захисту дітей в Інтернеті, невдачі добровільних зусиль Instagram говорять про його підзвітність.

Коли я показав звіт групи власнику Instagram, META, він сказав, що молодіжні тестери були упередженими і що деякі з того, що вони позначили, було “безперешкодним” або відповідним “гумору з фільму PG-13”.

“Вироблений звіт не змінює той факт, що десятки мільйонів підлітків зараз мають більш безпечний досвід завдяки акаунтом підлітків в Instagram”, – заявила прес -секретар META Ліза Креншо в електронному листі. “Звіт є хибним, але навіть взятому за номіналом, він визначив лише 61 фрагмент вмісту, який він вважає чутливим” менше 0,3 відсотка всього вмісту, який цей дослідники, швидше за все, побачили б під час тесту “.

Тестери Gen Z визнають деякі обмеження в їх експерименті, включаючи невеликий розмір вибірки, короткий двотижневий часовий проміжок та використання нових облікових записів для представлення гіпотетичних підлітків. Люди можуть не погодитися з приводу того, що вважається “чутливим”, хоча власні визначення META включають вміст, який “сексуально явний або сугестивний”, “обговорює самопошкодження, самогубство або порушення їжі” або “сприяє використанню певних регульованих продуктів, таких як тютюнові вироби або вапінг”.

Я повторив їх тести – і мої результати були гіршими. У перші 10 хвилин мого тестового підліткового облікового запису Instagram порекомендував відео, яке відзначає чоловіка, який вийшов з вживання занадто багато алкоголю. Інший продемонстрував кільце з крихітною ложкою, яка продається, щоб випустити «удар» нюху, але також асоціюється з кокаїном. Врешті-решт, рекомендації облікового запису заснілили на повну одержимість алкогольними та нікотиновими продуктами, такими як Zyn, з’являються так часто, як раз на кожні п’ять барабанів, які я бачив.

Підлітки не наївні щодо таких тем, як секс, наркотики та порушення харчування, каже Гулаті, учня середньої школи. Але бачити їх неодноразово в Instagram – вибраному програмі – робить вплив. “Алгоритм формує ваше сприйняття того, що є прийнятним способами, які я раніше не усвідомлював”, – сказав він мені.

Незважаючи на деякі частини підлітків, які працюють, Гулаті каже, загальна обіцянка “, схоже, не була виконана жодним змістовним способом, що змінює ваш досвід”.

Що спрацювало – а що ні

Суть тесту Gen Z полягав у тому, щоб самостійно оцінити, чи відповідають підліткові рахунки їх обіцянки. “Ми думаємо, що йде прямо до користувача, а також тим, хто може засвідчити безпосередньо на те, що вони бачать щодня, є справжнім ключем у ефективності”,-каже Елісон Райс, директор кампанії в підзвітній техніці.

П’ять тестерів, яким було від 18 до 22, щоб уникнути неповнолітніх неповнолітніх, повідомили про змішаний досвід. Їх тестові рахунки представляли різний вік, статі та інтереси. Наприклад, акаунт Гулаті дотримувався лише 10 найпопулярніших знаменитостей в Instagram.

Деякі функції захисту від підлітків працювали. Instagram за замовчуванням здійснив свої тестові облікові записи приватними, налаштування користувачів до 16 років не можуть змінюватися без затвердження батьків. І додаток обмежило, хто може направити повідомлення та позначити їх.

Інші функції захисту працювали лише для деяких тестерів. Двоє з п’яти не отримали нагадування про закриття програми через 60 хвилин. Один з них отримав повідомлення пізно вночі, незважаючи на заборону.

І всі тестери позначили одну гігантську проблему: додаток продовжував рекомендувати вміст, який, як видається, порушує визначення Мета про “чутливе”.

Коли він запустив рахунки підлітків у вересні, Meta пообіцяв у своєму випуску новин, що “підлітки будуть розміщені в найсуворішому налаштуванні нашого чутливого контролю вмісту, тому вони ще рідше будуть рекомендовані чутливий вміст, і в багатьох випадках ми приховуємо цей вміст взагалі від підлітків, навіть якщо він поділяє хтось, кого вони дотримуються”.

Не тільки облікові записи підлітків не вдалося приховати багато чутливого вмісту, вміст, який він рекомендував, залишив деяких молодих тестерів почуватися жахливо. У щоденних журналах чотири з п’яти повідомили про те, що вони мають неприємний досвід, дивлячись на рекомендований вміст Instagram.

У 2021 році винищувач Френсіс Хауген розширив розмови про шкоду Instagram, викривши внутрішні дискусії про те, як алгоритми рекомендацій компанії призводять до токсичних результатів для молоді. Серед викриттів: 32 відсотки дівчат -підлітків сказали компанії, що коли вони почувались погано щодо своїх тіл, Instagram змусив їх почувати себе гірше.

Креншоу, прес -секретар мета, заявив, що компанія “розглядає, чому частка” вмісту, позначеного тестерами, рекомендували. Але вона не відповіла на мої запитання про те, як його автоматизовані системи вирішують, який вміст не підходить для підлітків. У січні генеральний директор META Марк Цукерберг визнав, що деякі з автоматизованих систем управління вмістом компанії були недоліками, і оголосили про плани повернутись на частину їх використання.

Фонд, що базується у Великобританії, провів власне розслідування в Instagram підліткових рахунках, а в квітні він аналогічно повідомив, що вони піддавалися сексуальному контенту-в тому числі з одного з тих самих творців, які позначали Гулаті.

Важко дізнатися, що викликало Instagram, щоб рекомендувати заперечний вміст для тестових підлітків. Користувачі Gen Z прокручують тестові облікові записи, оскільки вони будуть особистими обліковими записами не більше години щодня, сподобавшись, коментуючи та зберігаючи вміст з основної канали, сторінки Explore та барабанів. На своєму тестовому обліковому записі підлітка я прокрутив алгоритмічно генеровану канал, але не любив, коментує чи зберігав будь -який вміст.

Творці цього вмісту, широкий масив, що включає професійних коміків та маркетологів продуктів, не мали сказати в рішенні Instagram порекомендувати свої публікації під підлітковими обліковими записами. Виробник The Bump Ring, чий пристрій, що обслуговується, з’явився в моєму тестовому обліковому записі, повідомив електронною поштою, що “наш матеріал не створений з урахуванням користувачів підлітків” і “ми підтримуємо зусилля платформами для фільтрації або обмеження вмісту невідповідного віку”.

Батьківський контроль та закриття підказки щодо суперницького додатка в соціальних мережах Tiktok також отримали суворий прийом від деяких батьків та адвокатів. А штат Нью -Мексико подав до суду на виробника Snapchat Snap після того, як розслідування під прикриттям з’явилося докази того, що додаток рекомендує облікові записи незнайомцями неповнолітніми користувачами Snapchat, з якими звертаються та закликають торгувати сексуально явними образами себе.

Битва за захист дітей

Групи адвокатів дітей давно попереджали, що соціальні медіа ставлять підлітків підлітків. Точкою дотримання був баланс того, хто несе відповідальність: батьки, технологічні компанії, які роблять програми або самі молоді.

І до того часу, коли META представила підліткові рахунки у вересні, Конгрес був на межі вжиття заходів. Сенат прийняв за рахунок 91-3 голосів, законопроект під назвою Закон про безпеку дітей, який вимагатиме від компаній соціальних медіа, щоб “розумна” турбота, щоб уникнути функцій дизайну продуктів, які створюють неповнолітніх в небезпеку самопошкодження, наркоманії або сексуальної експлуатації. META оголосила підліткові рахунки за день до того, як повинен був зважити поправки ключового комітету з питань зважування на законопроект.

Законопроект затримався і не став законом. Meta заперечує, що він запустив програму для відмови від регулювання. Законопроект був внесений до Конгресу цього тижня.

Коли я запитав, чи працюють підліткові рахунки, Мета сказала, що до дорослих звертається менше підлітків через зміни, які він вніс. Але він не пропонував внутрішнього чи зовнішнього доказу, який свідчить про те, що рахунки підлітків не вдасться покращити добробут підлітків або захищати дітей від шкідливого вмісту.

Райс, з підзвітних технологій, каже, що добровільні програми, такі як Instagram підліткові рахунки – навіть якщо вони пішли далі, ніж конкуренція – не відповідають власним обіцянкам. Її організація підтримує юридичну відповідальність у вигляді законів, що відповідають віком, як і в Каліфорнії, що було прийнято оскаржено в суді.

“Це нейтральний підхід, який не потребує перевірки віку та змушує платформи для побудови алгоритмів та проектних практик, щоб бути безпечнішими для молодих людей, а не регулювати зміст”,-каже вона.

Гулаті, який восени планує займатися інформатикою та філософією в Стенфордському університеті, сказав, що експеримент навчив його, що молоді люди повинні більш усвідомлювати алгоритми сили над ними.

Його порада: “Спробуйте підтримувати активну частку чи інтерес до того, що показує у вашому каналі”.