Темний і дивний контент ковзає через тріщини соціальних медіа

Instagram, який належить META, перейшов на показ Такасу відео старшої пари на ліжку, оточеному близько 20 немовлят, а потім літні жінки, які годують, і врешті-решт жінки різного віку годують і народжують гібридних дітей тварин-людини. Вона в кінцевому підсумку зробила перерву від програми лише для того, щоб уникнути публікацій AI.

Оскільки інші сайти соціальних медіа слідували за лідерством Tiktok і перейшли до непрозорих алгоритмічних каналів, користувачі отримують зростаючі спалахи тривожного або дивного, небажаного контенту. Це не лише дивацтва AI, а справжнє насильство, секс і рюшування Політика – Зміст, який виявився залученим, але в основному процвітав з поля зору людей, які цього не шукають. Зростаючі прориви стали заглибленими в іншу сторону цих програм соціальних медіа, які використовуються твінсами, підлітками та дорослими.

Сильні публікації, зокрема – включаючи шокові або Gore Videos – є частиною ДНК Інтернету і вже десятиліттями існували на спеціалізованих сайтах, глибоко на інтернет -форумах або на більш основних місцях, таких як Reddit та YouTube. У них є фан -база, але ударна цінність змушує їх залучати навіть для людей, які їх не шукають.

На початку цього місяця користувачі Instagram по всьому світу, включаючи неповнолітніх на рахунках підлітків із ввімкненими батьківськими умовами, побачили небажаний сплеск жорстокого, сексуального та екстремального вмісту у своїх котушках протягом дня.

«Він бачив вбивства – майже як тероризм. Він побачив, як жінка народила, він побачив просто мертві тіла, такі речі »,-сказав Кортні, батько 17-річного віку у Вірджинії, який отримав вміст у своєму каналі. “Я відчуваю, що це був якийсь напад на їхню думку, вони все ще дуже вражаючі”.

Кортні, яка говорила за умовою, що її прізвище не використовувалося для захисту конфіденційності її сина, дочекався до недавнього часу, щоб навіть дозволити йому в Instagram щодо занепокоєння щодо невідповідного вмісту.

Інші користувачі Instagram також повідомили, що переглядають відео про операції, люди, які, як видається, помирають у аваріях, зйомках та наготі. Багато відео все ще знаходяться в додатку соціальних медіа, деякі на популярних облікових записах з тисячами підписників. Вміст часто займає сіру зону в Інтернеті і недостатньо екстремальний, щоб його видалити відповідно до стандартів громади META.

“Ми виправили помилку, яка змусила деяких користувачів тимчасово бачити вміст у своїх каналах Instagram Reels, які не повинні бути рекомендовані. Ми просимо вибачення за помилку », – заявила прес -секретар META Ерін Логан у заяві.

Нещодавно META вніс ряд навмисних змін, які впливають на те, що люди бачать у своїх каналах в Instagram та Facebook. Нещодавно він закінчив свою програму перевірки фактів, і вона послабила правила щодо негативної промови з таких питань, як імміграція та права на трансгендер. Він також почав дозволяти більше політичних постів на своїх додатках.

Instagram спеціально давно хотів бути місцем для неповнолітніх для неповнолітніх, щоб слідувати за друзями, впливовими та мемами, але без повного відриву свого досвіду з величезної колекції відео, які він розміщує.

У вересні додаток додав більш жорсткі налаштування за замовчуванням для нових користувачів до 18 років, включаючи включення того, що, за його словами, це найсильніші обмеження для насильницького та сексуального вмісту. Це налаштування ускладнює підлітків зіткнутися з невідповідним вмістом, хоча власник облікового запису може змінити налаштування самостійно.

Для рахунку сина Кортні ці налаштування були включені весь шлях, сказала вона.

Це не перший раз, коли Instagram потрапив під обстріл для суперечливого контенту. У 2021 році винищувач Френсіс Хауген стверджував, що внутрішні дослідження показали, що мета знає, що його зміст шкідливий для підлітків, зокрема, сприяючи проблемам знімання тіла.

Тейлор Літл, 22-річний з Колорадо-Спрингз, є позивачем у великому позові проти мета, який стверджує, що компанія свідомо завдала шкоди неповнолітнім. Мало що було 12 років, коли вони вперше приєдналися до Instagram, роблячи вигляд, що він був 16, і був втягнутий у світ вмісту щодо самопошкодження та невпорядкованого харчування та суїцидальної ідеї. Вміст розпочався, як запропоновані публікації та на сторінці “Огляд”.

“Це дійшло до того, що це все, що я бачив”, – сказав Літл. “Я дуже швидко розвинув розлад харчування, щодня самопошкоджував”.

Мало досі відновлюється і видалив усі програми соціальних медіа зі свого смартфона.

“Ми знаємо, що підтримує людей, що займаються скандальним, токсичним, ненависним та примхливим вмістом”, – сказала Сандра Вахтер, професор технологій та регулювання в Оксфордському університеті. “Хороші новини не продаються, або, принаймні, не так, і тому системи рекомендацій вивчають ці переваги користувачів і все частіше обслуговуватимуть цей проблемний вміст”.

Відповідно до своїх нинішніх правил, META каже, що забороняє більшість відео, що демонструють надзвичайно графічний або насильницький контент, такі як відео, що спалюють або обвуглені люди, прямі потоки людей, які загинули системою правосуддя або розчленованими органами або оголеними органами поза медичними контекстами.

Ці правила залишають місце для інших шокуючих відео або суперечливих відео, таких як графічні кадри медичних процедур або вміст, які можуть заохочувати порушення харчування. Замість того, щоб їх видаляти, Instagram приховує деяких – але не всіх – за своїм чутливим екраном попередження вмісту. Він попереджає користувачів, що вміст може бути графічним чи насильницьким, або що “деякі люди можуть вважати його засмученим”. Відео за цим екраном приховані для незначних облікових записів.

Це не просто насильство та секс, але відверта дивність ковзає в канали. Інструменти штучного інтелекту дали можливість швидко та дешево генерувати ударний контент. Мета полягає в тому, щоб створити зображення та відео настільки дивні, що люди змушені зупинятися і шукати і навіть коментувати, хоча молодші користувачі, швидше за все, знають, що це фальшиві.

YouTube все ще є найпопулярнішим сайтом соціальних медіа для підлітків, згідно з дослідженням Pew, за ним – Tiktok та Instagram. Багато з цих типів відео можна знайти на YouTube, не потребуючи входу, а також дозволено на платформі. Однак їх було непросто знайти на Tiktok, який має більш сильні фільтри для насильства та сексуального вмісту для всіх користувачів.

Дорослі теж все більше відкладають змістом.

Майкл Бок, 31-річний власник бізнесу в Орегоні, зазвичай бачить вміст про велосипеди та собак у своєму Instagram-стрічці. Він був одним із користувачів, якого минулого тижня годували насильницьким вмістом. Коли він відкрив додаток, він вперше побачив вуличні поєдинки, але, прокрутивши відео, вони стали ще більш «жахливими». Хтось, застрелений поліцією, людина потрапляє в машину і летів у повітря.

“Я не думаю, що я можу в хорошій совісті сприяти платформі, на яку я твердо вважаю, що шкодить користувачам”, – сказав Бок, який використовує Instagram для свого бізнесу.

Ці платформи значною мірою ставлять на себе людей, щоб уникнути вмісту, якого вони не хочуть бачити, і темніші годування часто звинувачують у тому, що людина, яка занадто довго зупиняється на тому, що вони не повинні. На Meta Apps люди можуть спробувати “Snoozing” запропоновані публікації протягом місяця або лише перейти на канали рахунків, які вони виконують. У січні Instagram опублікував давно обкладену кнопку “скидання” для нас користувачів, щоб допомогти будь-кому відпочити алгоритм, коли вони бачать публікації, які не мають теми або навіть тривожні. Tiktok має подібну особливість.

Takasu використовував нову кнопку скидання Instagram і більше не бачить народження тварини. Вона каже, що вона більш обережна щодо того, на що вона дивиться, щоб уникнути її корму знову з рейок. Навіть якщо це означає дивитися на меншу кількість публікацій в цілому.

“Я, безумовно, використовую це менше”, – сказав Такасу.

Наомі Нікс сприяв цьому звіту.