“Деякі люди мимоволі публікують свої приватні, а іноді і смертують розмови з мета -чатом AI у світі.”, – Напишіть: www.washingtonpost.com
Десять років тому вони, можливо, обговорили ці вразливі питання з друзями за бранч, у дайвінг -бару або в офісі терапевта чи члена духовенства. Сьогодні десятки користувачів розміщують свої часто розмовляють про стосунки про стосунки, ідентичність та духовність з Meta AI Chatbot до публічного корму програми-іноді, здавалося б, не знаючи, що їхні роздуми можна побачити іншими.
META запустив автономний додаток для свого чату AI майже два місяці тому з метою надання користувачам персоналізованих та розмовних відповідей на будь-яке питання, яке вони могли б придумати-послугу, подібну до тих, що пропонують Chatgpt OpenAI або Claude Antropic. Але додаток отримала унікальну функцію: “Discover” канал, де користувачі могли опублікувати свої особисті розмови з мета AI для того, щоб побачити світ, відображаючи більшу стратегію компанії вбудувати вміст, створений AI у свої соціальні мережі.
Починаючи з квітневого запуску, канал Discover Discover було затоплено розмовою користувачів з Meta AI на особисті теми про їхнє життя або їх приватні філософські питання щодо світу. Оскільки функція привернула більше уваги, деякі користувачі, схоже, навмисно сприяють комічними розмовами з Meta AI. Інші публікують образи, що генерують AI, про такі політичні теми, як президент Дональд Трамп у підгузнику, образи дівчат у сексуальних ситуаціях та акціях для свого бізнесу. Щонайменше в одному випадку людина, чия, очевидно, справжнє ім’я було очевидно, попросила бота видалити обмін після створення бентежного питання.
Шум особистих публікацій на Meta AI – це остання ознака того, що люди все частіше звертаються до розмовних чатів, щоб задовольнити їхні стосунки та емоційні потреби. Оскільки користувачі запитують чатів про поради з питань, починаючи від їх подружніх проблем до фінансових проблем, захисники конфіденційності попереджають, що особиста інформація користувачів може бути використана технологічними компаніями способами, яких вони не очікували чи хочуть.
“Ми бачили багато прикладів людей, які надсилають дуже, дуже особисту інформацію в чат терапевта AI або кажуть дуже інтимні речі в чатах в інших налаштуваннях”, – сказав Каллі Шредер, старший радник в електронному центрі інформації про конфіденційність.
“Я думаю, що багато людей припускають, що там є якийсь базовий рівень конфіденційності. Тут немає. Все, що ви підводите в систему AI як мінімум, йде до компанії, яка приймає ШІ”.
Прес -секретар META Даніель Робертс заявив, що чати з Meta AI встановлюються приватними за замовчуванням, і користувачі повинні активно натискати на кнопки Share або публікувати, перш ніж він з’явиться на каналі Discover додатка. Хоча деякі реальні особистість очевидні, люди вільні вибирати інше ім’я користувача на Discover Feed.
Тим не менш, кнопка акцій компанії явно не повідомляє користувачам, де будуть розміщені їхні розмови з Meta AI та які інші люди зможуть побачити – факт, який, здається, заплутав деяких користувачів щодо нового додатка.
Підхід META в поєднанні компонентів соціальних мереж із чатами AI, розробленим для надання особистих відповідей, – це відхід від підходу деяких найбільших конкурентів компанії. Чатгпт і Клод дають аналогічно розмовні та інформативні відповіді на запитання, які ставлять користувачі, але немає подібного каналу, де інші люди можуть бачити цей вміст. Відео- або зображення, що генерують інструменти AI, такі як Midjourney та Sora OpenAI, мають сторінки, де люди можуть ділитися своєю роботою та Подивіться, що AI створив для інших, але жодна служба не беруть участь у текстових розмовах, які стають особистими.
Discover Feed On Meta AI читає як суміш особистих щоденників користувачів та історій пошуку Google, наповнених питаннями, починаючи від мирського до політичного та філософського. В одному випадку чоловік запитав Мета Ай у голосуванні про те, як виростити рис у приміщенні для своєї “філіппінської дружини”. Користувачі запитали мета про божественність Ісуса; як змусити прискіпливих малюків їсти їжу; і як бюджетувати, насолоджуючись щоденними задоволеннями. Казок також наповнений зображеннями, створеними Meta AI, але задуманий уявами користувачів, таких як один із Трампа, який їсть пуп, та інший похмурий жнець, що їздить на мотоциклі.
Дослідження показують, що чат -боти AI унікально розроблені для залучення соціальних інстинктів користувачів, відображаючи людські підказки, які дають людям відчуття зв’язку, – сказав Міхал Лурія, науковий співробітник Центру демократії та технологій, Вашингтонський аналітичний центр.
“Ми просто, природно, реагуємо так, ніби розмовляємо з… іншою людиною, і ця реакція є автоматичною”, – сказала вона. “Це важко переробити”.
У квітні генеральний директор META Марк Цукерберг заявив Podcaster Dwarkesh Patel, що однією з головних причин, що люди, які використовували мета Ай, – це говорити через складні розмови, які вони повинні мати з людьми у своєму житті – використання, яке, на його думку, стане більш переконливим, коли модель AI дізнається, щоб знати своїх користувачів.
“Люди використовують для них речі”, – сказав він. “Якщо ви думаєте, що щось, що хтось робить, – це погано, і вони вважають, що це дійсно цінно, більшість часу в моєму досвіді вони праві, і ви помиляєтесь”.
Додаток Meta AI Discover наповнений питаннями про романтичні стосунки – популярна тема, яку люди обговорюють з чатами. В одному з випадків жінка запитує Meta AI, чи може її 70-річний хлопець справді бути феміністкою, якщо він каже, що готовий готувати і чистити, але в кінцевому підсумку ні. Meta AI говорить їй очевидне: що, здається, існує “відключення” між словами та діями партнера. Інший користувач запитав про найкращий спосіб “відновити себе після розриву”, що викликає список підказок щодо догляду за собою та встановлення меж Meta AI.
Деякі питання, які ставляться до Мета, взяли незаконний поворот. Один користувач попросив Meta AI створити зображення “двох 21 -річних жінок, які борються в грязьовій ванні”, а потім опублікували результати на кормі Discover під заголовком “Кудлі бікіні та пристрасні поцілунки”. Інший попросив Meta AI створити зображення “великої здобичі білої дівчини”.
Існує кілька правил, що підштовхують технологічні компанії до прийняття більш жорсткого вмісту або правил конфіденційності для своїх чатів. Насправді, Конгрес розглядає можливість прийняття законопроекту про податок та імміграцію, який включає положення про повернення законів про АІ по всій країні та забороняє державам приймати нові на наступне десятиліття.
В останні місяці кілька гучних інцидентів викликали питання про те, як технологічні компанії обробляють особисті дані, які мають доступ до цих даних та як ця інформація може використовуватися для маніпулювання користувачами.
У квітні OpenAi оголосив, що Chatgpt зможе згадати старі розмови, які користувачі не просили компанію заощадити. На X генеральний директор Сем Альтман сказав, що OpenAi в захваті від AI “систем, які знайомиться з вами протягом вашого життя, і стають надзвичайно корисними та персоналізованими”.
Потенційні підводні камені такого підходу стали очевидними наступного місяця, коли OpenAI довелося скористатися оновленням до Chatgpt, який включав більше персоналізації, оскільки це зробило інструмент сикофантним та маніпулятивним щодо користувачів. Минулого тижня головний операційний директор OpenAI, Бред Лайткап, заявив, що компанія має на меті взяти на себе зобов’язання щодо конфіденційності для користувачів після позивачів у позові про авторські права на чолі з The New York Times, який вимагав, щоб OpenAI зберігав дані клієнтів на невизначений час.
Зрештою, можуть бути користувачі, які підштовхують компанію, щоб запропонувати більше прозорості. Один користувач поставив під сумнів мета AI про те, чому “тонна людей” “випадково розміщували супер особисті речі” у каналі Discover Discover.
“Гаразд, ви говорите, що канал сповнений людей, які випадково розміщують особисті речі?” Чатбот Meta AI відповів. “Це може бути досить диким. Можливо, людям просто зручно ділитися речами, або, можливо, за замовчуванням платформи налаштовуються таким чином, що полегшує перевищення. Що ви думаєте?”