“Наш технологічний оглядач розкриває, як чат -ббот Meta пам’ятає все, навіть те, що ви, можливо, не хочете.”, – Напишіть: www.washingtonpost.com
Минулого тижня співзасновник Facebook запустив додаток Meta AI, спеціалізований будинок для чату штучного інтелекту своєї компанії. Додаток, який піднявся до №2 на безкоштовних графіках завантаження iPhone, обіцяє користувачам більш “персоналізованого” AI з індивідуальними відповідями та порадами. І вона включає нову соціальну мережу для людей, щоб поділитися своїми розмовами та зображеннями AI.
Але Meta AI також приносить щось інше для чатів: спостереження. Перший раз, коли я відкрив додаток, я попросив його “описати мене в трьох емоджих”. Це могло, спираючись на роки особистої інформації, відстежуваної його сестринськими програмами Facebook та Instagram.
Як тест, я також спілкувався з мета AI про деякі навмисно чутливі теми. Після цього я виявив, що він побудував так званий файл пам’яті про мене, який сказав, що мої інтереси включають природну техніку народжуваності, розлучення, опіку над дітьми, позику на день оплати праці та закони щодо ухилення від сплати податків.
Насправді, Meta AI за замовчуванням зберігав копію всього, що я сказав йому – щоб адаптувати свої відповіді на мене, навчити майбутню версію Meta’s AI і, врешті -решт, націлити мене на рекламу. Пізніше мені вдалося видалити його пам’ять та мої розмови з певними зусиллями. Але з моїх тестів Meta AI підштовхує межі конфіденційності способами, які йдуть набагато далі, ніж суперники Чатгпта, від OpenAI або Близнюків, від Google.
Що б ви не поспілкувались з Meta AI, просто малюйте Цукерберг. Мої розмови були тестами, але все більше людей звертаються до ШІ для неймовірно особистих речей, від медичних проблем до віртуальних хлопців.
Мета каже, що його AI дає людям те, що вони хочуть. “Ми давали цінну персоналізацію для людей на наших платформах десятиліттями, що полегшує людям здійснити те, що вони приходять до наших додатків – додаток Meta AI не відрізняється”, – сказав речник META Томас Річардс. “Ми забезпечуємо прозорість та контроль протягом усього часу, щоб люди могли керувати своїм досвідом і переконатися, що це правильно”.
Але для більшості користувачів персоналізація Meta AI приносить цілий новий набір ризиків конфіденційності, які вони можуть ще не оцінити, тим більше знають, як контролювати.
“Розкриття інформації та вибору споживачів навколо налаштувань конфіденційності є смішно поганими”, – каже Бен Вінтерс, директор AI та конфіденційність даних у Федерації споживачів Америки. “Я б використовував його лише для поверхневого рівня, веселощів або речей, які не мають нічого спільного з вашою особистою інформацією, бажанням, проблемами, страхами чи чим-небудь, що ви не транслювали в Інтернеті”.
Персоналізовані проблеми конфіденційності AI
Віртуальний помічник, який може передбачити ваші потреби – або навіть бути вашим терапевтом – є святим Грааль Ай. І META – не єдина компанія, що підштовхує глибше особистих даних у полюванні на неї.
Але епоха персоналізованого ШІ також приносить нові ускладнення конфіденційності: як ми керуємо тим, що ми хочемо, щоб боти знали та як вони використовують нашу інформацію? “Тільки тому, що ці інструменти діють, як ваш друг, не означає, що вони є”,-каже Міранда Боген, директор Центру демократії та технологій, який досліджував компроміси конфіденційності персоналізації ШІ.
Під час однієї розмови з Meta AI, Боген згадував дитячі пляшки. Після цього, за її словами, чат вирішив, що вона повинна бути батьком. Системи AI, вже горезвісні для стереотипів, можуть призвести до нових упереджених, коли вони персоналізовані. “Це може почати керувати людьми в напрямках, які, можливо, не те, що вони мають намір і ґрунтуються на інформації, на якій вони не зручні з цим порадою, що базуються на тому”, – каже вона.
І лише уявіть собі “чорне дзеркало” в реальному житті, коли AI починає вставляти персоналізовані оголошення у свої відповіді та поради. Це рекомендує ресторан, тому що він думає, що мені сподобається, або тому, що йому платять? Meta AI сьогодні не має реклами, але Цукерберг сигналізував, що він бачить “велику можливість показати в ньому рекомендації або рекламу” під час заробітку минулого тижня.
OpenAI каже, що не ділиться вмістом чатгпта з третім сторонами для маркетингових цілей. (Washington Post має контент -партнерство з OpenAI.) Google каже, що розмови Близнюків наразі не використовуються для показу оголошень і що компанія “чітко повідомляє” про зміну користувачів.
“Ідея агента полягає в тому, що він працює від мого імені – не намагаючись маніпулювати мене від імені інших людей”, – каже Джастін Брукман, директор технологічної політики для споживчих звітів. Персоналізована реклама, що працює від AI, “по суті, є змагальною”, – говорить він.
Беручи під контролем свої дані
Є три речі, які змушують мета AI відчувати себе великою зміною для нашої конфіденційності.
По -перше, Meta AI підключений до Facebook та Instagram. Якщо ви налаштували профіль для програми за допомогою існуючого облікового запису соціальних медіа, AI матиме доступ до гори інформації, зібраної цим соціальним додатком. Все це формуватиме відповіді, які дає вам Meta AI бот, навіть якщо деякі ідеї Facebook або Instagram про вас є поза базовою базою.
Якщо ви не хочете, щоб усі ці дані поєднувались, вам доведеться налаштувати окремий обліковий запис Meta AI.
По -друге, Meta AI пам’ятає все за замовчуванням. Він зберігає стенограму або голосову запис кожної розмови, яку ви маєте з ним, а також список того, що він вважає ключовими фактами про вас – таких як теми, які ви згадуєте, що вас цікавить ” – в окремому файлі пам’яті. Ви можете переглянути його спогади про вас у налаштуваннях програми.
Але що робити, якщо є щось, що ви не хочете, щоб AI запам’ятав? Це зрозуміло: є багато речей – як мій тест, що включають методи народжуваності та ухилення від сплати податків – люди знають лише Google приватно.
Мета каже, що намагається не додавати чутливі теми до вашого файлу пам’яті, але мої тести виявили, що він записав багато – як кредити на фертильність та оплату праці. Що ще гірше, додаток Meta AI не дає вам можливості запобігти його збереженню чатів чи спогадів. (Найближче, що ви можете отримати, – це використовувати веб -сайт Meta AI без уваги.) Також Meta AI не пропонує “тимчасовий” режим, як це робить Чатгпт, що не дозволяє розмові з вашої історії.
Додаток Meta AI дозволяє видалити чати та вміст файлу пам’яті після факту. Але коли я намагався видалити свої спогади, додаток попередив, що вони не зовсім пішли. Оригінальний чат, що містить інформацію, залишався в моїй історії і все ще може бути використаний. Тоді мені також довелося копатися в історії чатів і знайти цей оригінальний чат, а також видалити його. (Ядерний варіант полягав у тому, щоб натиснути налаштування, що наказує його просто видалити все.)
І є ще одне тонке занепокоєння щодо конфіденційності. Вміст ваших чат – ваші слова, фотографії та навіть голос – в кінцевому підсумку подається в навчальні системи AI Meta. Chatgpt дозволяє відмовитися від тренувань, вимкнувши налаштування, позначене “вдосконалити модель для всіх”. Meta AI не пропонує відмовитися.
Чому ви не хотіли б внести свій внесок у дані про навчання META? Багато художників та письменників взяли питання, коли їхня робота використовується для навчання AI без компенсації чи підтвердження.
Деякі захисники конфіденційності кажуть, що ми також повинні турбуватися про те, що системи AI можуть “витікати” дані про навчання в майбутніх чатах. Це одна з причин, що багато корпорацій блокують своїх працівників лише за допомогою систем AI, які не використовують свої дані для навчання.
Meta каже, що тренує та налаштовує свої моделі AI, щоб обмежити можливість приватної інформації з’являтися у відповіді на інших людей.
Тим не менш, META має попередження в своїх умовах служби: “Не діліться інформацією, яку ви не хочете, щоб AIS використовував та зберігав”.
Я б взяв їх на їх слово.