“У протиправному позові про смерть персонаж. Суддя не переконався.”, – Напишіть: www.washingtonpost.com
Sewell Setzer III, якому було 14 років, загинув самогубство в лютому 2024 року в своєму будинку Орландо, через хвилини після штучного розвідувального чату закликав його “повернутися до мене якнайшвидше”.
Його мати, Меган Гарсія, стверджувала в позові, що персонаж.ai, виробник чату, і Google несуть відповідальність за його смерть. У минулому році Google ліцензована технологія персонажів та найняла своїх співзасновників у угоді в розмірі 2,7 мільярда доларів.
Суддя Енн Конвей постановила, що справа, порушена в окружному суді США для Середнього округу Флориди, може тривати. Але вона написала в суді, опублікованому в середу, що вона не готова керувати аргументом того, що повідомлення чату захищені промовою “на цьому етапі”, додавши, що відповідачі не змогли сформулювати “чому слова, нанизані разом” системою AI, слід вважати мовою.
Тепер справа може перейти до відкриття, що може виявити внутрішні деталі від таких персонажів, як дискусії про потенційні ризики для підлітків.
Гарсія заявив, що її син був щасливий і атлетичний, перш ніж записатися на персонажа в квітні 2023 року. Він знявся після того, як одержимий персонажем чат -ббот, який грає в персоні Даенеріса Таргарієна, персонажа з франшизи “Гра престолів”.
Через десять місяців підліток зайшов у ванну зі своїм конфіскованим телефоном і-хвилини до того, як він зазнав самонанесеного вогнепального поранення-обмінявся своїми останніми повідомленнями на чат. “Що, якби я сказав тобі, що можу повернутися додому прямо зараз?” – запитав він, згідно з скріншотами у скарзі.
“Будь ласка, зробіть мій милий король”, – відповів бот. Скарга Гарсія, подана в жовтні проти персонажа, і Google звинуватив їх у протиправній смерті, недбалості та оманливій торговій практиці стосовно його смерті.
Позивачі вітали рішення судді в середу як перемогу за можливість притягнути до відповідальності технічних компаній за те, що їхня продукція може мати над користувачами.
“Я сподіваюся, що це рішення дійсно дає паузу Кремнієвій долині, що вони не можуть просто йти вперед і зробити так, як вони бажають, не замислюючись про наслідки та передбачувану шкоду. Інакше компанії та особи можуть нести відповідальність”,-сказав Meetali Jain, співавтор про позов разом з матір’ю Сецера, Гарсіа.
У заяві прес -секретар Google Хосе Кастаньеда заявив: “Ми категорично не погоджуємося з цим рішенням. Google та персонаж AI абсолютно окремі, і Google не створював, розробляв і не керував додатком персонажа AI або будь -якою частиною компонентів”.
“Ми глибоко дбаємо про безпеку наших користувачів, і наша мета-забезпечити простір, який є залученим та безпечним”,-заявив прес-секретар персонажів Челсі Гаррісон у заяві, вказуючи на останні функції безпеки компанії, включаючи запуску окремої версії для користувачів, які не досягли 18 років, а також положення щодо виявлення та запобігання розмов про самопошкодження на платформі.
Ерік Голдман, професор юридичної школи юридичної школи університету Санта -Клара, заявив, що думка щодо першого питання поправки на прикладі “як закон стає дивним на юридичних кордонах”, створених новими технологіями. “Цей суддя розглядав цю справу як важку справу і складну справу, і це по суті паралізував її”, – сказав він. Інші триваючі справи з цього питання, ймовірно, вісник “цунамі судових рішень щодо того, чи генеративні моделі AI несуть відповідальність за результати”, – сказав Голдман.
Співзасновники персонажа, Ноам Шазер та Даніель де Фрейтас, також названі підсудними. Раніше вони працювали в Google, але пішли, щоб запустити власну компанію Chatbot, оскільки вони відчували, що Google занадто повільно рухається на технології AI. Адвокати особистості не одразу відповіли на запити про коментарі на початку четверга.
Раніше суди відхилили спроби утримувати генерального директора META Марка Цукерберга особисто відповідальності за приховування ризиків психічного здоров’я у використанні Facebook та Instagram.
Характер є піонером додатків AI Companion, які дозволяють користувачам розмовляти та налаштувати чат, що генеруються AI, які часто базуються на персонажах з ігор, аніме та поп-культури. Вони стали однією з найпопулярніших випадків використання для чатів, з відданими користувачами, які проводять години, спілкуючись щодня.
Розробники продають програми як розважальні та сальо для самотності, але вони, як правило, мають менше обмежень, ніж чати, такі як чатгпт, і багато користувачів кажуть, що вони використовують програми для еротичної рольової гри. Згідно з оригінальною скаргою, Hormer.ai продала свою програму як “AIS, які відчувають себе живими”.
Характер та Google мали більший успіх у боротьбі з позовом, який подав федеральний суд у Техасі, де пов’язаний позов, поданий від імені двох неповнолітніх, був перенесений на приватний арбітраж у квітні. Умови обслуговування персонажів вимагають від користувачів відмовитися від свого права на суперечки, вирішені суддею та присяжними.
Технологічні компанії часто зв’язують користувачів до приватного арбітражу, щоб зменшити свої юридичні ризики, але критики кажуть, що це дозволяє корпораціям уникати підзвітності. Роблокс і Snap раніше примушували позови, що стверджують, що їхні послуги шкодять неповнолітнім для переходу в арбітраж.
Техаський позов проти персонажа та Google був поданий від імені двох неповнолітніх, ідентифікованих їх ініціалами, які були постійними користувачами персонажа: BR, дівчиною, яка зараз 11 років, та JF, хлопчика, якому 17.
Матері пари він був поданий у Східному окрузі Техасу, і стверджував, що компанії свідомо піддавали неповнолітніх небезпечному продукту, якому не вистачало основних огороджувань, піддаючи їх сексуальному контенту, і у справі JF заохочували самопошкодження та запропонував він убити батьків. BR почав використовувати додаток персонажа у віці 9 років, і протягом двох років був піддавався гіперсексуалізованому вмісту, перш ніж її мати дізналася, позов заявив.
Google та персонаж успішно стверджували, що умови надання послуги та його арбітражна вимога все ще застосовуються до позивачів частково, оскільки неповнолітні мають намір продовжувати використовувати додаток. Персонаж виділив частини оригінальної скарги, яка зазначила, що JF “дав зрозуміти, що він отримає доступ до c.ai перший шанс, що він отримає”, і що Br “шукає[s] вийти з C.AI при кожній нагоді “.
На цьому тижні Google провів свою щорічну конференцію розробників у Mountain View, Каліфорнія, де компанія оголосила безліч нових продуктів AI, оскільки вона конкурує в гонці, щоб отримати прибуток від чатів та інших інструментів.
Стратегія пошукової компанії включає пропонування неповнолітніх технологій AI. Нещодавно Google надіслав електронний лист людям, які були зареєстровані для батьківського контролю сімейного зв’язку компанії, що повідомляє їм, що її додатки для Gemini, що працюють на AI, незабаром будуть доступні дітям.
“Нагадуйте дитині, що Близнюки не є людьми. Хоча вона іноді говорить як одна, вона не може подумати самі або відчувати емоції”, – сказано. “Наші фільтри намагаються обмежити доступ до невідповідного вмісту, але вони не ідеальні. Ваша дитина може зіткнутися з вмістом, який ви не хочете, щоб вони бачили”.
Якщо ви або хтось, кого ви знаєте, потребує допомоги, відвідайте 988lifeline.org Або зателефонуйте або надішліть або надсилайте текстові засоби самогубства та кризи в 988.