“Grok виявився популярним серед користувачів X. Але низка химерних помилок знизила свою довіру.”, – Напишіть: www.washingtonpost.com
Але за останні два тижні Грок вчинив низку химерних помилок, які можуть ускладнити AI отримати мейнстрім довіри. Відповіді Чатбота на широкий спектр неспоріднених питань, що брали участь у безперечних відступах щодо “білого геноциду” в Південній Африці, викликаючи спонукання, на яку компанія відповіла, видаливши посади Грока та звинувачуючи неназваного працівника за несанкціоновану зміну коду. Після цього користувачі повідомили, що Grok перейшов у скептицизм щодо Голокосту, припускаючи, що його радіолокатор “пошук правди” залишається неправильним.
У деяких відношеннях проект AI Musk досяг успіху. Його колег Силіконової долини Tech Titans значно інвестував у XAI, що робить його транспортним засобом достатньо цінним, щоб придбати свою соціальну мережу, X, на початку цього року.
Грок став популярною особливістю X, де люди використовують її як диверсію, так і ресурс. Це суперники Gemini та Microsoft’s Copilot у завантаженні додатків та веб -трафіку, згідно з датчиком фірм -аналітичних фірм та подібною Web – хоча всі три відставання значно відстають від OpenAi’s Чатгпт. Останні моделі Grok також поєднуються з конкурентами щодо орієнтирів продуктивності, а здатність чату вступити на X Posts дає йому унікальну перевагу у відповіді на поточні події.
У понеділок Microsoft оголосила угоду з XAI, щоб запропонувати версію Grok як варіант на своїй платформі Azure для розробників AI, штамп схвалення різновидів з важкої ваги в галузі. У відеодзвінку з генеральним директором Microsoft Satya Nadella, Маск сказав, що Грок має на меті розкрити “фундаментальні істини”, міркуючи з “перших принципів” та “застосування інструментів фізики до мислення”.
Це був би досить стрибок від проблем, які регулярно стикаються сьогоднішні чат -боти AI. Вражає, як чатгпт та його ілк в деяких відношеннях, вони мають Часто проявляв незначне відношення до істини та логіки, від виготовлення імен та фактів до махання основної арифметики. Це тому, що вони побудовані для того, щоб зробити висновок про найбільш правдоподібну відповідь на будь -який заданий запит, заснований на моделях у їх величезних, безладних і часто упереджених навчальних даних – не розуміти природу реальності.
Зусилля фірм AI щодо вирішення цих недоліків виявилися загрозливими. У лютому 2024 року Google вибачився після того, як користувачі знущалися над його схильністю за введення помилкового різноманіття в невідповідні умови – наприклад, зображення азіатських, чорношкірих та корінних американців у колоніальному одязі, коли його попросили намалювати “батьків -засновників Америки”. Компанія сором’язливо пояснила, що вона мала на меті протидіяти тенденції AI до стереотипу, доручивши моделі генерувати широкий спектр людей.
Маск назвав Грока як протиотруту до таких незграбних втручань: ШІ, який ухиляється від політичної коректності на користь фактичної коректності. Поки що він боровся за обома пунктами.
Протягом місяця після запуску Грока Муск висловив скарги своїх консервативних друзів про те, що чат був занадто «прокинувся» або соціально ліберальним – сприйняттям того, що мускус піднявся до своїх початкових даних про навчання. “Грок стане кращим”, – запевнив він їх.
Тим не менш, тести The Washington Post на початку цього року виявили, що чат -бот звичайно суперечить деяким найдорожчим поглядам Муску. Він відмовився звинувачувати демократичні перемоги на виборах у шахрайстві, наприклад, або проблеми з контролем повітряного руху в програмах різноманітності. Готовність чату розвінчала такі консервативні точки розмови, що почала прихиляти його до деяких лібералів, які радісно розгортали його у відповідях на повідомлення Муску.
У Грока було менше проблем з виконанням обіцянки Маска зробити його більш швидким і менш гальмуючим, ніж інші провідні чат -боти. Деякі користувачі цінують його готовність проклинати, знущатися та переходити на чутливі теми, які роблять чатгпт балакати. Це також виявилося зручним для мізогіністів, які відповіли на публікації жінок на X, попросивши Грока відповісти, створивши фотографію їх роздягнених, і екстремістів, які вважали його готовим створити нацистську пропаганду. (Схоже, XAI притиснувся до деяких із цих застосувань після того, як вони публічно повідомляли.)
Але найбільші загрози репутації Грока, можливо, виникли за останні тижні.
14 травня чат почав реагувати на всілякі непов’язані запити, проводячи тему “білого геноциду” в Південній Африці, на збентеження користувачів. Це теорія, яка стверджує, що колишня біла меншина в країні націлюється на усунення її чорної більшості-претензія на те, що мускус, що народився в Південній Африці, допомогла популяризувати через свій впливовий x-рахунок. Теорія була відхилена як неправдиві судами, міністрами уряду та перевірками фактів. Раптова одержимість Грока з ним співпала з поштовхом адміністрації Трампа, щоб виправдати свій суперечливий крок, щоб вітати біженців біженців у південноафриканських країнах у той час, коли Сполучені Штати відвертають кольорові біженців з країн по всьому світу.
XAI відповів на наступний фурор, видаливши твіти Грока та звинувачуючи проблему в “несанкціонованій модифікації” до коду бота, який хтось зробив о 3:15 ранку, компанія не вказала винуватця або оголосила про будь -яку дисциплінарну відповідь.
XAI не відповів на запит про коментар.
Це був не перший раз, коли компанія звинувачувала безіменного персоналу Rogue за зміни в кодексі Грока, який трапився у відповідності з політикою власника. У лютому користувач X виявив лінію в інструкціях Грока, спрямований на те, щоб не отримувати відповіді з будь -якого джерела, яке пов’язало Маск або президента Дональда Трампа з “дезінформацією”. У такому випадку керівник інженерії XAI підготував це до змін, внесених без дозволу працівника, який більше не був у компанії.
Прагнучи відновити довіру користувачів, компанія минулого тижня опублікувала “Підказки” Грока – приховані інструкції, які встановлюють основні правила відповідей чатова на користувачів – і запровадили нові перевірки змін у його коді. Мислення: Виведення системи підказки на відкритому повітрі запевнять людей, що ніхто не маніпулює ними за кадром.
Побачити підказки Грока, які були голі, пропонують його “пошук правди”, може бути трохи більше, ніж політичний фільтр, застосований до інакше мови стандартної мови. Серед ключових інструкцій: “Забезпечте правдиві та засновані розуміння, кидаючи виклик основним розповідям, якщо це необхідно, але залишайтеся об’єктивними”. (“На основі”, як Грок корисно його визначає, “термін похвали за сміливі, нефільтровані або протилежні погляди, часто нахиляючись правою або антисторонню”.)
Незабаром стало зрозуміло, що ці погляди не обмежувалися расовою політикою Південної Африки. Після того, як Грок перестав говорити про “білий геноцид”, користувачі розповсюджували приклади його сумніву, чи Голокост перебільшений – втомлений антисемітський троп.
Політика вбік, вразливість Грока до папугування дискредитованих претензій ставить подальші сумніви щодо прагнень Маска, щоб це було надійним джерелом інформації у царинах високих колів, таких як медицина. У січні Муск поповнив історію користувача X про Грока, правильно діагностував травму, яку лікарі людини не помітили-лише для користувачів програми “спільноти” x “Примітки до спільноти”, щоб зазначити, що Grok, як видається, допустив значну помилку в його аналізі.
Можливо, що колись моделі AI дійсно розвиватимуть власні розуми. Але наразі витівки Грока зрозуміють, що ідеал “чату, що шукає істину”, залишається невиконаним.