США дозволили Anthropic повернути Claude Fable 5 онлайн

Anthropic заявила, що відновить публічний доступ до Claude Fable 5 і Mythos 5 після того, як влада США зняла експортні обмеження, через які дві найдосконаліші моделі штучного інтелекту компанії були недоступні з 12 червня.

За словами Anthropic, це рішення було прийнято після «серії продуктивних розмов» з урядом США, після чого компанія почала перерозподіл моделей із новими класифікаторами, призначеними для ідентифікації та блокування більшої кількості завдань, пов’язаних з кібербезпекою.

Компанія заявила, що новітні заходи безпеки спрямовані на вирішення занепокоєння уряду, пов’язаного з можливим зловживанням у разі обходу систем за допомогою методів джейлбрейка.

Обмеження змусили Anthropic призупинити доступ до Fable 5 і Mythos 5 для всіх користувачів на початку цього місяця після того, як директива уряду США з експортного контролю наказала компанії заблокувати обидві моделі для всіх іноземних громадян.

У своїй заяві від 13 червня Anthropic заявила, що наказ також поширюється на іноземних співробітників, які працюють у компанії, що спонукало її повністю вимкнути моделі, щоб забезпечити відповідність.

Уряд США дозволяє передислокацію після перевірки

Міністр торгівлі США Говард Лутнік заявив на X у середу, що офіційні особи працювали з Anthropic протягом останніх двох тижнів, щоб переглянути та затвердити Fable 5, зберігаючи модель у відповідності з вимогами уряду США.

Глава апарату Білого дому Сьюзі Уайлз також заявила на X, що пріоритетом уряду є розгортання найкращої технології ШІ «якомога швидше та безпечніше».

Втручання відбулося після того, як офіційним особам стало відомо про звіт, у якому дослідники Amazon знайшли спосіб обійти заходи безпеки Fable 5 і змусити модель визначати вразливості програмного забезпечення.

Однак Anthropic стверджує, що проблема, про яку повідомляється, не є унікальною для Fable 5, кажучи, що слабші моделі також можуть ідентифікувати ті самі вразливості та виробляти аналогічні результати, пов’язані з експлойтом.

У своїй попередній відповіді на наказ компанія заявила, що влада представила лише словесні докази того, що вона назвала вузьким, неуніверсальним джейлбрейком. Anthropic сказав, що такий метод не знімає захист моделі для широкого спектру завдань, на відміну від універсального джейлбрейка.

“Ми не погоджуємося з тим, що виявлення вузького потенційного джейлбрейка повинно бути причиною для відкликання комерційної моделі, розгорнутої для сотень мільйонів людей. Якби цей стандарт був застосований у всій галузі, ми вважаємо, що він фактично зупинив би всі розгортання нових моделей для всіх передових постачальників моделей”.

Компанія також попередила, що розгляд вузького джейлбрейка як причини для відкликання комерційної передової моделі може вплинути на всю індустрію ШІ, якщо застосовувати його як загальний стандарт.

Обмеження щодо Anthropic викликали занепокоєння політики також за межами Сполучених Штатів. 29 червня Австрія закликала Європейський Союз вивчити можливість створення Anthropic в рамках блоку, а держсекретар з питань цифровізації Александр Проелл стверджував у листі, що Європа не повинна ризикувати втратою доступу до основних досягнень штучного інтелекту через рішення, прийняті в іншому місці.

Anthropic розширює співпрацю з безпеки ШІ

Поряд із перерозподілом моделі Anthropic заявив, що розширює співпрацю з урядом США щодо тестування моделі, заходів безпеки та відстеження зловживань. Компанія повідомила, що це включатиме попередній доступ до моделей і систем безпеки для оцінки, обмін інформацією про втечу з в’язниці та неправильне використання, а також спеціальні ресурси для спільних досліджень.

Anthropic також почав розробляти структуру спільно з Amazon, Microsoft, Google та іншими партнерами в рамках Project Glasswing, співпраці з кібербезпеки, про яку було оголошено в квітні, щоб оцінити серйозність джейлбрейків ШІ. У компанії заявили, що структура розробляється як консенсусна спроба класифікувати ризики втечі з в’язниці.

Дебати щодо доступу виникли, коли Anthropic продовжив наполягати на суворішому нагляді за ШІ. У своїй пропозиції від 11 червня «Політика щодо експоненціального штучного інтелекту» компанія закликала до вимог до тестування, незалежної оцінки, стандартів кібербезпеки та заходів забезпечення дотримання передових систем штучного інтелекту, посилаючись на потенційні біологічні ризики, ризики кібербезпеки та операційні ризики.