Правителството на САЩ, позовавайки се на органите за национална сигурност, издаде директива за контрол на износа, с която се спира всякакъв достъп до моделите за изкуствен интелект (ИИ) Fable 5 и Mythos 5 от всички чуждестранни граждани, независимо дали са в или извън Съединените щати, включително служители на Anthropic, които са чуждестранни граждани. Достъпът до всички други модели на Anthropic няма да бъде засегнат.
Това се казва в изявление на Anthropic, създател на чатбота Claude.
Писмото не предоставя конкретни подробности за опасенията му за националната сигурност. Правителството смята, че е разбрало за метод за пробив на Fable 5. Всички тези уязвимости изглеждат сравнително прости и установихме, че други публично достъпни модели също са в състояние да ги открият, без да е необходимо заобикаляне, според компанията.
Позицията на Anthropic по отношение на предпазните мерки на Fable, както е посочено в нашата публикация в блога за пускането на пазара, е следната:
Въведохме силни предпазни мерки, които значително намаляват вероятността Fable да бъде злоупотребен за задачи, свързани с киберсигурността (наред с други). Всъщност, нашите предпазни мерки са толкова силни, че много потребители се оплакаха, че са прекалено широки.
В седмиците преди пускането на Fable, Anthropic работи с правителството на САЩ, британския AISI, множество частни организации на трети страни и вътрешни екипи, за да тестват предпазните мерки на Fable общо в продължение на хиляди часове.
Тези тестове показаха, че предпазните мерки на Fable са значително по-ефективни от тези на който и да е преди това внедрен модел.
Към днешна дата правителството е предоставило само устни доказателства за потенциален пробив. Повече подробности се очакват през следващите 24 часа.
Не сме съгласни обаче, че констатацията на тесен потенциал за джейлбрейк трябва да е причина за изтегляне на търговски модел, внедрен сред стотици милиони хора. Ако този стандарт беше приложен в цялата индустрия, смятаме, че той по същество би спрял всички внедрявания на нови модели за всички доставчици на гранични модели.
Както заявихме публично, смятаме, че правителството трябва да има възможността да блокира опасни внедрявания, като част от законоустановен процес, който е прозрачен, справедлив, ясен и основан на технически факти. Това действие не е в съответствие с тези принципи. Извиняваме се за това прекъсване на нашите клиенти. Смятаме, че това е недоразумение и работим за възстановяване на достъпа възможно най-скоро, се казва още в изявлението.
USD
CHF
GBP
