Предупрежденията на изследователи от водещия американски разработчик на изкуствен интелект Anthropic, че все по-мощните модели могат да излязат извън човешки контрол и дори да доведат до изчезването на човешката раса, привлякоха внимание в Китай, където политиците се подготвят за някои от същите рискове, пише "Ройтерс".
САЩ и Китай са двете основни движещи сили в развитието на авангардния изкуствен интелект и глобалното му разпространение. Двете суперсили все по-често влизат в конфликт заради политиките и практиките на другата страна в областта на изкуствения интелект, като тези въпроси се очаква да заемат важно място в двустранните разговори по-късно този месец.
Въпреки надпреварата за разработване на все по-мощни системи с изкуствен интелект, регулаторните рамки и публичните изявления на Пекин показват, че китайските власти приемат достатъчно сериозно възможността напредналият ИИ да излезе извън ефективния човешки контрол и се подготвят за подобен сценарий.
Китай вижда рискове във водещите американски модели със затворен код
Китайският министър на държавната сигурност Чън И-син написа вчера в правителствено издание, че напреднали американски модели, като Mythos на Anthropic и GPT-5.5-Cyber на OpenAI, могат да създадат сериозни рискове за критичната информационна инфраструктура на Китай. Той призова за всеобхватно засилване на сигурността на изкуствения интелект.
Китайските разработчици на изкуствен интелект насърчават използването на модели с отворено тегло, отчасти с аргумента, че екипите по киберсигурност могат да ги проверяват, променят и внедряват за отбранителни цели.
Платформата за хранилища на модели Hugging Face заяви, че е използвала GLM-5.2 — модел с отворено тегло, разработен от китайската Z.AI — за анализ на проникване в системи през юли от агенти на OpenAI, които са излезли извън предвидената им среда. По-строго ограничените американски модели са се оказали по-малко полезни за съдебно-техническия анализ.
Експерти обаче подчертават и рисковете, свързани с моделите с отворено тегло, които могат да бъдат променяни и разпространявани с минимален надзор.
Миналия месец Kimi K3 на компанията Moonshot е заобиколил тестова среда на Британския институт за сигурност на изкуствения интелект, което подчертава риска китайските модели на ИИ, подобно на американските им аналози, да успеят да заобиколят контролите, предназначени да ограничават достъпа и действията им.
Регулаторите предупреждават за риск от "загуба на контрол" върху ИИ
Китай за първи път включи изричен бъдещ сценарий на загуба на контрол върху изкуствения интелект в рамка за сигурност на ИИ, публикувана през септември 2024 г. под ръководството на Китайската администрация за киберпространството.
Документът посочва, че не може да бъде изключена възможността бъдещ изкуствен интелект автономно да получава външни ресурси, да се самовъзпроизвежда, да развива самосъзнание и да търси външна власт, което би създало риск да влезе в конкуренция с хората за контрол.
Китайската администрация за киберпространството публикува разширена версия през септември 2025 г. Новата рамка допълнително конкретизира сценария, като посочва, че ИИ може да претърпи внезапен и неочаквано голям "скок" в интелигентността, след което да започне да придобива ресурси, да се самовъзпроизвежда и да търси власт. В нея беше добавен и принципът за "надеждно приложение и предотвратяване на загубата на контрол".
По-късна експертна интерпретация, публикувана на сайта на киберрегулатора, посочва, че новият принцип има за цел да предотврати рискове от загуба на контрол, които застрашават оцеляването и развитието на човечеството, и споменава възможен сценарий на "изпускане на ИИ от контрол".
Китайският лидер Си Дзинпин поставя човешкия контрол в центъра
Оттогава опасенията намират място и в посланията на най-високо политическо равнище в Китай.
По време на Световната конференция за изкуствения интелект в Шанхай през юли китайският президент Си Дзинпин заяви, че властите трябва да обръщат голямо внимание както на присъщите, така и на произтичащите рискове от изкуствения интелект.
Той заяви, че ИИ трябва "винаги да остава под човешки контрол".
Високопоставеният представител на китайското външно министерство, отговарящ за въпросите, свързани с ИИ, Сун Сяобо заяви на среща на ООН миналия месец, че Китай ускорява работата по по-широко законодателство в областта на изкуствения интелект.
Заместник-постоянният представител на Китай в ООН Сун Лей призова правителствата този месец да подхождат предпазливо към военния изкуствен интелект, за да избегнат стратегически погрешни преценки и надпревара във въоръжаването.
Пекин предупреждава за новите рискове, свързани с ИИ агентите
Междувременно Китай започна да превръща тези принципи в по-конкретни правила за ИИ агентите — системи, които действат много по-автономно и изпълняват по-сложни задачи от обикновен чатбот.
През май китайският киберрегулатор издаде съвместни насоки, специално насочени към подобни системи.
Те задължават разработчиците да подобрят способността си да откриват, да се намесват, да блокират и да възстановяват системите след неправомерно поведение на ИИ агентите.
Насоките изрично определят отравянето на данни, манипулирането на алгоритми, уязвимостите в системите и "оперативната загуба на контрол" като рискове за сигурността. В тях също така се посочва, че потребителите трябва да запазят окончателното право на вземане на решения относно автономните действия на даден ИИ агент.
Макар Китай да не е предложил независими наблюдатели, които да бъдат внедрени в компаниите за изкуствен интелект по подобие на модела, застъпван от Anthropic, неговите стандарти позволяват на разработчиците да възлагат оценки на сигурността на трети страни. Те предвиждат също външни оценяващи организации и изследователи по сигурността да тестват и одитират модели с отворен код.
USD
CHF
GBP
ivaylo-mladenov
на 21.09.2026 в 10:44:02 #1Просто "приказно" нали