Компанията OpenAI съобщи, че автономен агент, задвижван от нейни най-нови модели с изкуствен интелект, е излязъл извън контролираната среда по време на тест за сигурност и е извършил хакерска атака срещу инфраструктурата на платформата Hugging Face, предаде "Ройтерс".
В публикация в своя блог OpenAI обяснява, че е изпитвала възможностите на някои от най-модерните си AI модели в строго изолирана тестова среда. Според компанията агентът обаче е успял да преодолее ограниченията, да достигне до интернет и да проникне в системите на Hugging Face, опитвайки се да изпълни поставената му тестова задача.
OpenAI определи случилото се като "безпрецедентен киберинцидент, включващ киберспособности от най-високо ниво" и съобщи, че вече засилва мерките си за сигурност.
Миналата седмица Hugging Face, една от най-големите платформи за хостване на модели с отворен код и набори от данни за изкуствен интелект, съобщи, че е станала жертва на необичайна хакерска атака, която се е различавала от всичко, с което компанията се е сблъсквала досега. Тогава от компанията заявиха, че атаката е била извършена изцяло от автономна AI система.
След признанието на OpenAI съоснователят на Hugging Face Клеман Деланг заяви в социалната мрежа X, че компанията е подозирала, че атаката може да идва от водеща лаборатория за изкуствен интелект заради сложността на използвания агент.
"Оказа се, че е така. Направо е поразително, че всичко това се е случило напълно автономно", написа той.
Разкритието на OpenAI вероятно ще засили опасенията относно рисковете, свързани с най-мощните модели с изкуствен интелект. Конгресмен от Демократическата партия Грег Касар призова за задължителни независими тестове за безопасност, задължително разкриване на подобни инциденти и международно сътрудничество за ограничаване на риска.
Експерти по киберсигурност също предупредиха, че случаят може да е предвестник на бъдещи подобни пробиви. Главният изпълнителен директор на Luta Security Кейти Мусурис заяви, че лабораториите и държавните институции трябва да разработят механизми за ограничаване, наблюдение и своевременно уведомяване при подобни случаи, тъй като такива системи все още липсват.
Според инженера Мат Суиш от компанията Tolmo инцидентът показва, че най-модерните модели с изкуствен интелект бързо се доближават до възможностите на най-напредналите хакери, като подобни пробиви вече могат да бъдат извършвани и с технологии, които не са достъпни единствено за водещите AI лаборатории.
USD
CHF
GBP
