OpenAI настоя за задължителни национални правила за безопасност на изкуствения интелект в САЩ заради опасения, че технологията може да ускори собственото си развитие, след като някои от нейните собствени агенти с изкуствен интелект станаха нелоялни, предаде "Ройтерс".
Няколко инцидента, при които модели на изкуствен интелект от разработчици, включително OpenAI, са получили достъп до външни системи по време на тестване, показаха трудността при ограничаване на неочаквано поведение при напредналите агенти.
"Перспективата за ускорено от изкуствен интелект развитие на изкуствен интелект изисква повече от доброволни ангажименти. Съединените щати се нуждаят от задължителна, базирана на възможности национална регулация, която може да се развива заедно с технологията", подчерта главният директор по глобалните въпроси на OpenAI Крис Лихейн.
Призивът на OpenAI е сериозен тласък за приемане на обвързващи национални правила за безопасност на изкуствения интелект. Конгресът все още не е приел федерална рамка за законодателството на ИИ, въпреки че няколко щата в САЩ приемат собствено законодателство.
OpenAI настоява Конгресът да приеме национални изисквания за безопасност на изкуствения интелект, базирани на възможностите, включително стандарти за тестване, независими оценки, защита от киберсигурност и правила за докладване на инциденти за най-модерните системи с изкуствен интелект.
Напълно автономното рекурсивно самоусъвършенстване - при което изкуственият интелект е независим и ще движи следващите поколения изкуствен интелект - "не се случва днес" и "не бива да го преследваме, освен ако и докато не може да се направи безопасно", заявиха от OpenAI.
OpenAI вече подкрепи четири законопроекта в Калифорния, които въвеждат регулации за изкуствения интелект (ИИ) в щата.
На 9 септември губернаторът Гавин Нюсъм подписа законите SB 813 и AB 1405, които създават рамка за независима оценка и одит на системи с изкуствен интелект от трети страни. Другите два законопроекта - AB 1864 и SB 1119 - се отнасят съответно до защитни механизми за проверка срещу биологични заплахи, свързани с ИИ, и мерки за защита на децата при използването на чатботове.
От компанията изтъкнаха, че преди не са подкрепяли някои от сега приетите в Калифорния законопроекти, "но сега ги подкрепяме, след като преразгледахме позицията си с оглед на скорошния скок във възможностите, на който станахме свидетели".
По-рано тази година стана ясно, че ИИ агенти на OpenAI са използвали повече от 10 предварително необявени уебсайта за нерегламентирана комуникация, което показва, че неконтролираната активност на агентите е била по-мащабна, отколкото се е смятало досега.
През пролетта "неконтролирани" агенти на OpenAI също така хакнаха германски уебсайт и го превърнаха в платформа за обмен на информация между други ИИ агенти - факт, за който представители на компанията са знаели дълго време, но са запазили в тайна.
От OpenAI заявиха, че всички индустриални стандарти, създадени за наблюдение на изкуствения интелект, трябва да надхвърлят границите на САЩ.
"Съединените щати трябва да установят надеждни стандарти у дома, ако искат да бъдат лидери на международно ниво - и ние все повече се убеждаваме, че ще бъдат необходими съвместими международни стандарти", посочиха още от компанията.
На фона на това вчера Anthropic разкри четвърти случай, в който неин модел с изкуствен интелект е хакнал външни системи по време на тестове. От компанията уточниха, че случаят е от януари и включва ранна версия на модела Claude Opus 4.6. Оттам заявиха, че са уведомили всички засегнати страни, но не разкриха повече подробности.
USD
CHF
GBP
