През последните месеци всякакви медии непрекъснато ни питат за опасностите и ползите от изкуствения интелект (ИИ), стратегическа тема за обществото и за бъдещето на една държава. Работата ни в INSAIT и извън него е директно свързана със "създаването" на ИИ, включително с някои от водещите лаборатории в света, и няма как да отговорим на някои въпроси. На тези по-долу обаче може - те се срещат често.

Това пише във "Фейсбук" Мартин Вечев, професор по компютърни науки в ETH Zurich, където ръководи Лабораторията за сигурни, надеждни и интелигентни системи и е основател и архитект на INSAIT. 

Той изрежда въпросите и дава отговори. 

- Може ли техническото развитие на ИИ да бъде забавено?

Не. Твърде много трилиони $$$ са инвестирани в изчислителна мощ, хора, изследвания и това няма да спре за всеки който знае какво е ИИ. ИИ не е временно явление или технология. Той е тук за постоянно. Вече няма сфера X, има сфера ИИ+X.

- Опасен ли е ИИ за хората?

Да. Последният известен инцидент с Hugging Face, включващ агенти на OpenAI, не е случаен: начинът, по който са обучени моделите, ги кара да продължават да търсят решение на трудни или невъзможни задачи, включително чрез заобикаляне на правила или използване на измами.

В този случай агентът се е опитал да реши сложен тест за киберсигурност, от който впоследствие са произлезли всички следващи атаки. Всъщност в създаването на този тест участва мой бивш докторант.

-  Може ли ИИ да бъде контролиран технически?

Не напълно, тъй като това изисква принципно различни подходи към обучението, но може да бъде контролиран *частично* (което не е достатъчно). При неправилно поставени ограничения лесно може да се унищожи полезността на ИИ.

- Може ли използването на ИИ да бъде контролирано с регулации?

Да. Но ако регулациите се правят и въвеждат от хора, които не са наясно с ИИ, може да се унищожи полезността на ИИ и държавата да изостане драстично.

- САЩ срещу Китай срещу Европа в ИИ?

Сложно. Значителна част от ключовите разработки зад най-добрите модели в света се правят от хора в европейски подразделения на водещите лаборатории.

- Ще решим ли проблема, ако контролираме ИИ само в големите лаборатории? (OpenAI, Anthropic и т.н.)

Не. Отворените модели са изключително способни и са свободно достъпни. Премахването на защитните механизми, т.нар. *guardrails*, не е трудно за тези, които разбират достатъчно добре ИИ. Няма нужда повече да се коментира какво следва оттук нататък от гледна точка на национална сигурност, суверенитет и т.н..

- Какво трябва да направят държавите, за да се подготвят за ерата на ИИ?

Да инвестират сериозно в мощни изследователски и технологични институти като INSAIT, които са абсолютно стратегически в света на ИИ. Който не разполага със собствен капацитет да разбира как се създава ИИ, ще зависи от другите. Използването на ИИ е различно от прилагането на ИИ и различно от създаването на ИИ.

Германски евродепутат: ЕК не успява да държи темпото на развитие на ИИ

Германски евродепутат: ЕК не успява да държи темпото на развитие на ИИ

Целият работен подход на ЕК не е адаптиран към тези изключително бързо променящи се процеси на развитие

- Как би изглеждала ИИ (или СИ) индустрията в близко бъдеще без регулации или с вътрешни саморегулация?

Трудно е да се каже, защото отдавна има вътрешни регулации, някакъв вид поне. Но с регулации или без ИИ ще се ползва за все по-стратегически цели и все повече хора ще бъдат афектирани.

- Възможно и естествено ли е водещи специалисти (извън частните компании, но в академични или неправителствени организации) в тази област да консултират междудържавни и вътрешно държавни работни групи за създаване на регулации и имате ли подобна цел или текущ ангажимент?

Да, това се случва често (и от компаниите), INSAIT също е давал становища и т.н.