Бивш инженер на Google, който работи по скандално известния военен проект за дронове на компанията, предупреди за изграждането на роботи убийци, съобщават "Гардиън" и "Бизнес инсайдър".

Лора Нолан работи в Google четири години, когато през 2017 г. е назначена за сътрудничеството си с Министерството на отбраната на САЩ, по така наречения Project Maven. Project Maven е фокусиран върху използването на AI за подобряване на военните дронове, изграждането на AI системи, които биха могли да разграничат вражески цели и да правят разлика между хора и обекти.

Google замрази Project Maven след възмущение от служители, след като хиляди служители подписаха петиция срещу проекта и някои напуснаха в знак на протест. Google разреши договорът да изтече през март тази година. Самата Нолан подава оставка, след като стана "все по-етично загрижена" за проекта, обяснява тя.

"Въпреки че не бях пряко замесен в ускоряването на разпознаването на видео кадри, разбрах, че все още съм част от веригата за убийства; това в крайна сметка ще доведе до убийство на повече хора от американските военни на места като Афганистан", допълва тя.

Нолан се опасява, че следващата стъпка отвъд оръжията с активиран AI като дронове може да бъде напълно автономно оръжие с изкуствен интелект. "Това са възможни зверства и незаконни убийства, дори според законите на военните действия, особено ако са разположени стотици или хиляди от тези машини", коментира тя.

Служители на Google напускат заради участие във военен проект с изкуствен интелект

Служители на Google напускат заради участие във военен проект с изкуствен интелект

Редица служители на компанията са обезпокоени от проекта за използване на изкуствен интелект

Тя допълва, че всякакви непредвидими фактори могат да объркат системите на оръжието по непредвидени начини, като неочаквани радарни сигнали, необичайно време или могат да се натъкнат на хора, носещи оръжие по причини, различни от военни действия, като например лов. "Машината няма прозорливостта или здравия разум, които имат хората".

Тестовете ще трябва да се проведат на бойното поле. "Другото страшно нещо за тези автономни военни системи е, че наистина можете да ги тествате само като ги разгърнете в реална бойна зона. Може би това се случва с руснаците в момента в Сирия, кой знае? Това, което знаем, е, че в ООН Русия се противопостави на какъвто и да е договор, камо ли да забрани тези оръжия".

Въпреки че досега никоя държава не е заявила, че работи върху напълно автономни оръжия - роботи, много от тях изграждат все по-сложни AI, за да ги интегрират в своите военни части. Военноморските сили на САЩ разполагат с военен кораб, способен да прекарва месеци в морето без екипаж, а Израел може да се похвали, че разполага с дронове, способни да идентифицират и атакуват целите автономно - макар че в момента те изискват човешко разрешение за да действат.

Нолан призовава държавите да обявят категорична забрана на автономните убиващи роботподобно на конвенциите около използването на химическо оръжие.

"Много малко хора говорят за това, но ако не внимаваме с едно или повече от тези оръжия, тези роботи убийци могат случайно да започнат война, да унищожат ядрена централа и да причинят масова смърт", обяснява тя.

САЩ, Русия и Великобритания против забрана на роботите убийци

САЩ, Русия и Великобритания против забрана на роботите убийци

Няколко държави се опитват да осуетят планове за формулиране и налагане на превантивна международна забрана