Съоснователят на компанията Anthropic Крис Ола предупреди, че развитието на изкуствения интелект не може да бъде оставено единствено в ръцете на технологичните компании и призова за по-широк обществен контрол от страна на правителства, религиозни лидери и гражданското общество. Думите му са цитирани от "Ройтерс".
Ола направи изказването си по време на представянето на първата енциклика на папа Лъв XIV, посветена на изкуствения интелект, където участва редом с понтифика.
Според него съществува "реална възможност" AI системите да доведат до масово изместване на човешкия труд.
"Ако това се случи, подкрепата за засегнатите хора ще се превърне в морален императив с исторически мащаб", заяви той.
Крис Ола подчерта, че компании като Anthropic работят под силен търговски, геополитически и личен натиск, който често влиза в противоречие с обществения интерес.
"Всяка компания, разработваща водещи AI системи, функционира в среда от стимули и ограничения, които понякога са в конфликт с правилното решение", каза той и допълни, че дори добронамерените изследователи остават повлияни от тези фактори.
По думите му именно затова е необходим външен контрол и критичен обществен надзор.
Anthropic е американска компания, разработваща AI системите Claude, и през последните месеци влезе в противоречия с администрацията на президента Доналд Тръмп заради настояването си , включително автономно насочване на оръжия и вътрешно наблюдение.
Ола приветства активната позиция на Католическата църква по темата и заяви, че етичните въпроси около изкуствения интелект далеч надхвърлят рамките на инженерството.
"Въпросите, които поставя AI, са по-големи от самата AI общност", каза той и призова за "сериозни и мислещи критици", които да могат да поставят под въпрос действията на технологичните компании и да помогнат развитието на мощните AI системи да бъде насочено в положителна посока.
Той очерта три ключови проблема, които според него изискват спешно внимание - рискът от масова загуба на работни места, необходимостта ползите от AI да бъдат разпределени глобално и трудността при разбирането на все по-сложното и често непрозрачно поведение на съвременните AI системи.
"Развитието на AI е концентрирано в малък брой богати държави. Как да гарантираме, че ползите от него ще бъдат споделени в световен мащаб?", попита Ола.
Събитието бе определено като необичайно сближаване между технологичния сектор и Католическата църква, която в последните години се стреми да се утвърди като морален глас по въпросите, свързани с бързото развитие на изкуствения интелект.
USD
CHF
GBP
