В разгара на настоящата ключова изборна година, над интегритета на демократичните процеси е надвиснала заплаха от дезинформация и дълбоки фалшификации, задвижвани от изкуствен интелект — инструменти, които могат да заблудят избирателите, да изкривят публичния дебат и да подкопаят доверието в политическите системи. Microsoft е посветена на укрепването на сигурността на изборите и здравословната информационна среда с помощта на най-съвременни технологии, предназначени да защитават както процеса на гласуване, така и ключовите участници в него. В днешния сложен цифров пейзаж не става дума само за технологии, а за гарантиране на бъдещето на самата демокрация.

Нова ера на заплахи за изборите

Заглавията във вестниците често ни напомнят за крехкостта на демокрацията, а дълбоките фалшификати бързо се превръщат в една от най-сериозните заплахи за нея. Технологията на дълбоките фалшификати (дийпфейк*), която използва изкуствен интелект за създаване на убедителни, но неистинни изображения, видеоклипове или аудиоматериали, представлява сериозен риск за честността на изборите. Възходът на дълбоките фалшификати и друго съдържание, генерирано от изкуствен интелект, добави ново измерение към опасенията за сигурността на изборите. Неотдавнашно проучване на Sumsub показва 10-кратно увеличение на дълбоките фалшификати в различните индустрии в световен мащаб, като само през миналата година в Северна Америка се наблюдава увеличение на установените дълбоки фалшификати със зашеметяващите 1740%. През 2023 г. в социалните медии по света са били споделени над 500 000 дийпфейк видеоклипа и аудиоклипа, което онагледява мащаба на проблема.

Възходът на дълбоките фалшификати в политическите кампании

Дълбоките фалшификати улесняват повече от всякога манипулирането на медиите от злонамерени лица. Това, което някога е изисквало сложни умения, сега е достъпно за всеки, който разполага с интернет връзка и основни инструменти за изкуствен интелект. Тази промяна не само подхранва кражбите на самоличност и фишинг измамите, но и застрашава общественото доверие в изборните процеси, информация и резултати. Вторият доклад за изборите на Microsoft Threat Intelligence съдържа ключова информация за начина, по който AI се използва като оръжие в изборите, като подчертава, че частично, а не изцяло генерираното чрез изкуствен интелект съдържание и материали може да имат по-силно въздействие особено когато са пряко свързани, макар и привидно, с личността, като например фалшиви аудиозаписи от частни телефонни разговори.

Как изкуственият интелект се използва за заблуда на избирателите

В доклада се подчертават няколко фактора, които повишават генеративния риск от AI за изборите през 2024 г:

  • Съдържанието с намеса на изкуствен интелект е по-силно въздействащо от съдържанието, генерирано от изкуствен интелект;
  • Звуковите файлове с изкуствен интелект са по-въздействащи от видеоклиповете с изкуствен интелект;
  • Фалшиво съдържание с привиден произход от частната сфера на индивида, като например телефонен разговор, е по-ефективно от фалшиво съдържание от публичната сфера, като например дийпфейк видеоклип на световен лидер;
  • Дезинформацията е по-ефективна по време на криза и извънредни новини;
  • Имитациите на по-малко известни хора са по-ефективни от имитациите на много известни хора, например световни лидери.

Ейми Ларсен, директор "Глобална ангажираност на терен и стратегически проекти" в инициативата "Демокрация в подем" на Microsoft, подчерта ангажимента на компанията в борбата с тези заплахи: "Microsoft е в челните редици на отговорното разработване на изкуствен интелект и работи за гарантиране на устойчивостта на тези нови технологии срещу злоупотреби. Това включва редица действия, които помагат да се защитят избирателите, кандидатите, кампаниите и изборните органи в Европа и по света."

Ейми Ларсен

Източник: Microsoft

Ейми Ларсен

Сътрудничество за борба с дезинформацията, управлявана от изкуствен интелект

На Мюнхенската конференция по сигурността през февруари 2024 г. Microsoft се присъедини към над две дузини технологични компании, които подписаха Техническото споразумение за борба с измамното използване на изкуствен интелект в изборите през 2024 г. Този доброволен ангажимент се фокусира върху борбата с дълбоките фалшификати под формата на видео клипове, аудиозаписи и изображения, които се опитват да фалшифицират или променят външния вид, гласа или действията на политически кандидати, кампании или служители на изборни органи. Като обединява лидери от индустрията, Техническото споразумение се фокусира върху това да възпрепятства злонамерените лица в създаването и разпространението на фалшиво или променено медийно съдържание, свързано с кандидати за политически длъжности и служители на изборни органи.

Microsoft също така разработи инструменти за откриване на дълбоки фалшификати и сесии за обучение, като до момента са обучени хиляди представители на политическата класа в повече от 20 държави. Тези усилия включват разширяване на инструментите на Microsoft за интегритет на съдържанието, които позволяват на кандидатите за политически длъжности и редакциите да проверяват автентичността на цифровите медии. Този инструмент, базиран на стандарт с отворен код, разработен от Коалицията за автентичен произход на съдържанието (C2PA), осигурява прозрачност, като показва кога и къде е създадено съдържанието и дали е било подправяно след създаването му. В Прибалтика Microsoft AccountGuard предлага безплатно усъвършенствани услуги за откриване на заплахи и уведомяване на заинтересованите участници в демократичния процес и защитава стотици акаунти. Освен това кампаниите на Microsoft за повишаване на обществената осведоменост относно дълбоките фалшификати в Централна и Източна Европа през тази година са достигнали до около половин милион души.

Еволюиращи заплахи от страна на националните държави

Въпреки тези усилия демокрациите все още са изправени пред нови и променящи се предизвикателства в цифровата ера. Както споменава Ейми Ларсен в неотдавнашна статия, "националните държави, които представляват заплаха, също повишават квалификацията си, което създава потенциал за все по-сложни и мащабируеми кибератаки и кампании за дезинформация". Както Центърът за анализ на заплахите на Microsoft (MTAC) отбеляза в неотдавнашни свои доклади, представляващи заплаха национални държавни субекти като Китай и Русия използват инструменти за генеративен изкуствен интелект, които продължават да изострят политическите и социалните разделения в САЩ и в останалия демократичен свят.

Ангажимент за отговорен изкуствен интелект

Водещата роля на Microsoft в отговорното разработване на изкуствен интелект се подчертава от партньорствата и постоянното застъпничество за балансирано регулиране. В сътрудничество с организации като TrueMedia.org компанията разработва рамки за справяне с рисковете, свързани с AI, като същевременно увеличава максимално ползите от него за демократичните процеси. Както отбеляза Ейми Ларсен: "Отвъд тази изборна година трябва да останем бдителни и проактивни в защитата на обществеността от неправомерно съдържание, генерирано от AI, което може да подкопае доверието, да разпространи дезинформация и да навреди на хората и общностите. Технологиите не са само инструменти, които създаваме, а и хора, на които служат, и предизвикателства, които ни помагат да преодолеем."

Пътят напред: AI в служба на доброто

В наскоро публикувана бяла книга Microsoft очертава подхода и политическите препоръки за справяне с този проблем. Компанията продължава да се стреми да играе своята роля в укрепването на демокрацията, като предоставя решения и инструменти, които спомагат за повишаване на сигурността и устойчивостта на изборите, защитават уязвимите членове на обществото като деца, жени, възрастни хора и кандидати за изборни или политически длъжности, и укрепват интегритета на информационната екосистема. Ангажирани сме да продължим тази важна работа със заинтересованите страни в Европа и да намерим нови начини за защита на най-уязвимите членове на нашето общество.

В цифровата ера опазването на демокрацията изисква постоянна бдителност, защита и подкрепа от всички заинтересовани страни, като правителства, технологични компании, гражданско общество, медии и граждани. Тъй като заплахите от страна на националните държави все по-често разчитат на напреднали технологии като изкуствен интелект и кибернетични инструменти, за да атакуват демократичните общества, от съществено значение е всеки да играе роля в защитата на демократичните системи, които поддържат нашето индивидуално и колективно благосъстояние.

*От английски deepfake - дълбок фалшификат