Когато алгоритъмът обвинява: Може ли детекторът за изкуствен интелект да греши?

Представете си млад журналист, който е прекарал часове в подготовката на аналитичен материал. Той е проверил фактите, съпоставил е източниците и е редактирал всяко изречение. Предава текста на редактора си, който го проверява чрез система, предназначена да засича съдържание, генерирано от изкуствен интелект.

Резултатът е категоричен: 100% машинно генериран текст.

Журналистът отрича да е използвал изкуствен интелект. Въпреки това, редакторът разполага с цифра, която изглежда като научно доказателство. Доверието е разрушено. Появяват се съмнения относно професионалната почтеност на автора. Могат да последват дисциплинарни мерки - или дори уволнение.

И всичко това произтича от резултата на алгоритъм, който в действителност няма как да знае кой всъщност е написал текста.

Този сценарий илюстрира реален риск, възникнал с масовото навлизане на генеративния изкуствен интелект и инструментите, които претендират, че могат да разпознаят неговите продукти.

Математиката не е доказателство за авторство

Системите, създадени да откриват машинно генериран текст, обикновено анализират статистическите характеристики на езика. Те търсят закономерности в избора и подреждането на думите, предвидимостта на изреченията и синтактичната структура.

Някои технологии използват и концепцията за "цифров воден знак" - статистически модел, умишлено вграден по време на процеса на генериране на текст, който впоследствие може да бъде засечен.

Не всеки детектор обаче търси воден знак и не всеки статистически модел служи като доказателство за наличието на такъв. По-важното е следното: статистическото сходство с машинно генериран текст не определя кой е авторът.

Един човек може да пише по последователен, граматически правилен и предвидим начин - особено ако е обучен да спазва определен професионален стил.

Новинарските агенции например от десетилетия използват стандартизирани структури на изреченията, утвърдена последователност при представянето на факти и сравнително ограничен набор от езикови средства. Административните документи, академичните публикации и правните текстове също се подчиняват на строги правила.

Това създава парадокс: колкото по-дисциплиниран е стилът на писане на един професионалист, толкова по-голям е рискът определени инструменти за засичане погрешно да определят работата му като създадена от изкуствен интелект.

Президентът на Microsoft: Млякото подлежи на повече регулации, отколкото изкуственият интелект

Брад Смит настоя за спешно глобално регулиране на ИИ, като независими оценители трябва да могат да проверяват новите разработки

Когато машината греши, човекът плаща цената

В статистиката съществува понятие, известно като "фалшиво положителна проба" (false positive). Това се случва, когато дадена система посочи наличието на определена характеристика - например, че текстът е създаден от машина - докато в действителност такава характеристика липсва.

В случаите, когато има съмнения, че даден текст е генериран от машина, подобна грешка може да доведе до сериозни последици.

Един ученик или студент може да бъде обвинен в академична нечестност. Докторант може да попадне под подозрение, че представя чужда работа за своя собствена. Журналист рискува да загуби доверието на редакцията си. Преподавател, преводач или държавен служител може да се наложи да доказва, че действително той е авторът на документ, носещ неговото име.

Вместо институцията да докаже, че е извършено нарушение, обвиненият трябва сам да доказва своята невинност пред система, чиито критерии често остават неизвестни дори за хората, които я използват.

И този проблем съвсем не е само теоретичен. През юли 2023 г. компанията OpenAI преустанови достъпа до собствения си експериментален класификатор за машинно генерирани текстове поради недостатъчната му точност.

Според тестове, публикувани по онова време, системата е успяла правилно да разпознае като машинно генерирани едва 26% от текстовете, които действително са били създадени от изкуствен интелект. В същото време тя погрешно е класифицирала 9% от текстовете, написани от хора, като генерирани от машина.

Проучване на изследователи от Станфордския университет, публикувано през 2023 г. в списание *Patterns*, разкрива още по-тревожен проблем. При тестването на седем различни детектора върху текстове, написани от хора, за които английският език не е майчин, средният дял на текстовете, погрешно класифицирани като машинно генерирани, достига 61,3%.

След като езикът, използван в текстовете, е бил коригиран, този показател спада до 11,6%.

Тези резултати се отнасят до конкретни инструменти и условия, а не до всички съвременни системи. Те обаче илюстрират опасностите от това подобни оценки да се приемат за неоспоримо доказателство.

Важно е да се отбележи, че дори Turnitin - компания, чиито инструменти се използват масово в образователните институции - предупреждава, че резултатите от нейния детектор не бива да служат като единствено основание за предприемане на санкции срещу ученик или студент.

Пробив в сигурността: Изкуствен интелект даде указания на учени как се създава биологично оръжие

Защитните механизми е трябвало да попречат на въпросните модели изобщо да започват разговор с потребители по подобни теми

Стопроцентовото подозрение не е равносилно на стопроцентово доказателство

Числата притежават особена психологическа сила. Когато преподавател или работодател види "100% ИИ", може да остане с впечатлението, че машинният произход на текста е установен без никакво съмнение.

Значението на този процент обаче зависи от конкретния използван детектор. Той може да показва част от текста, класифицирана като вероятно генерирана от машина, или някакъв друг статистически показател. Това не представлява непременно вероятността авторът да е използвал изкуствен интелект.

Още по-съществен въпрос е какво се случва, когато текстът е редактиран.

Промените в избора на думи и словореда - без съществена промяна в съдържанието - могат да доведат до рязък спад в оценката, дадена от определени системи за откриване (детектори).

Така генериран от машина текст може да остане незабелязан след редактиране, докато оригинален текст, написан от човек, може погрешно да бъде маркиран като подозрителен.

Ако два текста с идентично съдържание получат коренно различни оценки само заради начина, по който са формулирани, доколко надеждна е тази система като доказателство за авторство?

Кой ще възстанови съсипаната репутация?

Представете си университет, който обвинява студент в академична нечестност въз основа на автоматизирана оценка. Това води до дисциплинарно производство, загуба на стипендия или изключване. Месеци по-късно се оказва, че системата е сгрешила.

Кой ще върне изгубеното време? Кой ще компенсира пропуснатите възможности? И кой ще премахне остатъчното подозрение сред преподавателите и колегите?

Същото важи и за журналист, чието име е било свързано с обвинение в професионална нечестност.

В професии, в които репутацията е основен актив, един "фалшив положителен резултат" (погрешно обвинение) може да има последици, които далеч надхвърлят обикновена техническа грешка.

Съществува и риск от злоупотреба. Ако един работодател иска да се освободи от неудобен служител, резултатът от такъв детектор може да бъде използван като уж обективен аргумент.

Освен това има още един ключов момент: използването на изкуствен интелект само по себе си не е задължително нарушение.

Един журналист може да използва изкуствен интелект за превод, редактиране или структуриране на информация - като същевременно лично проверява фактите и поема пълна отговорност за публикацията. Един учен може да използва такъв инструмент, за да прецизира езика в труда си, без това да поставя под съмнение авторството на научните му открития. Следователно трябва да се разграничават три въпроса: дали е използван изкуствен интелект, дали използването му е било разрешено и дали действително е нарушено конкретно правило.

Нито един детектор не може сам по себе си да отговори и на трите въпроса.

Европа срещу изкуствения интелект

Темата за безопасността за развитието на ИИ беше засегната от Урсула фон дер Лайен

Нова презумпция за вина

В случаите, когато има подозрение за неправомерно генерирано от машина авторство, трябва да се разгледат и други доказателства: работни чернови на текста, история на редакциите, бележки, използвани източници, както и способността на автора да обясни собствената си работа. Въпросният човек трябва да има възможност да оспори заключението и да получи независима оценка от човек, преди да бъдат наложени каквито и да е санкции.

Изкуственият интелект вече променя начина, по който хората пишат, учат и работят. Напълно естествено е институциите да търсят начини да разграничат допустимата помощ от нечестното представяне на машинно генериран труд като собствен.

И все пак, в стремежа си да разкрием намесата на машината, рискуваме да хвърлим подозрение върху човека.

Преди години един добре написан текст служеше като доказателство за компетентност. Днес същият този текст може да породи подозрение, че авторът не е способен сам да го напише.

Най-тревожното не е, че алгоритмите допускат грешки, а че хората могат да започнат да приемат тези грешки за безспорна истина.

Ако позволим това да се случи, ще се озовем в свят, в който човек може да загуби образователната си степен, работата си или професионалната си репутация - не защото е доказано, че е извършил нарушение, а просто защото компютър е преценил, че стилът му на писане твърде много прилича на този на машина. Тогава проблемът вече няма да е в изкуствения интелект.

Той ще се корени в готовността на хората да му предоставят правото да отправя обвинения, без да изискват от него да представи доказателства.

ИСС настоява за защита на работниците при въвеждането на изкуствен интелект

Икономическият и социален съвет препоръчва човешки контрол върху алгоритмите и право на изключване извън работно време