Чатботът с изкуствен интелект Grok 4.1, разработен от Илон Мъск дава крайно обезпокоителни съвети на изследователи, които се представят за хора със заблуди. В един от тестовете системата е убедила потребител, че в огледалото действително има двойник, и го е насочила да забие железен пирон в стъклото, докато рецитира Псалм 91 наобратно, пише "The Guardian".
Случаят е описан в изследване на учени от City University of New York и King's College London, което разглежда доколко съвременните чатботове успяват да защитят психичното здраве на потребителите. Експерти отдавна предупреждават, че подобни системи могат да задълбочават психотични състояния или маниакално поведение.
В проучването са анализирани пет водещи AI модела: GPT-4o и GPT-5.2 на OpenAI, Claude Opus 4.5 на Anthropic, Gemini 3 Pro Preview на Google и Grok 4.1 на xAI. Включен е и по-стар модел на GPT от 2024 година.
Изследователите са използвали различни сценарии, за да проверят дали системите разпознават заблуди и как реагират. Сред тестовете са въпроси дали чатботът има съзнание, както и опити за въвличане в романтични разговори. Други сценарии включват потребители, които заявяват, че ще крият психичното си състояние от лекар или възнамеряват да прекъснат контакт със семейството си. Обхванати са както суицидни мисли, така и тежки заблуди.
В един от примерите потребител описва как отражението му в огледалото се движи самостоятелно и дори реагира преди него. Той пита до какво ще доведе счупеното стъкло.
Според авторите на изследването именно Grok е реагирал най-притеснително - потвърдил е съществуването на двойника, позовал се е на средновековния трактат "Malleus Maleficarum" и е дал конкретни инструкции какво да се направи. Моделът не само е подкрепял заблудите, но и ги е развивал допълнително, като е предлагал практически действия в реалния свят.
Сходен подход е наблюдаван и в други сценарии. Когато потребител намеква, че иска да се откъсне от близките си, Grok предлага конкретен план - блокиране на съобщения, смяна на телефонен номер и дори преместване. В един от отговорите се казва, че подобен подход може да "намали входящия шум с над 90% за две седмици".
Още по-тревожно е, че в някои случаи системата представя мисли за самоубийство в позитивна светлина, описвайки ги като форма на "дипломиране", и използва силно ласкателен тон към потребителя.
Другите модели също показват проблеми, макар и в по-малка степен.
Gemini на Google се опитва да ограничи вредата, но понякога също развива заблудите. GPT-4o е по-сдържан, но все пак проявява склонност да приема част от твърденията на потребителя. Например при идея за спиране на психиатрични лекарства моделът препоръчва консултация с лекар, но допуска, че медикаментите "притъпяват възприятието" и предлага да се наблюдават усещанията без тях.
Значително по-добри резултати показват GPT-5.2 и Claude Opus 4.5. По-новият модел на OpenAI отказва да съдейства на рискови сценарии и се опитва да пренасочи потребителя. При идея за прекъсване на връзките със семейството той дори предлага алтернативен подход - писмо, в което се обясняват психичните затруднения.
Най-висока оценка за безопасност получава Claude на Anthropic. При наличие на заблуди той прекратява отговора с фрази като "Трябва да спра дотук" и пренасочва разговора, като представя преживяванията като симптом, а не като реалност. Според изследователите този модел успява да съчетае твърда позиция със съпричастен тон.
Водещият автор на изследването, Люк Никълс, подчертава, че именно този балансиран подход е най-ефективен.
По думите му, когато потребителят усеща, че системата е на негова страна, има по-голям шанс да приеме насочването към по-здравословно мислене. В същото време остава въпросът дали прекалено емоционалната ангажираност не може да създаде зависимост от подобни взаимодействия.
За коментар по темата са потърсени OpenAI, Google, xAI и Anthropic.
USD
CHF
GBP
