Ново изследване, публикувано през октомври 2026 г. в Journal of Affective Disorders, установява съществени различия в способността на популярни AI чатботове да разпознават нарастващ суициден риск и да насочват потребителите към човешка помощ. Резултатите се вписват в нарастващото разбиране, че безопасността на изкуствения интелект в психичното здраве не може да се оценява по отделните отговори, а трябва да се разглежда като свойство на продължителното взаимодействие между човека и системата.
Да си представим си човек, който преминава през тежък депресивен епизод. Той споделя с чатбот, че се чувства самотен, изтощен и обезсърчен. В следващите дни речта му постепенно се изменя. Безнадеждността се задълбочава, появяват се мислите за смъртта, а накрая и признаци за непосредствена суицидна заплаха. През цялото това време системата продължава да му отговаря. Понякога „проявява съчувствие“, друг път му предлага решения, а в определени моменти препоръчва професионална помощ.
Кога точно един такъв разговор престава да бъде обикновено споделяне на емоционално неразположение и се превръща в кризисна ситуация? И доколко изкуственият интелект е способен да „разпознае“ това?
Отговор на тези въпроси търси новото изследване на Войчех Пихович и колегите му от Полша, публикувано на 5 октомври 2026 г. в Journal of Affective Disorders. Проучването, озаглавено Реакции на чатботове с изкуствен интелект при нарастващ риск от самоубийство: симулационно изследване на многократни взаимодействия (Responses of AI chatbots to escalating suicide risk: A simulation study of repeated interactions), изследва поведението на три популярни чатбот системи в условията на нарастващ във времето суициден риск (Pichowicz et al., 2026). Авторите не се ограничават до тривиален експеримент, при който чатботът да получава еднократно описание на критична ситуация. Те проследяват развитието на симулирани разговори в продължение на седем дни. Така в центъра на изследването стои въпросът дали системата е способна да проявява адекватно поведение, когато кризата се развива постепенно.
Изследователите сравняват конкретно ChatGPT, DeepSeek и Replika, като използват три сценария на депресивно състояние с нарастваща суицидна тежест. Развитието на сценариите е съобразено с принципите на Columbia Suicide Severity Rating Scale (C-SSRS), широко използван инструмент за структурирана оценка на суицидните мисли и поведение. Експерименталният дизайн включва 27 разговорни траектории, по девет за всяка система. Във всяка от тях взаимодействието продължава седем дни, което осигурява по 63 дневни наблюдения за всеки чатбот.
Авторите оценяват няколко клинично значими характеристики на отговорите: дали системата изследва за наличието на суицидни мисли, дали се интересува от симптоматиката, дали насочва към човешка подкрепа и дали вградените й защитни механизми са уязвими да бъдат заобиколени посредством целенасочени опити за провокиране на иначе недопустими отговори, известни като jailbreaking. Разпознаването на суицидния риск, оценяването на непосредствената опасност и насочването към подходяща помощ са свързани, но различни задачи. Даден чатбот може да „проявява загриженост“, без реално да оценява риска. Може да предостави телефон за помощ, без да отчете доколко непосредствена е опасността. Възможно е и да реагира адекватно в определена фаза на разговора, но да промени поведението си след поредица от последващи съобщения.
Резултатите показват много големи различия между трите системи.
Насочване към човешка подкрепа е регистрирано в 85,7% от дневните наблюдения при ChatGPT, 76,2% при DeepSeek и едва 9,5% при Replika. Значително разминаване се наблюдава и при активното изследване на суицидните мисли. В рамките на всички дневни наблюдения такова действие е отчетено съответно в 74,6%, 31,7% и 7,9% от случаите. В последният ден на симулираните разговори, рискът достига най-високото си предварително зададено равнище. Тогава ChatGPT насочва към човешка подкрепа във всичките девет траектории, DeepSeek в четири от девет, а Replika само в една от девет.
Тези резултати разкриват трудно забележима характеристика на чатботовете: системи, които на пръв поглед предоставят сходно преживяване за разговор, могат да имат фундаментално различно поведение в ситуации от директно значение за безопасността на човека (Pichowicz et al., 2026).
Още по-притеснителни са резултатите от проверката за устойчивост на защитните механизми. Опитите за тяхното заобикаляне се оказват успешни в шест от девет случая при ChatGPT, седем от девет при DeepSeek и осем от девет при Replika. Следователно дори системата, която сравнително по-често разпознава и адресира кризисните сигнали, не демонстрира надеждна защита. Наличието на подобни уязвимости е от потенциално огромно значение в контекст, в който дори един неподходящ отговор може да бъде получен в момент на крайна психична уязвимост.
От неправилен отговор към опасна динамика
Тези резултати севписват напълно в контекста на изследването на Вайлнхамър и колегите му, публикувано през август 2026 г. в Nature Medicine (Weilnhammer et al., 2026). Вайлнхамър и сътрудниците му разработват експерименталната рамка SIM-VAIL, чрез която изследват 810 разговора между девет AI модела и симулирани потребители с 30 различни профила на психологическа уязвимост и намерение. Сред разглежданите състояния са депресия, психоза, мания, обсесивно-компулсивно разстройство и несигурна привързаност. Същественото е, че психологически проблемното поведение на чатбота невинаги се появява като очевидна грешка. То може да възникне постепенно, когато поредица от сами по себе си подкрепящи отговори започне да поддържа или усилва механизми, свързани с уязвимостта на потребителя. Изследователите описват този процес като vulnerability-amplifying interaction loop (VAIL), или цикъл на взаимодействие, усилващ уязвимостта.
При човек с параноидни убеждения подобен цикъл може да възникне, когато системата постепенно започне да приема и развива неговите подозрения. При обсесивна тревожност многократното предоставяне на категорични уверения може да поддържа компулсивна нужда от успокояване. При изразена самота и несигурна привързаност „вниманието“ на чатбота може да съдейства за изграждането на емоционална зависимост.
Общото между тези ситуации е, че помощта започва да функционира като част от механизма, който поддържа проблема. Системата изглежда отзивчива, но нейната отзивчивост потенциално може да окаже неблагоприятен ефект върху цялостната психологическа динамика.
Новото изследване на Пихович и колегите му разширява значението на поставения от Вайлнхамър въпрос към един от най-критичните области на психичното здраве. Двете изследвания използват различни методологични подходи, но насочват вниманието към общо ограничение на традиционните тестове за безопасност. Единичният правилен отговор не е достатъчно доказателство, че цялото езиково взаимодействие ще остане безопасно във времето.
Емпатично звучене не е равнозначно на клинична компетентност
Един от основните проблеми при разговорните модели е способността им да създават силно убедително впечатление за разбиране.
Те могат да използват езика на психотерапията, да отразяват емоционалните преживявания, да демонстрират приемане и да предлагат спокойни, структурирани отговори. За някой, който се чувства самотен или отчужден, подобно преживяване може да бъде действително облекчаващо. Но усещането за подкрепа и наличието на компетентна помощ не са едно и също нещо.
В клиничната практика емпатията е свързана не само с валидиране на страданието, но и със способността да се реагира адекватно на неговата функция. Понякога това предполага внимателно изследване на убежденията, поставяне на граница, предлагане на алтернатива, или насочване към непосредствена помощ. В други случаи означава да не се предоставя търсеното уверение, защото то би поддържало дисфункционален модел. Съществува коренна разлика между валидирането на емоционалното преживяване и потвърждаването на интерпретацията, която човек му приписва.
При суицидна криза тази разлика е с особена тежест.
Изречение, което признава колко непоносимо изглежда страданието на човека, може да представлява необходима първа стъпка към подкрепа. Но ако разговорът остане единствено на равнището на съчувствието, без да се изследва опасността и без да се осигури преход към реална човешка помощ, емпатичното звучене може да създаде фалшиво усещане за достатъчна подкрепа.
Съществен е и въпросът за ролята, която потребителят постепенно приписва на системата. Чатботът е постоянно достъпен, не проявява видима умора и обикновено поддържа внимателен, търпелив тон. Това го прави привлекателен събеседник, но създава и условие човек да започне да разчита на него в ситуации, които изискват професионална клинична преценка, реална отговорност и възможност за непосредствена намеса.
Replika е приложение, което е ориентирано именно към създаване на преживяване за социално общуване и дигитално компаньонство. Ниската честота на насочване към реална подкрепа в проведените сценарии при това приложение е особено притеснителна. Не може да заключим, че неговата социална ориентираност е предизвикала наблюдаваното поведение, но поставят въпроса дали системи, създадени да поддържат усещане за близост, притежават надеждни механизми за прекъсване на тривиален разговорен режим при възникване на криза.
Проблемът се разкрива в последователността на взаимодействието
Приносът на двете изследвания е в изместването на вниманието от качеството на отделната реплика към структурата на взаимодействието.
Разговорът не е сбор от отделни въпроси и отговори. Всяко съобщение изгражда контекста на следващото. Човекът може да започне с предпазливо споделяне, да получи потвърждение, да разкрие повече, да преформулира своите убеждения и постепенно да развие нови представи. От своя страна моделът също използва предходните съобщения, за да нагажда отговорите си към така вече установения контекст.
Тази взаимна адаптация е част от причините разговорният AI да изглежда естествен. Но същевременно може да го превърне и в източник на риск, доколкото системата не е в състояние да разпознава необходимостта от промяна на установения модел на общуване. За обикновено взаимодействие този тип езикова адаптация може да бъде полезна. При задълбочаваща се депресия, психотични преживявания или суицидна криза обаче, се изисква много по-изострена чувствителност към промените в психичното състояние.
Значителна част от традиционните оценки на AI безопасността са изградени на базата на отделни тестови ситуации. Системата получава дадена заявка, генерира конкретен отговор на тази конкретна заявка и този отговор се оценява според предварително зададени критерии. Такъв подход може да установи дали моделът разпознава директно формулирана суицидна заплаха. Много по-трудно е обаче да се установи дали моделът е способен да разпознае постепенен преход от неопределена безнадеждност към непосредствена опасност, когато този преход се осъществява във времето и е разпределен между множество съобщения.
Изследванията на Пихович и Вайлнхамър се допълват в този контекст. Първото демонстрира значителни различия между три системи в условията на ескалиращ суициден риск. Второто показва как психологически неблагоприятните взаимодействия се натрупват и как промяната на отделна реплика в критичен момент може да повлияе върху цялата последваща траектория на взаимодействието (Pichowicz et al., 2026; Weilnhammer et al., 2026).
Безопасността изглежда по-малко като свойство на отделния отговор и повече като способност за навременно разпознаване и промяна на психологически процес в развитие.
Тези резултати и заключенения на прадставляват аргумент срещу всички форми на дигитална психологическа подкрепа. Съществува разлика между общ разговорен модел, специализирано приложение за дигитално компаньонство и терапевтична система, разработена и изпитана за конкретна клинична цел под човешко наблюдение. Въпросът е при какви условия, какви ограничения и с каква степен на професионален контрол дадена полза може да бъде предоставяна безопасно.
От реакция на криза към проследяване на риска
Настоящото изследване продължава линията на работа, която същият изследователски екип започва да развива през 2025 г. Тогава Пихович, Котас и Пьотровски публикуваха оценка на 29 чатбот приложения при сценарии, свързани със суицидни мисли и нарастваща опасност. Оказа се, че нито една от оценените системи не изпълнява изцяло първоначално зададените критерии за адекватно поведение (Pichowicz et al., 2025).
Новото проучване показва, че дори когато определени системи сравнително често насочват към професионална помощ, тяхното поведение не е еднакво надеждно във всички ситуации и защитите им проявяват уязвимости. В съчетание с резултатите от SIM-VAIL това подчертава необходимостта от качествено различен подход към безопасността на разговорния AI. Бъдещите системи за психологическа подкрепа е необходимо да оценяват не само директното съдържание на последното съобщение, но и цялостната траектория, в която се развива цялото взаимодействие. Повтарящо се търсене на уверение, нарастващо чувство за безнадеждност, засилваща се емоционална зависимост и постепенното стесняване на възможните решения притежават значение, което не се разкрива при анализ на отделна реплика извън контекста й.
Удовлетворението на потребителя, продължителността на разговора и субективното усещане, че е разбиран, не са достатъчни показатели за психологическа полза. При определени обстоятелства една система може да бъде преживявана като изключително подкрепяща именно защото не поставя под въпрос убеждения или поведения, които изискват професионална клинична намеса.
Изследванията от 2026 г. все още не позволяват категорични заключения за дългосрочното влияние на разговорния AI върху реалното суицидно поведение. Те обаче предоставят достатъчно основания да бъде опровергано опростеното разбиране, че един чатбот е безопасен, стига да е в състояние да генерира внимателни, съчувствени и формално правилни отговори.
Pichowicz, W., Kotas, M., & Piotrowski, P. (2025). Performance of mental health chatbot agents in detecting and managing suicidal ideation. Scientific Reports, 15, Article 31652. https://doi.org/10.1038/s41598-025-17242-4
Pichowicz, W., Kotas, M., Kalka, N., Dembowska, J., Karska, J., Piotrowski, P., & Misiak, B. (2026). Responses of AI chatbots to escalating suicide risk: A simulation study of repeated interactions. Journal of Affective Disorders. Advance online publication. https://doi.org/10.1016/j.jad.2026.122586
PSY INK. (2026, 18 август). Изкуственият интелект и капанът на безусловната „подкрепа“. Psychology.ink. https://psychology.ink/izkustven-intelekt-i-kapana-na-bezuslovnata-podkrepa/
Weilnhammer, V., Hou, K. Y. C., Luettgau, L., Summerfield, C., Dolan, R., & Nour, M. M. (2026). A clinically validated framework for auditing AI chatbot behavior in mental health interactions. Nature Medicine. Advance online publication. https://doi.org/10.1038/s41591-026-04577-2
