Едно от най-полезните човешки умения е способността да разпознаем границата на собственото си знание. Да кажем „не знам“, да отложим преценката, да проверим информацията, когато не сме сигурни. Това изглежда дребно, но всъщност е важна част от доброто мислене.
Сократ е виждал в това самата сърцевина на мъдростта. Прочутаото„знам, че нищо не знам“ е основният фундамент на интелектуалната дисциплина: осъзнаването на собственото незнание е първата стъпка към истинското знание. Две хилядолетия и половина по-късно се оказва, че тъкмо тази сократическа добродетел може да бъде една от първите жертви на изкуствения интелект.
Ново експериментално изследване на Киара Маркоча, Валтер Куатрочоки и Валерио Капраро показва, че присъствието на изкуствен интелект може сериозно да наруши точно тази способност. Авторите провеждат пет експеримента с общо 3132 участници. Задават им трудни въпроси, на които хората често не знаят отговора, и им дават възможност просто да се въздържат. В част от условията участниците имат достъп до AI съвет. Въпросите са подбрани така, че AI да дава ненадеждни и често грешни отговори. Така изследователите могат да наблюдават не ползата от една добра помощна система, а чистия ефект от самото ѝ присъствие.
Резултатът е впечатляващ. Когато AI е на разположение, хората почти престават да казват „не знам“.
В първия експеримент делът на въздържането от отговор пада приблизително от 36% на 6%. При повторението на експеримента спадът е от около 44% на 3%. Достатъчна е дори само наличието на възможност човек да се консултира с AI, за да започне да се държи така, сякаш отговорът вече е по силите му.
Това има очевидна цена. Участниците дават повече отговори, но грешат значително по-често. В обобщението на резултатите авторите посочват, че при наличие на AI точността е около една трета от тази в условията без AI, докато увереността на участниците почти се удвоява. Получава се особено неблагоприятна комбинация: човек знае по-малко, греши повече и в същото време се чувства по-уверен в твърденията си!
Тук е и най-интересният принос на изследването. Обикновено тревогите около AI се въртят около въпроса дали хората ще приемат грешен съвет. Това предполага сравнително проста картина. Имаме собствена преценка, получаваме препоръка от машина и понякога ѝ се доверяваме прекалено много. Експериментите сочат към много по-коварен ефект. AI може да промени нашата критична способност и момента, в който изобщо решаваме, че сме готови да дадем отговор. Когато сме сами пред труден въпрос, несигурността има полезна функция. Тя ни подсказва, че знанието ни не е достатъчно. Спираме, проверяваме, мислим още или се отказваме да твърдим нещо. Появата на система, която почти винаги може да произведе гладък и убедително звучащ отговор, променя тази ситуация. Въпросът започва да изглежда разрешим. Самото наличие на достъпен отговор намалява психологическия натиск да останем в състояние на незнание.
Авторите описват този ефект чрез промяна в метакогнитивния праг, тоест в критерия, по който човек решава дали знае достатъчно, за да отговори.
Това обяснение е важно и извън конкретния експеримент. Ако механизмът е общ, както има основания да предполагаме, последиците могат да се появят навсякъде, където използваме генеративен AI за въпроси, по които собствените ни знания са непълни. В работа, образование, медицина, финанси, администрация, журналистика или ежедневни решения AI може да намали не само усилието за намиране на отговор, но и готовността ни да признаем, че все още нямаме достатъчно основания за такъв.
Това е различен проблем от халюцинациите. Една халюцинация е грешен отговор на системата. Тук рискът е промяна в поведението на човека около системата. Ако свикнем всяка празнина в знанието да бъде незабавно запълвана с правдоподобен текст, постепенно може да стане по-трудно да усещаме самата празнина.
Изследователите проверяват и едно очевидно възражение. Може би хората просто не са достатъчно мотивирани да бъдат точни. Затова в част от експериментите правилните отговори носят финансова награда, а грешните имат цена. Стимулите действително подобряват поведението. Участниците търсят AI съвет по-рядко, следват го по-малко и дават повече верни отговори. Те също по-често се въздържат, когато не са сигурни. Въпреки това ефектът на AI не изчезва. Дори когато точността има пряка стойност, хората продължават да казват „не знам“ много по-рядко, отколкото когато AI изобщо не е наличен.
Друг експеримент премахва и необходимостта човек сам да поиска помощ. AI отговорът се показва автоматично. Резултатът остава сходен. Следователно ефектът трудно може да бъде обяснен само с това, че определен тип хора по-често търсят AI. Самото присъствие на съвета е достатъчно да промени поведението.
Има нещо особено важно в тази констатация за начина, по който проектираме AI продукти. Днес посоката е следната: помощта трябва да бъде все по-бърза, все по-лесна за получаване и все по-незабележимо вплетена в работата ни. Предложения се появяват още преди да сме ги поискали. Текстът се дописва автоматично. Търсачката вече не показва само източници, а формулира отговор. Асистентът не чака непременно въпрос, а предлага следващата стъпка. Това безспорно е удобно. Но удобството може да премахне една съществена пауза: момента, в който човек остава сам със собствената си несигурност и трябва да реши какво всъщност знае.
Вероятно точно тук трябва да търсим една от големите теми на следващите години. Доброто използване на AI няма да зависи само от качеството на моделите. Ще зависи и от това дали хората запазват способността да оценяват собственото си знание независимо от тях.
Най-ценният отговор продължава да бъде „не знам“.
И ако една технология постепенно ни прави по-малко склонни да го осъзнаваме, това заслужава поне толкова внимание, колкото грешките на самата технология.
Marcoccia, C., Quattrociocchi, W., & Capraro, V. (2026, July 15). AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized. Retrieved from osf.io/preprints/psyarxiv/5y6m4_v1 https://doi.org/10.31234/osf.io/5y6m4_v1
