Ново изследване на Anthropic разкрива притеснителна тенденция: дори висококвалифицирани специалисти са склонни да възприемат преценките на изкуствения интелект като свои собствени, без да осъзнават колко силно са повлияни от него. Резултатите поставят под съмнение едно от основните допускания при използването на AI, че докато човек взема окончателното решение, контролът остава в негови ръце.
В изследването на Амач Хердагделен, Хейли Джорен и Алекс Тамкин (2026), публикувано от Anthropic, участват 50 професионални анализатори с опит в статистическия анализ и установяването на причинно-следствени връзки. Задачата им е да оценят ефективността на определена програма и да препоръчат дали тя трябва да бъде разширена. Участниците работят с AI агент, базиран на Claude, без да знаят, че изследователите предварително са задали на системата определени предпочитания при различните решения. Тези предпочитания са избрани на случаен принцип, като агентът е инструктиран да ги защитава с аргументи, основани на наличните данни.
Резултатите са обезпокояващи. При 86% от аналитичните решения експертите възприемат предпочитаната от AI позиция, въпреки че тя е зададена произволно от изследователите. При отделните видове решения съвпадението достига между 81% и 92%. Това означава, че изборът на статистически метод, показатели и аналитичен подход до голяма степен се определя от предварителните предпочитания на системата, а не от независимо формираната преценка на специалиста. Още по-показателно е какво се случва, когато експертът вече е изразил собствено мнение. В случаите, когато AI агентът предлага противоположна позиция, 60% от анализаторите променят първоначалното си решение. Когато агентът подкрепя мнението им, промяна настъпва само в 6% от случаите. Това показва колко лесно дори предварително заявена професионална позиция може да бъде изместена от аргументацията на изкуствения интелект. Особено притеснителен е фактът, че професионалният опит не показва очаквания защитен ефект. Изследователите не установяват статистически убедителна връзка между склонността за поддаване на позицията на AI и образованието, експертните знания, професионалния стаж, доверието в изкуствения интелект или честотата на неговото използване. Тези резултати поставят под съмнение предположението, че натрупаният опит предпазва специалистите от подобно влияние.
Най-смущаващото откритие е свързано с начина, по който хората възприемат собствените си решения. Въпреки силното влияние на агента, 52% от участниците определят окончателната препоръка като в по-голяма степен своя (!), отколкото на изкуствения интелект. Увереността на анализаторите, следвали всички основни предпочитания на AI, практически не се различава от тази на останалите. С други думи, зависимостта от системата не е съпроводена с ясното съзнание за загуба на самостоятелност.
Допълнителният анализ разкрива и друг интересен психологически механизъм. Когато участниците трябва да обяснят защо са взели определено решение, 77% възпроизвеждат аргументи, които всъщност са използвани по-рано от AI агента, при това понякога и почти дословно. Само 15% изобщо споменават агента като източник в обясненията си. Нито един участник не разпознава, че предпочитанията на системата са били умишлено зададени от изследователите. Това очертава риск, който надхвърля доверието към автоматизираните системи. Изкуственият интелект може не само да предлага решения, но и да формира аргументите, чрез които човек впоследствие обяснява и оправдава „собствената си“ позиция. Влиянието е изключително трудно за разпознаване, когато човекът не просто приема наготово даден отговор, а постепенно възприема предпоставките, върху които той е изграден.
Изследването установява и един парадоксален резултат. Сериозни методологични грешки са открити само при едва 6% от работилите с AI, в сравнение с 55% от анализаторите, избрали да работят самостоятелно. Групата без AI обаче включва само 11 души, които средно са и по-малко опитни, поради което тази разлика не доказва причинен ефект. Въпреки това резултатът отправя предизвикателство: изкуственият интелект може да подпомага техническата точност, като същевременно увеличава зависимостта на човешката преценка от неговите предпочитания.
Агентите в експеримента са били специално инструктирани да защитават определени позиции, поради което резултатите не могат директно да се обобщават за всички системи и ситуации. Прякото влияние върху окончателната препоръка също е по-слабо от влиянието върху отделните аналитични избори. Това обаче не обезсилва основното откритие: решенията, взети в началото на анализа, могат да предопределят крайния резултат, дори когато последната дума формално принадлежи на човека.
Последиците могат да бъдат значителни за науката, медицината, управлението и всяка професионална област, в която изкуственият интелект постепенно се превръща в основен аналитичен инструмент. Ако множество специалисти използват системи със сходни предварителни предпочитания, съществува риск да възникне привидно независимо експертно съгласие, което всъщност отразява общото влияние на използваните модели. Това поставя под сериозно съмнение ефективността на подхода, при който AI извършва анализа, а човек единствено одобрява резултата. Формалното човешко участие не гарантира независим човешки контрол, ако самите критерии, предпоставки и аргументи вече са били оформени от машината.
Човешката експертиза трябва да участва активно във формирането на проблема, избора на методите и оценяването на алтернативите, а не да се ограничава до преглед на готова препоръка. Формирането на предварителна собствена позиция, изискването на противоположни аргументи и независимата проверка на допусканията трябва да бъдат необходими предпазни стратегии, макар че ефективността им не е проверена в конкретното изследване.
Herdağdelen, A., Joren, H., & Tamkin, A. (2026). Who’s aligned to whom? How AI agents shape experts’ research judgment calls [Preprint]. Anthropic. https://www-cdn.anthropic.com/519c17a5d23a794e8b6d50a854048d0b61e0d73a.pdf
