Първи коментар към дебата за съзнателния изкуствен интелект и биологичния натурализъм
Разделям изложението си на три самостоятелни коментара. Единствено вторият обсъжда пряко поставените въпроси, докато първият и третият използват дебата като отправна точка за промяна на перспективата. Настоящият коментар поставя въпроса какво разкрива способността за морално отношение за човешкото съзнание.
В статията на Анил Сет (Seth, 2026a), последвалите научни коментари, отговора на автора (Seth, 2026b) и последната му съвместна публикация с Нед Блок и Джулио Тонони (Seth et al., 2026), прави впечатление, че централно място в дискусията заемат моралните последици от евентуалното съществуване на съзнание у системите за изкуствен интелект. Проблематиката относно предполагаемото наличие на съзнание се състои в произтичащото така потенциално основание за морален статут, а погрешното приписване на такова, или неразпознаване – като източник на сериозни етични проблеми. Наблюдава се любопитна концептуална асиметрия: съзнанието се разглежда като възможно основание за морален статут, докато способността на самия субект да признава чуждото съществуване за морално значимо остава на заден план. Така моралното отношение участва в поставянето на проблема, но неговата собствена възможност не се превръща в централен предмет на обяснение. Още повече, че нито изчислителният функционализъм, нито биологичният натурализъм показват очевидна необходимост или предпоставка за морал, още по-малко пък за морал, простиращ се отвъд пределите на конкретният вид.
Някои коментатори се приближават до този проблем. Цао и колеги. (2026) свързват съзнанието с вътрешноприсъщото оценяване, при което състоянията и събитията могат да бъдат добри или лоши за самия организъм. Кевин Мичъл и Каролин Дайси Дженингс (2026) предлагат релационно разбиране за съзнанието, основано върху отношенията между субект, свят и време. Еверс и Фариско (2026) разглеждат етичните последствия от действителното възникване на изкуствено съзнание. Няма обаче опит за преход от оценката на света по отношение на собственото съществуване към оценката на света по отношение на другото съзнание – практически това, което прави възможно моралното измерение на настоящия дебат: загрижеността за евентуално чуждо преживяване, чието наличие дори остава несигурно.
Подобен преход не следва очевидно нито от изчислителния функционализъм, нито от предиктивната обработка, нито от биологичния натурализъм. Последният предлага обяснение за възникването на субективна перспектива, организирана около автопоезиса, самоподдържането и оцеляването на организма. Тази отправна точка сама по себе си нито изключва, нито обяснява моралното отношение. Остава открит въпросът как в така организираното преживяване чуждото благо придобива самостоятелна значимост и може да стане основание за действие дори когато това противоречи на собствените интереси.
Еволюционната перспектива не предоставя директно обяснение на подобно разширяване на моралната загриженост. Биологичният произход на социалните и познавателните способности не предполага, че всяка тяхна последваща реализация има собствена адаптивна функция. По-специално, универсалната морална загриженост, простираща се отвъд границите на собствения вид, няма как да бъде приета за резултат от естествения отбор, без да бъде установено съответното селективно предимство. Може да я допуснем като странично следствие от еволюционно възникнали способности, без самата тя да представлява еволюционно утвърдена адаптация. Остава открит въпроса как чуждото благо се преживява като самостоятелно основание за действие.
Теорията на релационните рамки (Hayes et al., 2001) предлага възможен психологически механизъм за подобно разширяване. Посредством производни релационни отношения и трансформация на стимулните функции страданието и благополучието на други същества биха могли да придобият значение независимо от непосредствената биологична изгода за субекта. Това обаче обяснява възможността за възникване на подобно отношение, без само по себе си да обосновава неговата морална необходимост или правилност.
Естествено възниква въпросът дали моралната способност е само вторичен продукт на общите познавателни механизми, дали разкрива специфично измерение на човешкото съзнание и доколко обяснението чрез тези общи механизми е достатъчно, за да разберем специфичния начин, по който чуждото благо придобива значимост в човешкото съзнание. Ако съзнанието е свързано с биологичната организация на субект, за когото собственото му съществуване има вътрешноприсъщо значение, как тази организация прави възможно признаването на благополучието на други същества като значимо само по себе си, включително независимо дори от принадлежността им към собствения вид? По какъв начин субектът, чието преживяване е организирано около собственото му съществуване, може да превърне чуждото съществуване в самостоятелно основание за собственото си поведение? Нито изчислителният функционализъм, нито биологичният натурализъм не показват как признатата ценност на другия придобива нормативна сила за субекта.
В изследване от 2013 г. Уайът, Уест и Гарднър създават популационно-генетичен модел, в който подпомагането между видове може да бъде благоприятствано от естествения отбор. Анализът им показва, че същото поведение може да се интерпретира чрез селективните ползи в рамките на собствения вид. Затова те подкрепят дарвиновата теза, че естественият отбор не благоприятства признаци, носещи полза изключително на друг вид (Wyatt et al., 2013). Когато едно поведение намалява репродуктивния успех на извършващия го, без компенсиращи преки или косвени селективни ползи, естественият отбор не предлага механизъм, чрез който то да бъде предпочетено именно заради тази си характеристика.
Връщайки се към теорията за релационните рамки, бихме могли да обясним с подробности процеса, чрез който човек започва да приписва морално значение на съществуването на друго съзнание, на животно, непознат човек или дори изкуствена форма на живот. Така можем да разполагаме с описание на психологическият механизъм. Но защо този човек приема така формираното морално отношение за правилно? Защо смята, че е длъжен да се съобразява с чуждото страдание, дори когато то е в конфликт с неговите непосредствени интереси? И защо може да прецени, че досегашното му поведение е било морално погрешно, дори когато то е било биологично и социално изгодно? Как чуждото страдание се преживява като основание за действие заради самия страдащ? Тези въпроси помагат да разберем, че моралността не се изчерпва с оценяването на събитията като полезни или вредни. Съзнание, организирано единствено около собственото добро (Cao et al., 2026), може да регистрира чуждото страдание като сигнал; не е ясно как го регистрира като претенция.
Бихме могли да приложим множество рационализации, изграждащи достатъчно сполучлив наратив, но те остават несходни с начина, по който реално преживяваме съпричастността. Преживявайки съпричастност, чуждото благо бива преживявано като значимо заради самия друг. Ако тази значимост предварително бъде сведена до прикрита лична изгода, обясняваният феномен бива подменен. Когато обяснението на дадена интенционална нагласа ѝ приписва обект, различен от този, към който тя е насочена (личната изгода вместо благото на другия), то не обяснява нагласата, а я замества с друга (срв. Nagel, 1970). Съпричастността е насочена към другия; обяснение, в което другият е само средство, описва нещо друго.
В биологичния натурализъм на съзнанието е тясно свързано с живия организъм, неговата саморегулация, метаболизъм и необходимостта да поддържа собственото си съществуване. Тази перспектива е способна да обясни как цялата действителност извън него придобива значение за организма. Но разширяването на моралната загриженост поставя съвършено различен въпрос. Как така възниква способност, благодарение на която организмът не само оценява света от перспективата на собственото си съществуване, но може съзнателно да подчинява собствените си интереси на интересите на друго същество? Как диалогът между света и вътрешното усещане за добро и лошо, се свързва с радикалното разграничаване у човека спрямо света, разцепващо „светът” на светът-на–другото и светът-на–другите. Отговорът на тези въпроси ще ни каже много малко за това какво е съзнанието, но твърде много за това какво е човешкото съзнание.
Разбира се, да бъдеш обект на морално отношение не е същото като да бъдеш способен на морално отношение. Това разграничение обаче не премахва въпроса как способността за морална загриженост е свързана с човешкото съзнание. Когато обсъждаме ИИ чрез сравнения с човешките способности, следва да разгледаме и самата човешка особеност: възможността чуждото съществуване да се преживява като значимо само по себе си. Самото преживяване заслужава място сред явленията, чрез които се опитваме да разберем човешкото съзнание, което е най-разбираемото за нас съзнание. Ако не сме способни да разберем за какво изобщо говорим, едва ли бихме могли смислено да го търсим извън човека.
Cao, R., Gottlieb, D., & Moore, J. (2026). Why biological naturalism? Because consciousness requires having your own good. Behavioral and Brain Sciences, 49, e325. https://doi.org/10.1017/S0140525X25103804
Evers, K., & Farisco, M. (2026). Is conscious AI desirable? Behavioral and Brain Sciences, 49, e332. https://doi.org/10.1017/S0140525X25103488
Hayes, S. C., Barnes-Holmes, D., & Roche, B. (Eds.). (2001). Relational frame theory: A post-Skinnerian account of human language and cognition. Kluwer Academic/Plenum Publishers. https://doi.org/10.1007/b108413
Mitchell, K. J., & Jennings, C. D. (2026). Consciousness needs a subject. Behavioral and Brain Sciences, 49, e349. https://doi.org/10.1017/S0140525X25103452
Nagel, T. (1970). The Possibility of Altruism. Princeton University Press.
Seth, A. K. (2026a). Conscious artificial intelligence and biological naturalism. Behavioral and Brain Sciences, 49, e315. https://doi.org/10.1017/S0140525X25000032
Seth, A. K. (2026b). The stuff matters: Consciousness, computation, and biology. Behavioral and Brain Sciences, 49, e366. https://doi.org/10.1017/S0140525X26106906
Seth, A. K., Block, N., & Tononi, G. (2026). Three reasons why AI is not conscious and perhaps never will be. Nature, 658, 866–868. https://doi.org/10.1038/d41586-026-03313-7
Wyatt, G. A. K., West, S. A., & Gardner, A. (2013). Can natural selection favour altruism between species? Journal of Evolutionary Biology, 26(9), 1854–1865. https://doi.org/10.1111/jeb.12195
