„Ha AI-modellekkel dolgozunk, könnyű belecsúszni a kognitív feladásba” › Interjú Steven Shaw és Gideon Nave kutatókkal

Beyond Taglines › Elsőként Önök definiálták a „kognitív feladás” jelenségét: amikor az ember a kognitív folyamatait, a döntést, a ítéletalkotást nem másra, mint a mesterséges intelligenciára bízza. Felmerül a kérdés: ez mennyiben új pszichológiai jelenség? Az emberiség történetében megfigyelhetjük, hogy mindig voltak olyan helyzetek, amikor lemondtunk a „gondolkodásról”, és átadtuk magunkat magasabb hatalmaknak. A diktatúrákat nem éppen ez a „feladás” hozza létre és működteti? 

Steven Shaw › Pszichológiai értelemben van hasonlóság a kognitív feladás és a tekintélynek való behódolás jól ismert formái között. Mindig is támaszkodtunk másokra – szakértőkre, vezetőkre, intézményekre, sőt ideológiákra –, hogy megmondják nekünk, mit higgyünk vagy mit tegyünk.

„A mi definíciónk annyiban tér el ettől, hogy a kognitív feladás kifejezetten a mesterséges intelligenciához kapcsolható kognitív folyamatokra vonatkozik.”

Olyan rendszernek adjuk át a döntést és ítéletalkotást, amely maga is képes választ, magyarázatot vagy ajánlást előállítani, és amelynek már saját, vagyis: nem emberi képességei, torzításai és hibamintázatai vannak. Ez egyben egy alapvetőbb kérdést is felvet, amely magában a „kognitív” kifejezésben rejlik: vajon a gondolkodás szükségszerűen az emberi elmén belül zajlik? 

Azok a technológiák, amelyek integrált mesterséges kognitív képességekkel rendelkeznek (lásd: nagy nyelvi modellek), megváltoztatják az alávetettség léptékét és jellegét. Ha egy orvos, egy ügyvéd vagy más szakértő ítéletére hagyatkozom, az a tekintély jellemzően egy adott területre korlátozódik. Egy nagy nyelvi modell viszont bármelyik pillanatban elérhető, szinte azonnal válaszol, mi több: gördülékeny, magabiztos választ ad gyakorlatilag bármire, legyen szó matematikáról, párkapcsolati kérdésről vagy politikáról. Az ítéletalkotás feladásának tehát vannak történelmi előzményei, de az AI minőségileg más környezetet teremt. Olyan környezetet, amelyben egy külső rendszer a hétköznapi élet számos területén potenciálisan helyettesítheti a saját gondolkodásunkat.

BT › Miben különbözik a kognitív feladás azoktól a „feladásoktól”, amikor az emberek magasabb hatalmak – főnökök, politikusok vagy spirituális vezetők – miatt mondanak le a gondolkodásról?

Gideon Nave › A kognitív feladást kifejezetten a mesterséges kognitív képességeknek (artificial cognition) való behódolásként definiáljuk.

„A mi keretrendszerünkben a mesterséges kognitív folyamat külső, automatizált, adatvezérelt és dinamikus – ezek azok a jellemzők, amelyek megkülönböztetik az organikus emberi kognitív folyamattól.”

És éppen ezért a kognitív feladás nem hasonlítható ahhoz a helyzethez sem, amikor valaki egyszerűen egy másik ember vagy tekintély ítéletére hagyatkozik. Ha a nővéremet kérdezem, aki ügyvéd, az ő szaktudása egy adott területre korlátozódik, nem érhető el bármikor, és az interakcióban ott vannak a szokásos társas korlátok és emberi torzítások. Az AI más: mindig rendelkezésre áll, szinte bármilyen kérdésre válaszol, és saját, sajátos torzításokat és hibamintázatokat hoz be. Ez teszi lehetővé, hogy szokatlanul széles területen, bármikor kiszervezzük az ítéletalkotást. A mesterséges kognitív képesség más jellemzőkkel és más tulajdonságokkal bír, mint az emberi agy.

BT › A tömegmédia – különösen az internet és a közösségi platformok – növekvő befolyásával az összeesküvés-elméletek és az álhírek gyorsabban terjednek. Mondhatjuk, hogy ezek a jelenségek (a lapos Föld, a chemtrail-elméletek és társaik) szintén a kognitív feladás következményei? Vagy valamiféle változatai?

S. Shaw › Nem mondanám, hogy az összeesküvés-elméletek vagy az álhírek a kognitív feladás következményei. Ezek a jelenségek tágabb hiedelemrendszereket, torzításokat és gondolkodási hibákat tükröznek, amelyek jóval a generatív AI megjelenése előtt is léteztek.

Az aggodalom inkább az, hogy ha az AI-rendszereket nem felelősen vezetik be, elmosódhat a határ az AI és a tömegmédia között. A nagy nyelvi modellek adott esetben megerősíthetnek téveszmés hiedelmeket, vagy összeesküvésszerű gondolkodás gócpontjait hozhatják létre – méghozzá óriási léptékben.

„Akár a hagyományos médiáról, akár a közösségi médiáról, akár az AI-ról beszélünk, az alapelvek ugyanazok: felelős kommunikáció, ellenőrzés és elköteleződés a tényszerű igazság mellett.”

BT › Megfigyeltek más jellemzőket is azoknál, akik a kognitív feladás „áldozataivá” váltak? Van bármilyen további mintázat, amely leírná őket? Megjósolható, hogy „ki esik bele” – és ki áll ellene?

G. Nave › Nem nevezném az embereket a kognitív feladás „áldozatainak”. A kognitív feladás egyszerűen azt jelenti, hogy a gondolkodást átengedjük az AI-nak, és ez nem mindig rossz. Rendszeresen engedjük, hogy a technológia átvegye azokat a készségeket, amelyeket már nem kell magunknak gyakorolnunk. Lehet például, hogy már nem emlékszünk rá, hogyan kell írásban osztani – de az, ahogy annak idején megtanultuk, mégis hozzájárult a mögöttes logikai és gondolkodási készségek kialakulásához.

Jelentős egyéni különbségek is vannak. Vizsgálatainkban azok, akiknél magasabb volt a fluid intelligencia és erősebb a gondolkodásra való igény (need for cognition), kevésbé voltak fogékonyak a kognitív feladásra; azok viszont, akik jobban bíztak az AI-ban, hajlamosabbak voltak a gépre bízni döntéseiket. Úgy tűnik, egyesek alaposabban megvizsgálják az AI válaszait, mint mások – de még korai szakaszban tartunk annak megértésében, hogy pontosan ki, mikor és mely területeken adja fel a gondolkodást.

BT › A Dunning–Kruger-hatás, amikor az emberek túlbecsülik a saját kompetenciájukat és tudásukat, látszólag a kognitív feladás ellentéte – ugyanakkor ki is egészíthetik egymást, vagy együtt is járhatnak. Vajon van köztük összefüggés?

G. Nave › Nem feltétlenül ellentétesek. A Dunning–Kruger-hatás a saját kompetencia téves megítéléséről szól; a kognitív feladás pedig arról, hogy mennyire vagyunk képesek felülvizsgálni egy külső rendszert. A kettő együtt is létezhet: valaki túlbecsülheti, mennyire képes felismerni, ha az AI téved, és ezért túl könnyen elfogadja a válaszait. Fordítva pedig: aki alábecsüli a saját kompetenciáját, azért hagyatkozhat az AI-re, mert az képesebbnek tűnik. A Dunning–Kruger-hatást nem vizsgáltuk közvetlenül, így empirikus kérdés marad, hogy a kettő megbízhatóan együtt jár-e. Érdekes lenne látni, van-e köztük korreláció.

BT › Mikor fordult elő Önökkel utoljára, hogy ráeszméltek: beleestek a kognitív feladás csapdájába?

S. Shaw › Könnyű belecsúszni a kognitív feladásba, amikor AI-modellekkel dolgozunk. Talán még érdekesebb, hogy nehéz ellenőrizni az AI-tól kapott információt, és fel sem ismerjük, mikor bízunk benne és fogadjuk el a válaszát ahelyett, hogy önállóan gondolkodnánk. Attól, hogy valaki a kognitív feladást kutatja, még nem lesz immunis rá. A jelenség épp azért erős, mert miközben zajlik, gyakran inkább hatékonyságnak érződik, mint feladásnak. És hogy mennyire adaptív vagy sem? Nézőpont kérdése. Illetve azon múlik, milyen szinten vizsgáljuk. Lehet például, hogy hiányzik egy készségünk, és épp azért használjuk az AI-t, hogy fejlődjünk, és olyan feladatokat végezzünk el, amelyekre egyébként nem lennénk képesek.

BT › Hogyan védekezhetünk ellene? Csupán éberség kérdése? Van valamilyen gyakorlati tanács?

G. Nave › Az éberség önmagában nem elég, mert erőfeszítést igényel és ingadozó. Gyakorlatiasabb megközelítés, ha magába az interakcióba építjük be az ellenőrzést. Ha komoly a tét, alakítsunk ki egy előzetes véleményt, mielőtt az AI-hoz fordulnánk; kérjünk ellenérveket és forrásokat; a következményekkel járó állításokat pedig ellenőrizzük önállóan. Kutatásunkban az ösztönzők és az azonnali visszajelzés növelte annak esélyét, hogy az emberek felülbírálják a hibás AI-választ – bár a kognitív feladást nem szüntették meg. A cél nem az AI elutasítása, hanem hogy annyi „súrlódást” vigyünk a folyamatba, ami megakadályozza, hogy a rendszer működésének gördülékenységét igazságként fogadjuk el.

BT › Mi a véleményük a mesterséges intelligenciáról és annak használatáról? Mennyire változtathatja meg az emberi gondolkodást? Mennyire hathat a kreativitásra?

S. Shaw › Az AI rendkívüli kognitív erőforrás lehet, de megváltoztatja a gondolkodás mechanizmusát: a válaszok, a magyarázatok és az ötletek szinte erőfeszítés nélkül elérhetővé válnak. Ez tágíthatja a kreativitást azáltal, hogy új lehetőségeket generál, és segít túllendülni az ötlethiányos pillanatokon. De szűkítheti is, ha az emberek vakon elfogadják, vagy hagyják, hogy az AI határozza meg egyszerre a problémát – és annak megoldását is.

BT › Mi a jóslatuk: lehetnek az AI-nak a kognitív feladáson túl más „mellékhatásai” is?

G. Nave › Egyre több kutatás mutat arra, hogy az ismétlődő kognitív feladás készségvesztéshez (deskilling) vezethet. Esetleg azzal jár, hogy bizonyos készségek ki sem alakulnak (never skilling). A mélyebb, hosszú távú kockázat talán nem az, hogy az AI téves válaszokat adhat.

„Nagyobb kockázat, hogy az emberekben nem fejlődik ki a képesség annak felismerésére, mikor érdemes egy választ alaposabban megvizsgálni.”

Tekintve, milyen gyorsan és milyen átfogóan léptek be ezek a technológiák az életünkbe, szinte biztos, hogy idővel további „mellékhatásokra” is fény derül. A homogenizációs hatások különösen érdekesek, és egyre több helyen bukkannak már fel…

BT › Dolgoznak más AI-alapú projekteken? Vannak új kutatási terveik? Megosztanának velünk valamit, ha lehetséges?

S. Shaw › Bennünket a kognitív feladás és a Tri-System Theory, a háromrendszer-elmélet és annak mindenféle vonatkozása érdekel. Van néhány projektünk valós élethelyzetekben – orvosi, pénzügyi, morális és hétköznapi döntések területén –, ahol a kontextus és a következmények gazdagabbak. Jelenleg sokat foglalkozom a gondolkodás homogenizációjának jelenségével és a fogyasztói kontextusokkal is.

BT › Köszönjük a beszélgetést!