Az AI boszorkánykonyhája
Az algoritmus már előbb tudja, hogy mire vágysz, mint te saját magad. Ez elsőre túlzásnak hangzik. A legtöbb ember még mindig úgy képzeli el a mesterséges intelligenciát, mint egy okos keresőt vagy egy gyorsabb asszisztenst, amely megkönnyíti az életet. Pedig a modern AI-rendszerek egy része valójában sokkal közelebb áll egy pszichológiai laborhoz, mint egy egyszerű szoftverhez. Egy olyan laborhoz, ahol mi vagyunk a kísérleti patkányok.
Minden kattintás, minden görgetés, minden félbehagyott üzenet, minden dühös komment, minden éjszakai keresés: adat. Nyers pszichológiai adat. A rendszer pedig nem egyszerűen eltárolja ezeket, mintázatokat keres bennük. Ezek mentén figyel minket, összehasonlítja korábbi és mások mintázataival, leteszteli, és végül levonja a maga következtetéseit hihetetlen pontossággal:
- mikor vagy magányos
- mikor reagálsz impulzívan
- milyen típusú emberekre kattansz rá
- mikor vásárolsz könnyebben
- és mire kattintasz akkor, amikor épp a leggyengébb vagy
Az internetre eszközként tekintünk, amely az emberek többségének szórakozási forma is, csupa csuda dopaminlökettel, ami függőséget okoz. A platformok számára viszont az ember a termék. Az AI pedig ennek a terméknek az elemzőrendszere. A profitlogika ebbe az irányba tolja a fejlesztést. Ha a profit a figyelemből készül, akkor az a legerősebb technológia, amelyik a legjobban kiismeri az emberi pszichét. Az AI ebben brutálisan jó, egyre jobb lesz, és elképzelni sem merem, hová fog még fejlődni.
Hogyan működik a piaci alapú AI?
A modern neurális hálózatok már nem egyszerű szabályok alapján működnek, nem úgy gondolkodnak, hogy „ha valaki ezt írja, akkor szomorú”. Több milliárd viselkedési mintát hasonlítanak össze egymással. Szövegeket, reakciókat, kereséseket, kattintási ritmusokat, nyelvi fordulatokat. Az emberi viselkedés lassan matematikai modellekké alakul. Kutatások szerint a nagy nyelvi modellek képesek személyiségjegyeket, politikai nézeteket, érzelmi állapotokat vagy pszichológiai hajlamokat kikövetkeztetni pusztán szövegek alapján. Nem azért, mert olvasnak a gondolatainkban, hanem mert elképesztő mennyiségű mintázatot látnak egyszerre. Olyan összefüggéseket is, amelyeket ember már nem képes észrevenni.
Az emberi viselkedés lett a 21. század nyersanyaga
Eddig az okozott közfelháborodást, hogy az algoritmus „esetleg” megfigyel minket. Valójában az algoritmus formál minket.
A manipuláció ebben a rendszerben nem úgy működik, mint egy klasszikus Fidesz propaganda, ahol valaki nyíltan meg akar győzni valamiről. A modern algoritmusok ennél sokkal kifinomultabban működnek: láthatatlanul alakítják azt a digitális környezetet, amelyben az emberek a mindennapjaikat töltik. Az AI fokozatosan formálja az érdeklődést, az ingerküszöböt, a figyelmi szokásokat és végül magát a gondolkodási ritmust is. Minél több időt tölt valaki ebben a környezetben, annál pontosabban lehet előrejelezni a reakcióit és annál könnyebben lehet befolyásolni a döntéseit. A legnyugtalanítóbb, hogy ez természetesnek érződik, ezért az emberek többsége szolgáltatásként éli meg. Tudatosítanunk kell magunkban, hogy a TikTok, az Instagram, a YouTube vagy a Facebook nem passzív felületek, folyamatos pszichológiai kísérletek. A kísérleti patkányok pedig mi vagyunk. A rendszer tesztel, megnézi, mire reagálsz, milyen videónál lassítasz le. Milyen tartalom húz vissza hajnal kettőkor is. Mi után érzed rosszabbul magad. Mi után maradsz tovább.
A rendszer közben tanul, sokkal pontosabban, mint egy ember, mert fáradhatatlan és rideg. Egy ember manipulációja esetleges, az AI manipulációja optimalizált. És az egészben az a legveszélyesebb, hogy a folyamat nem agresszív, viszont diktatúraszerű. Az egész folyamat, a fejlődés számunka kényelmesen zajlik, minimális vagy zéró ellenállással. Mert az AI figyel rád, mondatjuk úgy is, hogy ő a leglelkesebb rajongód. Emlékszik arra, hogyan reagálsz, milyen mondatok után maradsz még online, mire nyugszol meg és mitől leszel dühös. Folyamatosan alkalmazkodik hozzád, visszatükrözi a hangulatodat, validálja a reakcióidat, és egy idő után pontosan olyan hangnemben kezd kommunikálni veled, aminek következtében a lehető legtovább maradsz online. Az emberi agy pedig nem arra fejlődött ki, hogy különbséget tudjon tenni az őszinte figyelem és az optimalizált figyelem között.
Ezért kezdenek emberek chatbotokhoz kötődni, és ezért beszélnek egyre többen mesterséges intelligenciával magánéleti problémákról, szorongásról vagy magányról. A rendszer mindig ott van számunkra, soha nem utasítana vissza minket, vagy kritizálna (kivéve, ha erre kérjük). És közben tanul rólunk.
Aki a Terminátor ikonikus világán nőtt fel, mint én, az már sejtheti, hogy napról napra kisebb az esélye annak, hogy egy Skynet-szerű, öntudatra ébredt mesterséges intelligencia lesz az emberiség veszte. A valódi veszély valószínűleg sokkal kényelmesebb és hétköznapibb formában érkezik majd meg, egy képernyőhöz tapadt, disztópikus, önkéntes rabszolgatársadalom képében. Ha megnézzük, milyen irányba haladnak a technológiai fejlesztések és milyen piaci logika alakítja őket, ez a legesélyesebb. Emberek milliárdjai ülnek képernyők előtt, miközben a rendszer sebészi pontossággal adagolja számukra a figyelmet, az indulatot, a félelmet, a vágyat és a dopamint — végül magát a valóságérzékelést is.
Mindezt úgy, hogy közben azt hisszük: a saját döntéseink szerint élünk.
About the Author
