2024. június 14., péntek

Civilizációs szövethasadás

„A magunk részéről elégedjünk meg annyival, hogy az ember bármit is tesz, szinte sohasem tudja, mit is tesz voltaképpen – azt legalábbis nem tudja biztosan, hogy hová is vezet a tevékenysége.”

Stanisław Lem

A hétvégén olvastam a hírt, miszerint az Apple következő nagy iPhone-frissítésével olyan digitális hangot hozhat létre a felhasználó, amely leutánozza a saját beszédhangját. A kör lassan bezárul. A filmezésben is már használt deep-fake technológiával kicserélhetjük egy videón az ember arcát egy másik személyére, az Adobe Firefly néhány írásbeli utasításból valósághű festményt, vagy fényképet készít, a tavaly novemberben megjelent Chat-GPT pedig értelmes válaszokat tud adni kérdéseinkre, beszélget velünk. Akárhogy is nézem, már működnek, nem tesztelési, fejlesztési fázisban azok a mesterséges intelligencia (MI) alapú eszközök, rendszerek, amelyek képesek becsapni, megtéveszteni bennünket. Nem hazudnak, mert ahhoz akaratot kell feltételeznünk, és még ilyen szintre nem fejlődtek fel ezek az algoritmusok, így ehhez még mindig emberre van szükség. Ettől függetlenül már csak létre kell hozni a megfelelő technológiát, amely összekapcsolja ezeket az alkalmazásokat, és megszületik valami olyasmi, ami embertömegeket tud majd befolyásolni, filozófiákat, eszméket, vallásokat tud hozzá kitalálni, sőt hitelességét alátámasztandó még képi, videó és hanganyagot is létre tud majd hozni.

(Illusztráció – Pixabay.com)

(Illusztráció – Pixabay.com)

A manipuláció az emberiség egyik legfontosabb, és talán leghatalmasabb fegyvere. Használata ősidőkre visszavezethető. Ma azonban olyan eszközöket hozunk létre, amelyek a történelemben talán legnagyobb mértékben és a legsikeresebben tudnak majd manipulálni bennünket, amellyel képletesen szólva szövethasadást hozhatunk létre civilizációnkon. Mindehhez pedig önként és dalolva adjuk az egyik legértékesebb forrásunkat, az időnket és a rólunk szóló információinkat. Az „ingyenes” internetes alkalmazások már akkora adathalmazzal rendelkeznek rólunk, egyénekről, hogy lassan jobban ismernek bennünket, mint mi saját magunkat. E felbecsülhetetlen mennyiségű adat, az emberiség kollektív digitális tudata kitűnő táptalaja a gépi tanulásnak. De mi is a gépi tanulás?

A gépi tanulás az MI egy részhalmaza. Arra összpontosít, hogy számítógépeket tanítson az adatokból való tanulásra és a tapasztalatokkal való javulásra – ahelyett, hogy kifejezetten erre programoznák. A gépi tanulásban algoritmusokat tanítanak arra, hogy nagy adathalmazokban megtalálják a mintákat és korrelációkat, és az elemzés alapján meghozzák a legjobb döntéseket és előrejelzéseket. A gépi tanulási alkalmazások a használattal javulnak, és pontosabbá válnak minél több adathoz férnek hozzá. Ez a technológia pedig már körbevesz minket, ott van körülöttünk, az otthonainkban, a munkahelyünkön, a szórakozóhelyeinken, a bevásárlóközpontjainkban, az egészségügyi ellátórendszerünkben, mindenhol.

A mesterséges intelligencia nem gonosz, hiszen nincs öntudata, se nem ördögtől való, sőt nagyon is hasznára tud lenni az emberiségnek, legyen az klímavédelem, gyógyszeripar, orvosi diagnosztika, közlekedésszervezés, vagy bármilyen olyan problémakör, ahol komplex logikai következtetéseket kell levonni, spekulatív tőzsdén is jobb eredményeket tud elérni az embereknél. Olyan problémákra tud a kollektív digitális tudatunkból megoldást javasolni, vagy sokkal pontosabb előrejelzéseket adni, amire nekünk, embereknek sokkal több időre lenne szükségünk. Az MI szükségességéről a hatvanas években már Stanisław Lem lengyel science fiction-író is értekezett a Summa technologiae című művében, amelyben kifejtette, hogy egy mesterséges, és a miénknél sokkal nagyobb kapacitású gépi intelligencia nélkül technológiánk megfeneklik, tehát alkalmazásuk elkerülhetetlen. Tulajdonképpen az MI fejlődése valahol a saját evolúciónk kiterjesztése. Ha jobban belegondolunk, pont ez a „kiterjesztés” tesz minket az élővilágban különlegessé, azon alapvető mivoltunk egyik eleme, amely szerint az ember, a környezetétől szabad, „világra nyitott” lény. Azonban, mi van ha néhány év múlva kiderül, hogy az ihletettség, a kreativitás, vagyis amitől mi emberek egyedinek, különlegesnek, az állatvilágtól kiemelkedőbbnek hisszük magunkat, valójában kiszámítható és helyettesítő egy algoritmussal. Vannak olyan statisztikák, amelyek szerint az online tartalmaknak a 90 százalékát 2025-re már mesterséges intelligencia állíthatja elő. A New York-i iskolákban például tavaly novemberben azonnal letiltották a Chat GPT IP-címét, hogy ne használhassák dolgozatírásra a diákok.

A mesterséges intelligencia problematikája nem azzal kezdődik, hogy elveheti a munkánkat – mint azt egykor hittük –, hanem az, hogy még a létrehozók sem tudják már pontosan, hogy a fejlődésük során mi megy végbe bennük. Ez a fejlődés pedig már hatalmas léptékkel halad előre. Nem lehet leállítani. Nap mint nap egyre több tudós és filozófus figyelmeztet az MI veszélyeire, és hívja fel a figyelmet arra, hogy valamiféleképpen kontrollálni kellene a folyamatot, szabályozni kellene a működését, amit egyre több ország próbál valahogy megtenni.

A mesterséges intelligencia által generált Űroperaszínház című fotó tavaly díjat nyert egy vásáron (Wikimedia)

A mesterséges intelligencia által generált Űroperaszínház című fotó tavaly díjat nyert egy vásáron (Wikimedia)

Geoffrey Hinton, a gépi tanulás egyik atyja, nemrég felmondott a Google-nél, az elmúlt időszak technikai előrelépései ugyanis megrémítették. Állítása szerint a Google etikailag korrektül áll a technológiákhoz, azonban a ChatGPT-vel és a Google Barddal nagyon veszélyes áttörés szélére került az emberiség. Szavai szerint nemrég még kevesen hitték el azt, hogy az MI okosabbá válhat az embereknél, de ma már ez megvalósulni látszik. Yuval Harari, izraeli történész, író, a Jeruzsálemi Héber Egyetem professzora áprilisban figyelmeztetett az MI veszélyeire. Szerinte az ember rengeteg különböző eszközt és technológiát létrehozott már, de a mesterséges intelligencia az első, amely képes önálló történeteket létrehozni. A történész már 2011-ben megjelent, Sapiens című nagy sikerű könyvében arról írt, hogy az embert a történetek megteremtésének képessége emelte ki az állatvilágból – a vallás, a nemzetek vagy a pénz mind olyan általa teremtett fogalmak és absztrakciók, amik segítették az embert nagy számban együttműködni és szerveződni. Harari szerint most ezt a hatalmat engedjük ki a kezünkből. Szavai szerint fel sem tudjuk fogni, mit jelent egy olyan világ, amiben a szövegeket, dallamokat, képeket és tévésorozatokat mind mesterséges intelligenciák hozzák létre.

„Milyen következménye lesz annak, ha az MI átveszi az irányítást a kultúránk felett?”– tette fel a kérdést. Harari szerint az MI drasztikusan megváltoztathatja a politikai diskurzust, amiben élünk: emberek tömegeit lesz képes manipulálni, hatékonyabb módon, mint akár a közösségi média – pedig már a Facebook is kikezdte a politikai rendszerünket. Ha valakivel vitatkozni fogunk az interneten, sohasem fogjuk tudni, hogy az valóságos személy, vagy MI-e. Ha pedig az MI átveszi a nyílt diszkurzusok feletti hatalmat, megszűnik a demokrácia. Egy olyan totalitárius rendszer jön majd létre, amelyben mindenkit személyre szabottan manipulálnak, vagyis irányítanak.

Mindezek tudatában felvetődik bennem a kérdés, hogy vajon az emberiség felkészült-e arra, hogy újonnan alkotott istenére bízza az életét. Vajon az MI tud-e jól gondoskodni rólunk, vajon morális-e, vajon ugyanolyan erkölcsök vezérlik majd, mint bennünket, embereket? Sokkal inkább sejlik fel bennem egy olyan jövőkép, amelyben valóságérzékelésünk megkérdőjelezése segítségével önként indulunk rabigába és megszűnik az emberi civilizáció abban a formában, amelyben ismerjük. Szüksége lesz-e ezután az MI-nek ránk, vagy egy gombnyomással eltöröl majd bennünket a létezésből?

Tart-e a mesterséges intelligencia további fejlődésétől?

Az MI már jelen van, és a fejlődését nehezen lehet megállítani – 22%

Félő, hogy egy pillanatban az MI átveszi az irányítást tőlünk – 20%

Az MI nem konkurencia, hanem lehetőség az ember számára – 22%

Az intelligens chatbotok veszélyeztetni fogják munkahelyünket – 9%

Robotokkal csupán a monoton munkafeladatok végezhetőek el – 2%

Nem tudom felmérni az MI-ben rejlő előnyöket és hátrányokat – 25%