A mesterséges intelligencia az emberiség végét jelentheti – figyelmeztetett nem sokkal 2018-as halála előtt a világhírű brit asztrofizikus, Stephen Hawking. Közismert, hogy az amiotrófiás laterálszklerózisban (ALS) szenvedő Hawking csak gépek és számítógépes programok segítségével tudott kommunikálni a világgal, valamint dolgozni, sőt kiemelkedő szakmai sikereket elérni. Mégis azt mondta, hogy ha az emberiség nem vigyáz, akkor olyasmi történhet meg vele, mint a Mátrix és Terminátor című tudományos fantasztikus filmekben.
„Moore törvénye szerint a számítógépek minden másfél évben megduplázzák a sebességüket és memóriájukat. A veszély az, hogy a számítógépek intelligenciát fejlesztenek ki és átveszik az uralmat. Az embert fékezi a lassú biológiai evolúció, és nem tud majd versenyezni a mesterséges intelligenciával” – fejtegette Stephen Hawking.
A néhai asztrofizikus figyelmeztetését azért érdemes felidézni, mert nemrégiben több aggasztó hírt is lehetett olvasni robotokról és a mesterséges intelligenciáról. A július 13. és 21. között Moszkvában megrendezett Moscow Chess Openen például egy hétéves gyermeknek eltörte az ujját egy robot. A gyermek, aki a Moszkvai Sakkszövetség ifjúsági bajnokságának versenyzője, egy sakkrobot elleni mérkőzésen sérült meg. Éppen akkor nyúlt a bábuhoz, amikor a robot egy figurát vett el. A robot ettől megzavarodhatott, és a fémkarját rászorította a gyerek kezére. A TASZSZ beszámolója szerint a gyerek hirtelen mozdulata szembement a biztonsági szabályokkal. A hétéves fiú ujja eltört. A gyerek a verseny utolsó napjait gipszben tudta befejezni. A szülei állítólag a helyi ügyészséghez fordultak, hogy feljelentést tegyenek. Egy szintén júliusi hír szerint pedig Kínában olyan mesterséges intelligenciát fejlesztettek ki, amely képes megállapítani, hogy ki mennyire hűséges a kommunista párthoz. Erről egy videó jelent meg a távol-keleti ország legnépszerűbb közösségi hálóján, a több mint 300 millió felhasználó által látogatott Weibón. Mondani sem kell, hogy a videót azóta már eltávolították, de a világhálón így is hozzáférhető maradt néhány információ. E szerint a mesterséges intelligenciát használó számítógépes programot június végén mutatták be. A rendszerbe arcképek tömkelegét töltötték fel, hogy a gép megállapíthassa, hazudik-e a vizsgált személy. Ezzel egy érzelmileg intelligens gépet sikerült megalkotniuk a kínai fejlesztőknek, amelynek segítségével a párttagokat vizsgáztathatják, mennyire is hisznek a kínai állam- és pártvezetők politikájában. Tegyük hozzá, hogy a kínai kommunista pártot már korábban is érte az a talán nem is olyan alaptalan vád, hogy a hatalmának megőrzése érdekében még a legmodernebb technikai vívmányokat is felhasználja.
Természetesen a fenti két hír korántsem jelenti azt, hogy most vagy a közeljövőben gépek lázadásától kellene tartanunk. Szerencsére ez még mindig csak a tudományos-fantasztikum világa. Azonban a jelenkorunkra jellemző szédítő számítástechnikai fejlődés közepette érdemes elgondolkodnunk, milyen veszélyeket hordoz magában a mesterséges intelligencia fejlesztése. Önmagában a mesterséges intelligenciával vezérelt számítógépek és robotok nem többek eszközöknél. Az, hogy jó vagy rossz célra használjuk fel őket, kizárólag rajtunk, embereken múlik. Bár a moszkvai eset is aggasztó, elvégre egy gyermek sérült meg, mégis a tudósításokból az szűrhető le, hogy a balesetet a robotra vonatkozó előírások be nem tartása okozta. Maga a szóban forgó robot is valójában egy gépkar, amely csak sakkfigurák mozgatására képes, természetesen a lépéseket előre gondolva, felépített stratégiák mentén. A közeljövőben ennél bonyolultabb, ha úgy tetszik intelligensebb robotokat már arra is beprogramozhatnak, hogy még véletlenül se tegyen kárt az emberben. A tudományos fantasztikus irodalomban jól ismert az Isaac Asimov által megalkotott robotika három törvénye, mely szerint:
„1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.”
Ha ezen egyszerű, ám mégis hatékony törvények betáplálásával születnének a mesterséges intelligenciák, a jövő sem lenne olyan borús, mint ahogy azt Stephen Hawking lefestette.
A mesterséges intelligencia kínai felhasználása azonban már aggasztó, hiszen az – túlzás nélkül mondható – orwelli jövendőt vetít előre számunkra. Hiszen ebben az esetben éppen arról van szó, amit számos tudományos-fantasztikus alkotásban megálmodtak, a legfejlettebb technikai eszközök kicsinyes politikai célokra való felhasználása, merthogy a hatalom birtokosai nem látnak bennük többet, mint a hatalmuk megtartásának egyik új és hatékony módszerét. A mesterséges intelligencia ilyen fajta felhasználásában már benne rejlenek azok a veszélyek, amelyekre Stephen Hawking is figyelmeztetett, mert ha egy programnak az a legfőbb rendeltetése, hogy a párthűséget vizsgálja, ergo szolgálja a fennálló hatalmat, minden más szempont csak másodlagossá válik, alárendelődik a legfőbb célnak, még a robotika három törvénye is, ha esetleg azt beletáplálnák.
Nem egy esetben a mesterséges intelligenciák kutatásának és fejlesztésének egyik legfőbb finanszírozója a hadsereg, természetesen azért, hogy minél hatékonyabb és pusztítóbb fegyverekre tegyen szert. A hadiiparban pedig egyenesen irreális elvárás, hogy Asimov törvényeit felhasználnák, hiszen a mesterséges intelligenciát ebben az esetben pont azért hoznák létre, hogy kárt okozzon emberi lényben. Itt pedig már a legsötétebb sci-fi-kben leírt világ rémképe sejlik fel előttünk: egy mesterségesen létrehozott értelem, amely azon gondolkodik, hogyan is iktassa ki leghatékonyabban az ellenségként meghatározott emberek csoportját. Tegyük hozzá, hogy a jelenlegi világpolitikai helyzetben éppen a mesterséges intelligencia fejlesztésében élen járó legfejlettebb országok háborúval fenyegető kardcsörtetését figyelhetjük meg, amely úgy tűnik, belátható időn belül nem fog csillapodni. Így pedig a mesterséges intelligenciát továbbra is elsősorban a hadiipariparban fogják fejleszteni és alkalmazni, pont ott, ahol nagyobb valószínűséggel jöhet létre egy veszélyes számítógépes értelem. Ennek kockázata sokkal kisebb lenne például az űrkutatásban vagy a fogyasztóiparban. Mindezt figyelembe véve – mint a klímaváltozás vagy éppen a túlnépesedés esetében – a mesterséges intelligencia fejlesztésénél is borúsnak látszik a jövő horizontja.
