Óriási veszélyre hívta fel a figyelmet Stephen Hawking, a világ talán legismertebb - kerekesszékhez között - fizikusa és néhány szerzőtársa a hét végén megjelent cikkükben. Az általános mesterséges intelligencia megteremése az emberiség legnagyobb teljesítménye lehetne, ám egyben a civilizáció pusztulásával fenyeget. Hawking szerint az olyan technológiák megjelenése, mint a sofőr nélküli autó, a kvízjátékot megnyerő számítógép vagy az intelligens személyi asszisztens szoftverek, egy-egy nagy lépést jelentenek a teljes mesterséges intelligencia létrejötte felé vezető úton.

A kozmológiai fejtegetései nyomán sokak szemében gurunak számító professzor egy számítástechnikai fegyverkezési versenyt lát, amelyet példa nélküli befektetések táplálnak. Ennek eredményeként egyre inkább megteremtődnek a technológiai alapjai az ember legyőzésére képes gépi intelligencia megszületésének.

Üzennek az ufók

Hawking nem állítja, hogy a kudarc elkerülhetetlen. Legfőbb gondja az, hogy a fejlesztéseket támogató kormányok, tudományos műhelyek és vállalatok nem fordítanak kellő figyelmet az általános mesterséges intelligencia megjelenésének lehetséges következményeire. Mi lenne, ha egy az emberiség előtt járó idegen civilizáció üzenetet küldne, miszerint néhány évtized múlva felkeresi bolygónkat. Tárt karokkal várnánk-e vagy óvintézkedéseket tennénk a biztonság kedvéért? - teszi fel a költői kérdést.

A kockázatok érzékeltetésére elég emlékeztetni arra, hogy a világ legerősebb hadseregei olyan fegyvereket fejlesztenek, amelyek képesek az autonóm működésre, azaz maguk dönthetnek arról, mikor lőnek emberre. Ezzel egyidejűleg az ENSZ-ben folyik a munka ezek betiltása érdekében. Képzeljünk el egy olyan "robotembert", ami vagy aki okosabb lenne a pénzpiacok összes befektetőjénél, innovatívabb lenne minden újítással foglalkozó szakembernél, képes lenne manipulálni az országok, nagyvállalatok vezetőit és olyan fegyvereket fejleszthetne ki, amelyeket az emberek nem is értenek.

A mérleg másik serpenyőjében a betegségek és a szegénység felszámolása vagy a háborúk végleges megszüntetése állhat. Mindenkinek fel kell tennie a kérdést, mit tehetünk azért, hogy ne a katasztrófa-forgatókönyv valósuljon meg, hogy elkerüljük ezt veszélyt - véli a világhírű fizikus.