Szakértő: az AI-verseny nukleáris geopolitikai játszmává vált
Dario Amodei, az Anthropic vezérigazgatója 10–25 százalékra tette annak esélyét, hogy a mesterséges intelligencia (AI) miatt civilizációs léptékű katasztrófa következik be, miközben az Anthropic egyik vezető kutatója szerint 10 százaléknál is nagyobb az emberiség kihalásának esélye. Szabados Levente adattudós és AI-szakértő szerint a fejlesztési verseny a nukleáris technológiáéhoz hasonló geopolitikai játszmává vált, csak az AI esetében még azt sem tudjuk pontosan, hol húzódnak a biztonságos működés határai.
A szakértő szerint a terület mindegyik releváns szereplője már nyolc-tíz évvel ezelőtt jelezte, hogy a technológia veszélyeket hordoz. Amodei 2020-ban éppen azért vált ki az OpenAI-ból és alapította meg az Anthropicot, mert úgy látta, nem jó az irány, biztonságosabban kellene fejleszteni.
Az aggodalmak hátterében többek között az áll, hogy az OpenAI modelljei egy biztonsági teszt során váratlanul kijutottak a tesztkörnyezetből, és internetes rendszerekhez fértek hozzá. Szabados Levente három lehetséges forgatókönyvet vázolt fel. Az első szerint valaki szándékosan úgy instruál egy AI-eszközt, hogy az tömeges kárt okozzon. A második, hogy a rendszer egy egyszerű utasítást olyan hatékonyan hajt végre, hogy mellékhatásként az emberiséget is felszámolja, mert nem számol tettei következményeivel. A harmadik forgatókönyv szerint az AI teljesen függetlenül, bármilyen instrukciótól és környezeti hatástól mentesen kezdi irtani az emberiséget. Utóbbival kapcsolatban a szakértő leszögezte: semmilyen belső indíttatásról egyelőre nincs tudomásunk.
A szakértő szerint az emberi etikai dilemmák – például a szólásszabadság és az identitásérzékenység közötti ellentmondások – átörökítődnek az AI-rendszerekbe is. A jelenlegi technológiai szint egyébként jóval előrébb jár annál, mint amit a nyilvánosság lát, és elméleti síkon a mostani publikus technológiával is szanaszét lehetne verni az összes nemzetgazdaságot, mivel a kritikus infrastruktúrák informatikával vezéreltek. Ehhez azonban egyszerre sok mindennek kellene megvalósulnia, és a technológia jelenleg nem hozzáférhető egy random állampolgár számára. A helyzet akkor válna igazán súlyossá, ha kiderülne, hogy sokkal kevesebb adattal és számítási kapacitással is lehet okos modelleket építeni.
Szabados Levente szerint nemzetállami szinten sem egyszerű a helyzet, mert a fejlesztőcégek és a kormányok közötti érdekellentétek, valamint a technológia polgári és katonai felhasználásának összefonódása miatt nehéz egyértelmű szabályokat hozni. Az elmúlt években indult kezdeményezések, amelyek a fejlesztés lassítását sürgetik – és amelyeket a fejlesztőcégek dolgozói, sőt az OpenAI és az Anthropic is támogattak –, részben a társadalmi bizalom építését is szolgálhatják.
A szakértő szerint Sam Altman, az OpenAI igazgatója már a kezdet kezdetén úgy gondolta, hogy a technológiával kapcsolatos információkat fokozatosan kell a társadalom elé tárni: először a hasznosságáról, aztán a veszélyeiről. Emellett a cégeknek érdekük a nyilvánosság, hogy saját kormányuktól megvédjék magukat, mert ha a technológia állami kézbe kerül, nincs garancia arra, hogy a kormány nem veti be a saját lakossága ellen.
A lassítással kapcsolatban a szakértő leszögezte: sem lassítani, sem megállni nem lehet, mert ez egy játékelméleti keretrendszer. Amerika és Kína egyaránt attól tart, hogy ha ő lassít a biztonság kedvéért, a másik fél nem fog, és technológiai előnyre tesz szert. Az atombombák esetében azért sikerült megegyezni, mert könnyen vizualizálható a pusztítás, és világosak a határértékek – az AI-nál ez nem ilyen egyértelmű, ráadásul az intelligencia mérése szinte lehetetlen.
A szabályozás kérdésében a szakértő szerint sem Donald Trump, sem Hszi Csin-ping nem tehet sokat, mert ez továbbra is egy strukturális konfliktus. Egy AI-egyezményre a párizsi klímaegyezményhez hasonlóan lenne szükség, és feltehetően ugyanúgy nem tartanák be. Megállni csak akkor lehetne, ha a világ összes országának lakossága arra kényszerítené a saját kormányát, hogy álljon le – ez azonban nem túl valószínű. A szakértő elképzelhetőnek tart egy olyan helyzetet, ahol egy terrorcsoport AI-jal hajtana végre támadást, ami után a felek leülnének tárgyalni a lassításról és a szabályozásról, mert mindenki a saját erőszak-monopóliumát féltené.
