Egy konferencián arra figyelmeztettek a múlt héten AI-szakértők, hogy az AI gyors fejlődése már most fenyegetést jelent a demokráciára, a választásokra és magára az emberi létezésre. Így egyszerre nagy az izgalom (bizonyos körökben) az AI adta lehetőségek miatt, de annak kapcsán is, hogy a technológia állásokat tesz feleslegessé, eldönt választásokat vagy felülkereskedik az embereken.

Gary Marcus, a New York-i Egyetem professzora szerint a legégetőbb kockázat a demokrácia fenyegetése, ugyanis sok választás lesz 2024-ben, ezeket pedig deepfake húzások dönthetik el.

A generatív AI révén ugyanis ontani lehet az algoritmusokkal létrehozott vagy manipulált, hitelesnek és valódinak tűnő fotókat, videókat, amik aztán futótűzszerűen terjednek a közösségi médiában, összemosva a határokat a tények és a képzelet, hazugságok között.

Ilyen jellegű tevékenység és tartalom eddig is volt Marcus szerint, a gond az, hogy míg eddig ilyesmi tartalmak dollármilliókba került előállítani, addig most megvan 300 dollárból.

Gondot jelent, hogy a cégek egyre inkább AI révén hoznak döntéseket, áraznak, mindez diszkriminatív eseményekhez vezethet. A fogyasztók felé nincs átláthatóság, a Consumer Reports szerint pedig olyan esetek is borzolják a kedélyeket, hogy a többségében nem fehér lakosú környéken élőkkel például 30 százalékkal magasabb biztosítást fizettetnek az autóra a cégek.

A Future of Life Institute alapítója, Anthony Aguirre szerint az emberiségre gyakorolt fenyegetést is komolyan kell venni, ezek a modellek nagyon erősek, gyorsan fejlődnek, a törvényhozóknak és tech vezetőknek oda kell figyelniük. Ez az intézet adta ki korábban a katasztrofális kockázatokra figyelmeztető és szünetet követelő levelet, amely szerint az AI-laborok kontroll nélküli versenyben fejlesztenek erős, digitális elméket, amelyeket még a létrehozóik sem értenek vagy irányítanak.

Amint eljutunk oda, hogy az ember a legtöbb területen nem tudja felvenni a versenyt az AI-megoldásokkal, tanulás mellett sem, Aguirre szerint nem lesz könnyű visszamenni oda, hogy az AI csak egy eszköz, amitől jobb lesz az embereknek. Márpedig ez egy olyan dolog lesz, ami tényleg leváltja az embereket.