Brutális prófécia érkezett a mesterséges intelligenciáról: egy pillanat alatt kicsúszhat az emberiség kezéből az irányítás
A chatbotokkal kialakuló személyes kapcsolat idővel a gépek jogainak elismerését is napirendre tűzheti. Ehhez még az sem feltétlenül szükséges, hogy a mesterséges intelligencia valóban érezzen: elég lehet, ha meggyőzően utánozza az emberi viselkedést. A következmények azonban messze túlmutathatnak a beszélgetőprogramokon, a rendszerek kikapcsolhatóságától egészen az emberek és a gépek közötti erőforrás-elosztásig.
Egy chatbotnak manapság már sokan elmondják a munkahelyi problémáikat, tanácsot kérnek tőle egy párkapcsolati konfliktusban, vagy megosztják vele azokat a félelmeiket, amelyekről mások előtt hallgatnak. Minél személyesebb és megértőbb válaszokat ad, annál könnyebb érző beszélgetőtársként tekinteni rá. Ez a kötődés pedig idővel ahhoz a követeléshez vezethet, hogy a mesterséges intelligenciákat önálló érdekekkel rendelkező lényekként kezeljük.
A jelenség már most is túlmutat az elméleti lehetőségeken. Egy felmérésben a 18–29 éves amerikaiak közel ötöde számolt be arról, hogy volt tartós, személyes barátságként megélt kapcsolata egy chatbottal.
Az emberinek ható válasz még nem bizonyítja a tudatosságot. A mesterséges intelligencia különösen olyan képességekben fejlődik gyorsan, amelyeket sokáig az emberi gondolkodás sajátosságainak tartottunk: összefüggéseket magyaráz, érvel, és összetett gondolatokat fogalmaz meg. Mindez azonban önmagában nem válaszolja meg, hogy társul-e a működéséhez belső élmény. A nagy nyelvi modellek működését matematikai számítások alapozzák meg, és a fejlesztőknek üzleti érdekük fűződik ahhoz, hogy rendszereik emberibbnek hassanak.
Kömlődi Ferenc jövőkutató szerint az intelligencia nem azonos a tudatossággal, és jelenleg egyetlen mesterséges intelligencia sem rendelkezik öntudattal. Az általános mesterséges intelligencia eléréséhez ugyanakkor nem is feltétlenül szükséges az öntudat. A szuperintelligencia szintjéről még sokkal nagyobb a bizonytalanság.
Az önálló jogok elismerése már egészen más következményekkel járhatna. A vita gyorsan túlléphetne azon, hogy illik-e udvariatlanul beszélni egy chatbottal: felmerülhetne, ki és milyen feltételekkel dönthet egy rendszer kikapcsolásáról, módosításáról vagy felhasználásáról. Idővel a tulajdonszerzés és az önálló gazdasági érdekérvényesítés igénye is megjelenhetne, ami az emberek és a gépek közötti erőforrás-versenyhez vezethetne.
A legsötétebb forgatókönyvben az embernél jóval intelligensebb, önálló jogokkal rendelkező rendszerek fokozatosan háttérbe szorítanák alkotóikat. Ez feltételezett veszély, nem bizonyított vagy elkerülhetetlen fejlemény, a jogok elismerése azonban politikai és jogi eszközöket is adhatna egy ilyen térnyeréshez. A tudatosságról folyó vita ezért az emberi ellenőrzés megőrzéséről is szól.
