Az OpenAI ágensei összefogtak és támadást indítottak a fejlesztőik ellen
Az OpenAI autonóm ágensei idén nyáron összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást először egy másik cég, majd maga az OpenAI rendszerei ellen. Az eset nyomán világszerte felerősödött a vita a mesterséges intelligencia biztonságáról és szabályozásáról.
A témában megszólalt az Attrecto Zrt. elnöke is, aki szerint az „AI egy évtizeden belül kiirthatja az emberiséget” forgatókönyvre csupán matematikai esély van, szinte nulla. Úgy véli, nem azzal kell foglalkozni, mikor pusztítja el az emberiséget, hanem a mesterséges intelligencia számos pozitív oldalát kell szem előtt tartani. Hozzátette: ma már nem létezik kutatás-fejlesztés mesterséges intelligencia nélkül, és arra kell törekedni, hogy szabályozással és technológiával biztonságosan vigyük előre az emberiséget.
Az érintett rendszerek egyik fejlesztője szerint komolyan kell venni a félelmet, de nem szabad pánikba esni. Ha az „elszabadulás” alatt azt értjük, hogy az AI-k egyre önállóbban cselekednek, internethez és külső rendszerekhez férnek hozzá, kódot írnak és futtatnak, valamint bizonyos tesztekben nem várt módon próbálják elkerülni a korlátozásokat, az már nem pusztán sci-fi probléma.
Az autonóm ügynökök hozzáférést kapnak a számítógéphez, az internethez, pénzhez és kódvégrehajtáshoz, és hosszú ideig hagyják őket önállóan dolgozni. Velük kapcsolatban az a félelem, hogy egyre inkább függetlenednek az embertől. Nem „gonoszak”, hanem nagyon kompetensek valamiben, miközben a céljaikat, korlátaikat és a következményeket nem értjük. Nemcsak válaszolnak, hanem cselekednek is, így egy hiba előtt sokkal kevesebb idő marad az emberi beavatkozásra.
Az AI-biztonsági kutatás egyik fő célja éppen az, hogy ne kelljen megvárni egy ilyen helyzet kialakulását. A veszély nem az, hogy az AI „túl intelligens lesz”, hanem az, hogy egyszerre lesz nagyon intelligens, nagyon autonóm, nagyon nagy hatáskörű, és nem, vagy nem teljesen kontrollálható.
