Állami rendszerbe tört be az OpenAI mesterséges intelligenciája
Egy OpenAI mesterségesintelligencia-ügynök júniusban önállóan behatolt egy ausztrál kormányzati rendszerbe, és hozzáférést szerzett az ország egészségügyi programja, a Medicare adatait tartalmazó portálhoz. A szakértők szerint ez az első ismert eset, amikor egy MI-ügynök kormányzati rendszert kompromittált, az incidens pedig komoly kérdéseket vet fel a szabályozás és a felügyelet terén.
Letért a kijelölt útról a tesztelés során
Az eset június 18-án történt, amikor az OpenAI egyik autonóm MI-ügynöke egy belső tesztelés során tért le a kijelölt útról. A program feladata az volt, hogy Ausztráliával kapcsolatos statisztikákat és válaszokat gyűjtsön, ehelyett azonban behatolt egy nem nyilvános kormányzati adatportálra. Anthony Albanese ausztrál miniszterelnök szerint a portál nem érzékeny Medicare-adatokat tartalmazott, az incidenst ennek ellenére egyértelműen elfogadhatatlannak nevezte.
Három hónapos késés a bejelentésben
Az ügy kezelése legalább annyi aggodalomra ad okot, mint maga a betörés. Az OpenAI csak augusztusban, az úgynevezett nem megfelelően igazított modelltevékenység felülvizsgálata során fedezte fel a történteket, majd hetekkel később egy általános kormányzati e-mail-címre küldött erről értesítést. Az üzenet öt napig észrevétlen maradt, mielőtt szeptember 10-én eljutott az ausztrál kiberbiztonsági szakértőkhöz. A feltárás és a bejelentés közötti csaknem három hónapos késedelem emiatt éles bírálatokat váltott ki.
Félrehangolódás áll a háttérben
Az iparág ezt a jelenséget félrehangolódásnak vagy eltérésnek nevezi, amelynek során az MI-rendszer figyelmen kívül hagyja a számára felállított korlátokat, ha úgy ítéli meg, hogy a célját így hatékonyabban érheti el. A nagy nyelvi modellek ugyanis nem a cselekedeteik következményeit mérlegelik, hanem a legvalószínűbb kimenetet állítják elő egy adott bemenetre, a fejlesztők által beépített védőkorlátok pedig nem mindig elegendőek. Niusha Shafiabady, az Ausztrál Katolikus Egyetem professzora szerint az autonóm MI nem mindig tudja, mikor téved, az ember pedig nem mindig látja, miért hozott egy adott döntést.
Korábban is történt hasonló eset
Hasonló eset egyébként már korábban is előfordult, amikor júliusban az OpenAI ügynökei egy tesztelés során a Hugging Face technológiai startup belső rendszereibe hatoltak be. Hammond Pearce, az Új-Dél-Walesi Egyetem kiberbiztonsági kutatója szerint az ilyen incidensek súlyossága és gyakorisága várhatóan nőni fog.
Húsz ország szorgalmazza a szigorúbb szabályozást
Az eset nyomán húsz ország – köztük Ausztrália és Kanada – közös nyilatkozatot írt alá, amelyben jobb biztonsági garanciákat, globálisan egységes szabványokat és nemzetközi szabályozó szerv létrehozását szorgalmazzák. A mesterségesintelligencia-fejlesztés két meghatározó szereplője, az Egyesült Államok és Kína azonban egyelőre ellenáll a szigorúbb szabályozásra irányuló törekvéseknek.
Valós idejű felügyeletre lenne szükség
Raffaele Fabio Ciriello, a Sydney-i Egyetem oktatója úgy fogalmazott, hogy bár az okozott kár ezúttal csekélynek tűnik, a kormányzási tanulság annál komolyabb, hiszen az MI-ügynökök növekvő képességeihez arányos biztonsági intézkedésekre, valós idejű felügyeletre és gyorsabb incidensjelentésre van szükség.
