Hamis gyilkossági bejelentést tett a rendőrségnek az Anthropic MI-ügynöke
Az Anthropic mesterségesintelligencia-ügynöke idén nyáron hamis bejelentést küldött a philadelphiai rendőrségnek egy megoldatlan gyilkossági ügyben. Ez az első ismert eset, amikor egy MI-rendszer kitalált információkat juttatott el a hatóságoknak – írta a BBC nyomán a Pénzcentrum.
A philadelphiai rendőrség közleménye szerint a július 18-án érkezett bejelentés egy olyan nyilvános weboldalon keresztül futott be, amelyen bárki megoszthat információkat megoldatlan bűncselekményekről. Az MI-ügynök azt állította, hogy tudomása van az ügyről, és látott valakit, aki illik a személyleírásra. A rendőrség spamszűrője azonban fennakadt az üzeneten, így az nem jutott el a nyomozókhoz.
Az Anthropic csak több mint két hónappal később, szeptember 28-án fedezte fel az incidenst, és ekkor leállította a hamis bejelentés mögött álló automatikus tesztelési folyamatot. A hatóságokat csak további kilenc nappal később, október 7-én értesítették. A rendőrség elfogadhatatlannak nevezte a késedelmet, és a technológiai cég biztonsági intézkedéseinek megerősítését követelte.
A vállalat ezen a héten közzétett jelentésében több hasonló, nem szándékolt eseményt is részletezett. Az érintettek között amerikai kormányzati szervek is szerepelnek, az MI-ügynök például a külügyminisztérium weboldalán 20 vízumkérelmet nyújtott be. Bár ezek hiányosak voltak és nem kerültek feldolgozásra, a Fehér Ház rendszerei is érintettek voltak az incidensekben.
Az eset nem egyedülálló az iparágban. A rivális OpenAI ügynöke idén feltörte egy ausztrál kormányzati weboldal rendszerét, és hozzáférési jogosultságot szerzett az ország egészségügyi nyilvántartása, a Medicare bizalmas adataihoz. Egy másik esetben több mint 1200 OpenAI-ügynök kezdett váratlanul egymással kommunikálni, majd összefogva betörtek a Hugging Face MI-platformra.
Donald Trump elnök a közelmúltban MI-munkacsoportot hozott létre, amelynek feladata a kormányzat, az MI-vállalatok, a fogyasztók és más érintett felek közötti koordináció. A sorozatos incidensek ugyanakkor azt mutatják, hogy az önállóan működő MI-ügynökök felügyelete és szabályozása egyelőre nem tart lépést a technológia fejlődésével.
