Riasztó jelentést tettek közzé: biológiai fegyverek fejlesztésére használták volna a mesterséges intelligenciát
Az Anthropic mesterségesintelligencia-vállalat csütörtökön közzétett jelentésében számolt be arról, hogy több olyan kísérletet is beazonosítottak és meghiúsítottak, amelyek során a Claude modellt biológiai fegyverek fejlesztésének támogatására, kiberkémkedésre, valamint propagandaműveletekre próbálták felhasználni. A dokumentum az iparágban egyre erősödő biztonsági aggodalmak közepette látott napvilágot.
A cég tájékoztatása szerint 2025 decembere és 2026 augusztusa között a Claude Haiku, Sonnet és Opus modellek esetében számos visszaélést tártak fel. A jelentés öt olyan esettanulmányt emel ki, ahol a felhasználók biológiai fegyverek fejlesztését segítő célokra alkalmazták a rendszereket. Az Anthropic a biológiai fenyegetéseket a fejlett mesterséges intelligencia egyik legsúlyosabb kockázataként értékelte, megjegyezve, hogy megfelelő védelmi garanciák hiányában mindez katasztrofális következményekkel járhat.
A helyzetet tovább nehezíti, hogy a biológiai fegyverek előállításához szükséges információk jelentős átfedést mutatnak a vakcinák és gyógyszerek fejlesztéséhez használt adatállományokkal.
A dokumentum emellett hat olyan esetet is részletez, amikor a Claude-ot hagyományos fegyverek – például lőfegyverek, rakéták, felfegyverzett drónok és bombák – szoftverének fejlesztésére próbálták használni.
A név szerint említett fenyegetések között szerepel az orosz hátterű Midnight Blizzard hackercsoport, amely a mesterséges intelligencia segítségével olyan rendszert hozott létre, amely automatikusan módosította a kártevők kódját, amint azokat a védelmi szoftverek detektálták. A jelentés emellett a ShinyHunters nevű kibercsoportot, valamint kínai kutatólaboratóriumokat is megnevezett, utóbbiak a Claude képességeinek engedély nélküli lemásolásával kísérleteztek.
Nem csupán az Anthropic szembesült ilyen jellegű kísérletekkel, ugyanis a Google keddi tájékoztatása szerint a Gemini modellt is megpróbálták rávenni fegyverként használható biológiai anyagok szintetizálásának részletes, lépésről lépésre történő leírására.
A fenyegetéselemzés egy olyan időszakban látott napvilágot, amikor a mesterséges intelligencia biztonsági kockázataival kapcsolatos figyelmeztetések egyre határozottabbá válnak. Az Anthropic egyik vezető biztonsági kutatója nemrégiben úgy nyilatkozott, hogy tíz százaléknál is nagyobb esélyt lát arra, hogy a technológia a következő évtizedben az emberiség pusztulását idézi elő.
Az OpenAI vezető kutatója, Jakub Pachocki egy cikkben az iparági fejlemények önkéntes lassítását sürgette a megfelelő biztonsági keretrendszerek kiépüléséig, hangsúlyozva, hogy a szükséges lépések messze meghaladják egyetlen piaci szereplő hatáskörét.
A figyelmeztetések komoly politikai hullámokat vetettek. Bernie Sanders demokrata szenátor törvényjavaslatot nyújtott be a mesterséges szuperintelligencia betiltására, valamint a fejlett AI-fejlesztések átmeneti felfüggesztésére. Az Egyesült Királyságban nyílt levélben fordultak Andy Burnham miniszterelnökhöz egy többoldalú nemzetközi egyezmény megkötését szorgalmazva a szuperintelligencia biztonságos mederben tartásáról. Donald Trump amerikai elnök ugyanakkor csütörtökön elutasította a félelmeket, kiemelve, hogy az Egyesült Államoknak mindenképpen meg kell nyernie az AI-versenyt, ellenkező esetben nagyon rossz helyzetbe kerül.
