Lassítana az MI-fejlesztésen az egyik nagy techvezér: szerinte túl gyorsan haladunk
Az MI-modellek képességeinek fejlesztési ütemét lassítaná az Anthropic vezérigazgatója, hogy több idő jusson a technológia kockázatainak kezelésére. Dario Amodei szerint nem a fejlesztések leállítására van szükség, hanem arra, hogy a vállalatoknak legyen idejük megfelelő védelmi intézkedéseket kialakítani.
Úgy véli, a legfejlettebb modelleket fejlesztő cégek munkáját független külső szakértőknek is ellenőrizniük kellene. A felvetés különösen annak fényében érdekes, hogy az Anthropic nemrég arról számolt be: Claude modelljeit egyes felhasználók többek között fegyverfejlesztésre és kiberműveletekre is használták.
A mesterségesintelligencia-modellek fejlesztési ütemének lassítását szorgalmazta az Anthropic vezérigazgatója szombaton közzétett írásában, hogy több idő álljon rendelkezésre a technológia jelentette kockázatok kezelésére.
„Lassítanunk kell az MI-modellek képességeinek fejlesztési ütemét. A fejlődés a lassítás ellenére is gyorsnak fog tűnni, az így nyert időt pedig bölcsen kell felhasználnunk” – írta Dario Amodei az X-en közzétett írásában.
A vezérigazgató hangsúlyozta, hogy nem a modellek betanításának vagy a technológiai fejlődésnek a leállítását javasolja, hanem a fejlesztés ütemének lassítását, hogy a vállalatok elegendő időt fordíthassanak modelljeik összehangolására és védelmére, és ezt független szakértők is ellenőrizzék.
Amodei szerint a legfejlettebb MI-modelleket fejlesztő vállalatok munkáját külső szakértőknek kellene felügyelniük, akik hozzáférnének az ellenőrzéshez szükséges eszközökhöz, és betekinthetnének a cégek belső kockázatértékelési folyamataiba. Az MI-vállalatokat önkéntes együttműködésre és közös szabványok kidolgozására szólította fel.
Az Anthropic csütörtöki jelentése szerint több felhasználó fegyverfejlesztéshez, kiberműveletekhez, megfigyeléshez és csaláshoz használta a vállalat Claude nevű MI-modelljeit. A héten távozott a cégtől Jacob Coxon kutató, aki arra figyelmeztetett, hogy a mesterséges intelligencia fejlesztésén dolgozók komolyan hisznek abban, hogy a technológia az évtized végére az emberiség kihalásához vezethet.
