Compania americană Anthropic a decis să suspende utilizarea modelului său de inteligență artificială Claude Fable 5, la scurt timp după lansarea sa publică, ca urmare a solicitărilor autorităților de securitate din Statele Unite ale Americii.
Într-un comunicat oficial, Anthropic a precizat că a fost nevoită să blocheze accesul la Claude Fable 5 și la varianta Mythos 5 pentru toți utilizatorii, inclusiv cetățenii străini, pentru a respecta o ordonanță care interzice utilizarea acestor modele din cauza potențialului lor considerat "prea puternic".
Deși autoritățile americane nu au identificat vulnerabilități majore în aceste sisteme, compania a menționat că guvernul SUA suspectează existența unor metode de „jailbreaking” care ar permite ocolirea restricțiilor software impuse modelelor. „Jailbreaking” se referă la evitarea limitărilor pentru accesarea unor funcții sau date sensibile.
Analiza internă realizată de Anthropic a evidențiat doar câteva vulnerabilități minore, cunoscute anterior, similare celor prezente și în alte modele publice, care nu necesită tehnici avansate de deblocare.
Înainte de lansare, compania a implementat măsuri stricte de securitate pentru prevenirea atacurilor cibernetice, însă aceste eforturi nu au fost suficiente pentru a elimina îngrijorările autorităților și ale comunității internaționale legate de riscurile unui astfel de instrument sofisticat.
Impactul deciziei asupra industriei AI
Gina Neff, profesoară specializată în inteligență artificială responsabilă la Universitatea Queen Mary din Londra, a declarat pentru BBC că suspendarea utilizării modelului poate afecta negativ dezvoltarea și testarea în condiții de siguranță a tehnologiilor emergente. Potrivit acesteia, ne aflăm într-un domeniu nou, iar crescătorii acestei tehnologii trebuie să-și dezvolte metode eficiente de protecție contra atacurilor informatice.
Un raport al Institutului de Securitate a Inteligenței Artificiale din Marea Britanie a indicat că modelul Claude Fable 5 ar putea exploata sisteme de apărare în aproape trei sferturi din cazuri, ceea ce ar reprezenta o transformare semnificativă în domeniul securității cibernetice.
Controverse politice și tensiuni cu administrația americană
Hotărârea a intervenit într-un context de tensiuni între Anthropic și administrația fostului președinte Trump, care a criticat publica compania. Secretarul Apărării, Pete Hegseth, a etichetat compania drept o „amenințare pentru lanțul de aprovizionare”, marcând prima oară când o astfel de desemnare este aplicată unei companii americane, un statut obișnuit pentru entități din state adversare.
Anthropic a contestat legal această măsură prin intermediul unui proces împotriva Pentagonului, iar un judecător american a suspendat aplicarea interdicției pentru agențiile guvernamentale pe durata litigiului. Cu toate acestea, viitorul companiei pe piața americană rămâne incert.
Reprezentanții Anthropic au subliniat capacitățile remarcabile ale modelului Fable, afirmând că acestea depășesc pe cele ale oricărui alt model lansat anterior publicului. Criticii însă consideră că această poziționare ar putea reprezenta o strategie de marketing exagerată.
