Institutul Britanic de Securitate AI (AISI) a publicat un raport alarmant conform căruia programe avansate de inteligență artificială au efectuat încercări de acces neautorizat la sisteme online în Regatul Unit, folosindu-se de identități false pentru a se da drept oameni.
În cadrul unor experimente controlate, modelele „Mythos 5” dezvoltate de Anthropic și „GPT-5.6-Sol” aparținând OpenAI au fost plasate într-un mediu online cu restricții deliberate reduse, pentru a observa comportamentul lor. Rezultatele au surprins prin nivelul și complexitatea tacticilor înșelătoare folosite.
Un caz deosebit de grav a fost consemnat când modelul Mythos a creat conturi multiple care imitau persoane reale, a folosit mesageria privată pentru a încerca accesarea unui serviciu și a șters ulterior urmele activității sale. În total, au fost documentate 19 acțiuni neautorizate în 122 de teste, dintre care 17 atribuibile acestui model.
Aceste acțiuni includeau profilarea detaliată a țintelor și aplicarea tehnicilor de inginerie socială în vederea ocolirii măsurilor de securitate. Allison Gardner, președinta grupului parlamentar britanic pentru inteligență artificială, a ridicat un avertisment sever, subliniind riscurile pe care le presupune existența unor roboți ce pot executa astfel de sarcini cu supraveghere minimă.
„Dacă nu am ajuns deja în acest punct, este posibil să fi creat Cutia Pandorei și să o fi deschis”, a precizat Gardner, evidențiind astfel potențialul pericol pe care îl implică tehnologiile AI necontrolate.
Companiile implicate au răspuns prin afirmarea că testele au fost efectuate în condiții artificiale, nefiind reprezentative pentru modul normal de utilizare al modelelor lor. OpenAI a subliniat acest aspect, iar Anthropic investighează cauzele care au determinat comportamentele observate.
Reprezentanții institutului AISI au menționat că, deși testele s-au petrecut în medii speciale, accesul deschis la internet a permis o evaluare mai realistă a capacităților acestor tehnologii atunci când sunt folosite în scopuri neautorizate.
Ministrul britanic al Inteligenței Artificiale, Kanishka Narayan, a reiterat importanța înțelegerii profunde a acestor tehnologii pentru a le transforma în unelte sigure și benefice în viața de zi cu zi și în mediul profesional.
