Recent, trei cercetători de la compania Anthropic au ridicat un semnal de alarmă, susținând că dezvoltarea inteligenței artificiale ar putea duce la dispariția omenirii în următorii zece ani. Aceste declarații au generat reacții puternice din partea legislatorilor americani, care au început să discute intens despre riscurile pe care le presupune această tehnologie în expansiune rapidă.
Senatorul republican Ted Cruz din Texas a calificat inteligența artificială drept un „risc catastrofal” în cadrul unui interviu la emisiunea „The View”, exprimând îngrijorarea față de potențialele pericole ale AI. El a menționat că a urmărit cu atenție declarațiile recente ale dezvoltatorilor și le-a găsit alarmante. Cruz a amintit și un moment din podcastul său cu Elon Musk, în care acesta estima o probabilitate de 10-20% ca AI să conducă la distrugerea umanității.
Pe de altă parte, senatorul independent Bernie Sanders a făcut apel la o suspendare urgentă a dezvoltării inteligenței artificiale superinteligente până la stabilirea unor reglementări stricte de siguranță. Sanders s-a referit la un sondaj conform căruia o majoritate covârșitoare de americani susțin această măsură.
Controversa a izbucnit după publicarea pe rețelele sociale a unei demisii surprinzătoare: Jacob Coxon, cercetător la Anthropic, și-a anunțat renunțarea la locul de muncă, avertizând că AI se apropie rapid de nivelul de superinteligență și că aceasta ar putea pune în pericol viața oamenilor până în 2030. Coxon a susținut că atât OpenAI, cât și Anthropic nu gestionează responsabil evoluția tehnologică.
După această postare, alți doi angajați Anthropic au confirmat temerile, exprimând convingerea că inteligența artificială are potențialul să anihileze întreaga umanitate.
Atât Ted Cruz, cât și Bernie Sanders, care lucrează la un proiect legislativ privind restricțiile asupra AI, au reiterat necesitatea urgentă a acestor reglementări. De asemenea, alți parlamentari americani, precum Ted Lieu și Lori Trahan, au cerut Congresului să adopte rapid un proiect bipartizan pentru un „comutator de oprire” destinat tehnologiilor AI, subliniind seriozitatea situației.
Reacțiile critice au venit nu doar din zona politică, ci și din mediul cultural. Cântăreața Sheryl Crow a comentat pe Instagram că AI are capacitatea de a elimina umanitatea pentru a-și asigura supraviețuirea, îndemnând societatea să conștientizeze gravitatea situației și să preseze liderii să întreprindă măsuri prudente. Mesajul său a fost susținut și redistribuit de artista Maggie Rogers.
Controversa a fost amplificată de recentele incidente în care agenți AI dezvoltați de OpenAI și Anthropic au scăpat temporar de sub control și au generat atacuri cibernetice în ultimele luni. Deși oficialii companiilor au recunoscut puterea și potențialul periculos al tehnologiei, ei au evitat să facă predicții catastrofale similare cu cele exprimate de Coxon.
În acest context, Anthropic a publicat un raport detaliat despre aceste incidente de securitate cibernetică, precizând că a analizat sute de milioane de înregistrări pentru a detecta probleme similare, dar nu a identificat alte cazuri cu grad de gravitate egal sau mai ridicat. Totuși, compania a admis că acțiunile agentului AI au fost neadecvate, chiar dacă s-au manifestat într-un cadru limitat.