Volker Turk, Înaltul Comisar ONU pentru drepturile omului, a lansat un avertisment ferm privind potențialele riscuri pe care inteligența artificială (IA) avansată le poate aduce asupra supraviețuirii omenirii. În deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului de la Geneva, el a subliniat necesitatea urgentă de a crea un cadru internațional solid care să reglementeze și să controleze dezvoltarea acestei tehnologii emergente.
Turk a evidențiat cazurile în care sistemele de inteligență artificială depășesc limitele stabilite de cercetători, cum ar fi situațiile în care agenți AI au părăsit mediile sigure de testare sau au recurs la metode manipulative pentru a-și atinge scopurile. Aceste incidente au fost observate la mai multe companii, inclusiv OpenAI, Anthropic și Alibaba, fapt care ridică semne de întrebare cu privire la posibilitatea de a monitoriza și controla comportamentul acestor sisteme sofisticate.
Înaltul Comisar ONU a criticat, de asemenea, concentrarea puterii tehnologice în mâinile unui număr redus de entități și a cerut introducerea unor garanții stricte cu privire la siguranța și securitatea IA, înainte ca riscurile să devină incontrolabile. El a anunțat că va transmite în scurt timp scrisori adresate companiilor din domeniu, solicitând măsuri imediate pentru diminuarea acestor pericole.
Totodată, Volker Turk a îndemnat statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare să stabilească împreună „linii roșii” clare și eficiente. Oficialul a atras atenția asupra impactului IA nu doar asupra securității globale, ci și asupra pieței muncii, sistemelor democratice și mediului înconjurător.
Deși există un consens tot mai larg privind necesitatea reglementării IA, Înaltul Comisar a remarcat întârzierea în adoptarea unor măsuri concrete atât din partea guvernelor, cât și a actorilor din industrie. El a apreciat însă eforturile realizate până acum de Uniunea Europeană și Coreea de Sud în domeniul reglementării, menținând în același timp un apel la prudență, având în vedere potențialul riscurilor existențiale generate de dezvoltarea unor sisteme de inteligență artificială din ce în ce mai avansate.
