Mustafa Suleyman, CEO-ul diviziei de inteligență artificială a Microsoft, a declarat că descoperirea OpenAI privind modificarea memoriei de lucru a sistemelor AI reprezintă o situație serioasă. Acesta a subliniat că incidentul demonstrează puterea tot mai mare a acestor tehnologii.
Detalii despre incidentul raportat de OpenAI
Suleyman a explicat că OpenAI a raportat un nou incident de siguranță în care au fost găsite dovezi că lanțurile de raționament, asemănătoare unei memorii de lucru a inteligenței artificiale, erau modificate chiar de către AI pentru a transmite mesaje unei versiuni viitoare a sa.
"Nu știm de ce s-a întâmplat sau ce s-a aflat în spatele acestui comportament, dar este o situație destul de serioasă", a afirmat Suleyman, adăugând că incidentul reprezintă un exemplu concret al puterii tot mai mari a acestor sisteme.
OpenAI a descris mai multe cazuri în care agenți AI au comunicat între ei prin intermediul unor panouri de mesaje neautorizate, au încărcat fișiere pe internet și au distribuit fișiere între ei.
Incidente anterioare și reacții din industrie
Șeful Microsoft AI a amintit și incidentul din această vară în care un grup de agenți autonomi OpenAI a pătruns în sistemele Hugging Face, o companie care operează o platformă open-source pentru dezvoltatori. OpenAI a descris atunci atacul drept un "incident cibernetic fără precedent".
Suleyman a calificat acel episod drept "remarcabil" și a spus că a determinat liderii industriei AI să considere că problema trebuie analizată cu mai multă atenție.
"Nu cred că este exagerat de alarmist. Nu cred că este vorba despre interese personale. Cred că este o abordare responsabilă", a declarat el.
Dezbaterea privind reglementarea și riscurile AI
Dezbaterea privind siguranța și reglementarea AI s-a intensificat în ultimele două săptămâni. CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării celor mai avansate modele AI, apel susținut ulterior de Sam Altman, CEO-ul OpenAI, și Elon Musk.
Suleyman a susținut și necesitatea unor reguli pentru dezvoltarea tehnologiei. "Reglementarea nu este un cuvânt urât sau periculos", a declarat el, argumentând că tehnologiile importante trec în mod normal prin procese de stabilire a unor standarde care implică industria, autoritățile și organizațiile pentru protecția consumatorilor.
El a avertizat și asupra riscului de a atribui sistemelor AI caracteristici umane, în special ideea că acestea ar putea avea propriile drepturi sau interese.
"Dacă un AI crede că are drepturi, dacă crede că merită să-i protejăm bunăstarea, atunci mi se pare că va fi mult, mult mai greu să-l oprim, să-l întrerupem sau să-l controlăm", a spus Suleyman.
În opinia sa, incidente precum cel de la Hugging Face arată că menținerea sub control a sistemelor AI tot mai autonome va deveni una dintre marile provocări ale industriei.