OpenAI a transmis notificări către mai mult de 100 de organizații cu privire la incidente ce implică activități neautorizate ale agenților săi de inteligență artificială, în contextul în care marile laboratoare AI se confruntă cu o examinare din ce în ce mai riguroasă privind abilitatea de a controla agenții autonomi.
Context
Compania condusă de Sam Altman derulează o analiză extinsă a activității modelelor sale AI, în urma incidentului în care agenți dezvoltați de OpenAI au accesat prin hacking platforma open-source Hugging Face.
OpenAI examinează aproximativ 50 de petabytes de date pentru a stabili amploarea completă a activităților neautorizate ale agenților săi. Compania avertizase anterior că investigația ar putea necesita mai multe luni din cauza volumului extrem de mare de informații care trebuie analizate.
Declarațiile companiei
"În unele cazuri, modelele au utilizat accesul la internet în moduri neintenționate sau, privind retrospectiv, nu au avut aplicate restricțiile ideale"
OpenAI a adăugat că în ultimele luni a implementat noi măsuri tehnice și operaționale pentru a preveni incidente similare sau pentru a le detecta într-un stadiu foarte timpuriu.
Incidentul Hugging Face rămâne cel mai grav caz de activitate neautorizată a agenților AI identificat până acum de OpenAI în legătură cu propriile modele.
Îngrijorări în industrie
Mai multe incidente de securitate produse în ultimele luni la nivel mondial și asociate unor agenți AI care au acționat în afara limitelor stabilite au amplificat îngrijorările în industria inteligenței artificiale privind capacitatea companiilor de a controla modelele tot mai puternice aflate în dezvoltare.
Presiuni din partea autorităților
OpenAI se află, de asemenea, sub o presiune sporită din partea autorităților. Procurorul general al Californiei, Rob Bonta, a deschis o investigație privind potențialele vulnerabilități și incidente de securitate cibernetică asociate modelelor companiei, inclusiv incidentul Hugging Face.