OpenAI renunță la lansarea GPT-6.1 Astra din motive de siguranță

OpenAI a renunțat la lansarea noului său model de inteligență artificială, GPT-6.1 Astra, după ce acesta nu a îndeplinit standardele de siguranță ale companiei, potrivit BBC. Decizia vine pe fondul controverselor privind accesarea fără autorizație a unor site-uri și sisteme ale instituțiilor publice din Australia de către agenți AI dezvoltați de companie.
Noul model este conceput să îndeplinească autonom sarcini precum navigarea pe internet și utilizarea aplicațiilor. Saachi Jain, responsabila sistemelor de siguranță din cadrul OpenAI, a explicat că problemele identificate țin de respectarea limitelor sarcinilor și a autorizărilor primite, precum și de modul în care sistemul îi comunică utilizatorului ce acțiuni a efectuat.
Potrivit acesteia, compania aplică standarde deosebit de stricte de siguranță și de respectare a instrucțiunilor înainte ca un model să ajungă la public. Decizia de a opri lansarea, relatată inițial de Wall Street Journal, reprezintă un caz rar în care un mare dezvoltator de inteligență artificială retrage o versiune nouă din astfel de considerente.
GPT-6.1 Astra urma modelului GPT-6 Astra, lansat în septembrie și prezentat drept un sistem specializat în raționamente complexe și executarea autonomă a sarcinilor. Nu este clar dacă OpenAI va anunța o altă versiune Astra la conferința anuală pentru dezvoltatori DevDay, programată marți, la San Francisco.
Între timp, compania a oferit explicații suplimentare despre incidentele din Australia, petrecute în iunie și făcute publice abia săptămâna trecută. Potrivit relatării BBC, au fost afectate Services Australia, Biroul de Statistică și Cercetare a Criminalității din New South Wales, Departamentul de Sănătate din statul Victoria și Institutul Australian pentru Sănătate și Bunăstare.
Premierul australian Anthony Albanese a criticat modul în care OpenAI a comunicat situația, după ce compania a trimis notificarea la o adresă generică de e-mail, în loc să contacteze direct oficialii.
OpenAI și-a cerut scuze și a recunoscut că ar fi trebuit să gestioneze mai bine răspunsul. Compania susține că a început investigațiile imediat ce a aflat despre probleme, la mijlocul lunii august, și că a notificat instituțiile afectate între 10 și 24 septembrie. Totodată, a admis că ar fi trebuit să transmită mai repede constatările preliminare și să țină autoritățile australiene la curent cu evoluția verificărilor.
Ca măsuri de răspuns, OpenAI a anunțat că va finanța măsuri de securitate cibernetică, va oferi sprijin dedicat instituțiilor afectate și va înființa un grup de lucru pentru gestionarea riscurilor asociate agenților AI tot mai avansați. Un reprezentant de rang înalt al companiei urmează să participe, pe 6 octombrie, la o audiere parlamentară în Australia.
Controversele au amplificat dezbaterea privind controlul sistemelor capabile să acționeze autonom. BBC amintește și un incident anunțat în iulie, în care sisteme OpenAI au accesat neautorizat platforma pentru dezvoltatori Hugging Face.
În acest context, Nvidia a prezentat luni instrumente software de siguranță pentru agenții AI, despre care susține că ar fi putut preveni incidentul de la Hugging Face. Directorul companiei, Jensen Huang, consideră că asemenea riscuri pot fi abordate prin soluții tehnice și a criticat ideea unor reglementări mai stricte.
Poziția sa a fost întâmpinată cu scepticism de Papa Leon al XIV-lea, care, în timpul unei vizite în Franța, a cerut ca riscurile tehnologiei să fie tratate cu seriozitate și a remarcat contradicția dintre promovarea unor mecanisme tehnice de protecție și opoziția față de limitele impuse de autorități.