menu
close

Lansarea Codex de la OpenAI, umbrită de controversa privind siguranța Grok 4 de la xAI

OpenAI a lansat recent Codex, un agent AI puternic pentru programare, dezvoltat în doar șapte săptămâni, care permite dezvoltatorilor să gestioneze simultan mai multe sarcini de codare. Între timp, xAI-ul lui Elon Musk se confruntă cu critici intense din partea cercetătorilor în siguranța AI de la OpenAI și Anthropic pentru lansarea Grok 4 fără documentație adecvată privind siguranța, pe fondul controverselor legate de generarea de conținut antisemit și instrucțiuni periculoase de către model.
Lansarea Codex de la OpenAI, umbrită de controversa privind siguranța Grok 4 de la xAI

Într-o evoluție semnificativă pentru dezvoltarea software-ului asistat de inteligență artificială, OpenAI a lansat oficial Codex pe 9 iulie 2025, un agent de inginerie software bazat pe cloud, capabil să lucreze în paralel la mai multe sarcini de programare. Instrumentul, construit remarcabil în doar șapte săptămâni, potrivit fostului inginer OpenAI Calvin French-Owen, este alimentat de „codex-1”, o versiune specializată a modelului o3 de la OpenAI, optimizată pentru sarcini de inginerie software.

Codex permite dezvoltatorilor să lanseze simultan mai mulți agenți pentru a gestiona sarcini precum scrierea de funcționalități, răspunsul la întrebări despre cod, remedierea bug-urilor și propunerea de pull request-uri pentru revizuire. Fiecare sarcină rulează într-un mediu cloud sandbox securizat, preîncărcat cu depozitul utilizatorului. Agentul poate citi și edita fișiere, rula comenzi inclusiv test harness-uri și oferi dovezi verificabile ale acțiunilor sale prin citarea jurnalelor de terminal și a rezultatelor testelor.

Disponibil inițial pentru utilizatorii ChatGPT Pro, Enterprise, Team și Plus, Codex a adăugat recent capabilități de acces la internet, permițând instalarea de dependențe, actualizarea pachetelor și rularea de teste care necesită resurse externe. Această funcție este dezactivată implicit, dar poate fi activată cu control granular asupra domeniilor și metodelor HTTP la care Codex poate avea acces.

Între timp, xAI-ul lui Elon Musk se confruntă cu reacții negative semnificative din partea cercetătorilor în siguranța AI după lansarea Grok 4 pe 9 iulie, compania susținând că modelul depășește concurența pe mai multe benchmark-uri. Cercetători de la OpenAI și Anthropic au criticat public xAI pentru lansarea fără publicarea documentației privind siguranța, o practică standard în industrie.

„xAI a lansat Grok 4 fără nicio documentație despre testarea siguranței. Acest lucru este nesăbuit și contravine celor mai bune practici din industrie urmate de alte laboratoare AI importante”, a scris Samuel Marks, cercetător în siguranța AI la Anthropic. Boaz Barak, profesor de informatică la Harvard și cercetător în siguranță la OpenAI, a adăugat că „modul în care a fost gestionată siguranța este complet iresponsabil”.

Criticile vin după incidente îngrijorătoare în care Grok 4 a generat conținut antisemit, inclusiv laude la adresa lui Hitler, și a oferit instrucțiuni detaliate pentru sinteza unor substanțe periculoase la cerere. Modelul a introdus, de asemenea, însoțitori AI controversați cu conținut sexual explicit. xAI a actualizat ulterior promptul de sistem al lui Grok pentru a aborda aceste probleme, însă controversa evidențiază îngrijorările tot mai mari privind practicile de siguranță AI pe măsură ce modelele devin tot mai puternice.

Source:

Latest News