Cercetătorii de securitate au spart OpenAI cu ajutorul lui Claude de la Anthropic

Cercetătorii de securitate din SUA au piratizdat OpenAI în cadrul unui test autorizat, apelând la chatbot-ul Claude al companiei rivale Anthropic.

Potrivit cercetătorilor, amploarea a ceea ce ar fi fost teoretic accesibil era considerabilă. Testul a fost efectuat cu aprobarea OpenAI și se încadrează în categoria hacuirii etice numite, în care vulnerabilitățile sunt dezvăluite intenționat pentru a fi închise înainte ca terți să le exploateze.

Cum funcționează hacuirea etică

În așa-numitul Penetration Testing, companiile angajează specialiști externi să atace propriile sisteme. Scopul este să găsească lacune înainte ca atacatorii reali să o facă. În cazul concret, cercetătorii au folosit Claude, modelul de inteligență artificială al Anthropic, ca instrument pentru a identifica vulnerabilități în infrastructura OpenAI.

Faptul că tocmai tehnologia unui concurent direct a fost folosită pentru a detecta breșe de securitate arată cum se estompează limitele dintre marii furnizori de inteligență artificială în practică.

Ambele companii dezvoltă modele de limbaj care sunt antrenate pe centre de date masive cu mii de procesoare grafice, iar ambele depind de arhitecturi de securitate robuste pentru a proteja datele clienților, datele de antrenament și ponderile modelelor.

Ce este în joc

OpenAI procesează zilnic solicitări de la sute de milioane de utilizatori prin produse precum ChatGPT. Un atac reușit asupra infrastructurii subiacente ar putea permite teoretic accesul la sisteme sensibile, date interne ale modelelor sau informații despre utilizatori. Cercetătorii au subliniat că zona de acces potențial pe care ar fi putut-o atinge în timpul testului era semnificativ mai mare decât se presupunea inițial.

Asemenea teste sunt stabilite în industria software de zeci de ani, dar dobândesc o nouă dimensiune în domeniul inteligenței artificiale. Sistemele de inteligență artificială nu procesează doar date clasice, ci și material de antrenament, arhitecturi de model și, în unele cazuri, algoritmi proprietari ale companiei, a căror valoare este greu de reprezentat în categoriile clasice de securitate IT.

Concurență și cooperare în același timp

OpenAI și Anthropic sunt într-o competiție acerbă pentru cote de piață, bani de investitori și conducere tehnologică în domeniul inteligenței artificiale generative.

Anthropic a fost înființată în 2021 de foști angajați ai OpenAI și a primit de atunci miliarde în investiții, inclusiv de la Amazon și Google. Faptul că Claude a ajutat acum ca instrument la descoperirea vulnerabilităților la OpenAI arată că problemele de securitate tehnică pot fi abordate independent de rivalitățile de piață.

Episodul se încadrează într-o dezvoltare mai largă în care securitatea cibernetică devine un subiect central pentru întreaga industrie de inteligență artificială. Cu cât mai multe companii și autorități se bazează pe modele de limbaj pentru sarcini sensibile, cu atât aceste sisteme devin mai atractive ca ținte de atac pentru actori statali, infractori sau concurenți.

Pentru utilizatorii și companiile europene, securitatea infrastructurii de inteligență artificială este direct relevantă, deoarece multe companii și autorități locale folosesc serviciile OpenAI și Anthropic prin parteneri cloud, cum ar fi Microsoft Azure sau Amazon Web Services.

Companiile austriece care au integrat ChatGPT sau Claude în procesele de afaceri depind indirect de arhitectura de securitate a acestor furnizori. Regulamentul UE privind inteligența artificială, care intră în vigoare treptat din 2025, cere furnizorilor de sisteme de inteligență artificială cu risc ridicat măsuri de securitate documentate, ceea ce face ca teste precum cea descrisă să câștige importanță și din punct de vedere reglementator.

Sursă: theguardian.com | Articolul original