DeepSeek AI din China restricționează noile înscrieri pe fondul atacurilor cibernetice și al preocupărilor tot mai mari de securitate

Startup-ul chinezesc de inteligență artificială DeepSeek a câștigat rapid acțiune în lumea inteligenței artificiale, dar odată cu popularitatea sa în creștere vine un set tot mai mare de provocări. Compania a limitat recent înregistrările de noi utilizatori din cauza a ceea ce descrie drept atacuri rău intenționate la scară largă asupra serviciilor sale. În timp ce utilizatorii existenți pot continua să acceseze platforma, noile înscrieri au fost temporar restricționate.

Situația evidențiază creșterea amenințărilor de securitate cu care se confruntă platformele AI și ridică îngrijorări cu privire la implicațiile mai largi ale securității AI, confidențialitatea și tensiunile geopolitice din jurul companiilor chineze de tehnologie.

Atacurile cibernetice care vizează DeepSeek

DeepSeek nu a dezvăluit detalii despre natura acestor atacuri, dar experții în securitate cibernetică cred că acestea ar putea fi un amestec de atacuri distribuite de refuzare a serviciului (DDoS), extrageri prompte de sistem și încercări de jailbreak care vizează ocolirea restricțiilor de conținut sau manipularea comportamentului AI.

Potrivit lui Stuart Millar, inginer principal AI la Rapid7, atacatorii ar putea testa răspunsurile DeepSeek la întrebări sensibile, ar încerca să extragă prompturi de sistem sau să încerce să modifice modul în care funcționează AI. O extragere promptă de succes a sistemului ar putea dezvălui instrucțiuni proprietare și ar putea expune vulnerabilitățile AI la o exploatare ulterioară.

Cercetătorul în securitate cibernetică Erich Kron de la KnowBe4 a subliniat că astfel de atacuri ar putea fi motivate de diverși factori:

• Extorcare – Atacatorii ar putea cere plăți de răscumpărare în schimbul opririi perturbărilor.
• Sabotaj corporativ – Concurenții ar putea încerca să slăbească reputația și poziția pe piață a DeepSeek.
• Protecția investițiilor – Entitățile investite în proiecte rivale de IA ar putea să vadă DeepSeek ca o amenințare și să încerce să o submineze.

Creșterea meteorică a lui DeepSeek în lumea AI

Fondată în 2023, DeepSeek s-a poziționat rapid ca un concurent major în cursa AI. Modelele companiei, inclusiv DeepSeek-V3, au făcut titluri pentru capacitatea lor de a concura și chiar de a depăși modelele AI occidentale, cum ar fi GPT-ul OpenAI și LLaMA-ul Meta, în timp ce sunt antrenate la o fracțiune din cost.

Aplicația sa de chatbot iOS a urcat recent în topul topurilor aplicațiilor gratuite ale Apple în SUA și Marea Britanie, depășind chiar și ChatGPT de la OpenAI ca popularitate.

Un factor major din spatele succesului DeepSeek este eficiența acestuia. Compania susține că modelul său DeepSeek-V3 necesită mult mai puține ore GPU în comparație cu omologii din Silicon Valley. Odată cu sancțiunile SUA care restricționează vânzarea de cipuri AI avansate către firme chineze, această eficiență a devenit un avantaj competitiv esențial.

În ciuda acestor progrese tehnologice, DeepSeek rămâne controversată din cauza politicilor sale de cenzură și a potențialelor riscuri de securitate națională asociate cu practicile sale de stocare a datelor.

Defecte de securitate și preocupări legate de confidențialitate

DeepSeek s-a confruntat cu vulnerabilități de securitate din trecut, inclusiv cu un exploit de injecție promptă descoperit de cercetătorul de securitate Johann Rehberger. Acest defect ar fi putut permite atacatorilor să preia conturi de utilizator utilizând o sarcină utilă de tip cross-site scripting (XSS) încorporată în răspunsurile generate de AI.

În plus, un raport recent de informații despre amenințări al lui Kela a constatat că modelele AI ale DeepSeek sunt vulnerabile la atacuri de jailbreak care le permit să genereze conținut neetic și ilegal, inclusiv:

• Generarea codului ransomware
• Fabricarea dezinformarii
• Ghiduri pas cu pas pentru fabricarea de explozivi și toxine
• Instrucțiuni de dezvoltare a programelor malware

Aceste constatări ridică preocupări etice serioase cu privire la modul în care IA ar putea fi utilizată greșit dacă nu este asigurată corespunzător.

În plus, politica de confidențialitate a DeepSeek dezvăluie că datele utilizatorilor, inclusiv informații despre dispozitiv, detalii de rețea și date de plată, sunt stocate pe servere situate în China. Acest lucru a declanșat îngrijorări în țările occidentale, în special în Statele Unite, unde Marina SUA a sfătuit recent personalul să evite utilizarea DeepSeek din cauza potențialelor riscuri de securitate și etice.

Autoritatea italiană pentru protecția datelor a lansat, de asemenea, o investigație, cerând ca DeepSeek să clarifice modul în care colectează, stochează și procesează datele utilizatorilor. Compania are la dispoziție 20 de zile pentru a răspunde întrebărilor referitoare la sursele de date, justificările legale pentru prelucrare și dacă instruirea modelului AI implică eliminarea datelor.

O nouă rivalitate IA în mijlocul tensiunilor geopolitice

Apariția DeepSeek adaugă o nouă dimensiune cursei globale de inteligență artificială, în special pe măsură ce tensiunile tehnologice dintre SUA și China continuă să crească. Comunitatea AI a luat notă, CEO-ul OpenAI, Sam Altman, denumind modelul de raționament al DeepSeek „impresionant” și recunoscându-l ca un concurent legitim.

În mod interesant, Jim Fan de la NVIDIA a remarcat că DeepSeek „menține în viață misiunea inițială a OpenAI”, concentrându-se pe cercetarea deschisă și accesibilitatea largă – o declarație care critică subtil trecerea recentă a OpenAI către modele cu sursă închisă.

China, între timp, și-a apărat poziția cu privire la reglementările tehnologice, afirmând că permite companiilor globale de inteligență artificială să opereze atâta timp cât respectă legile locale. Cu toate acestea, rămân îngrijorări cu privire la modul în care companiile chineze de inteligență artificială ar putea fi influențate de reglementările guvernamentale, politicile de cenzură și directivele de securitate națională.

Un moment crucial pentru securitatea AI

Creșterea DeepSeek demonstrează că China face pași serioși în dezvoltarea AI, dar subliniază și provocările tot mai mari de securitate cibernetică cu care se confruntă companiile AI. Fie că este vorba de atacuri cibernetice rău intenționate, probleme de confidențialitate sau control geopolitic, călătoria DeepSeek evidențiază interacțiunea complexă dintre inovația AI, securitate și politica globală.

Pentru utilizatori, aceste evenimente servesc drept memento să fie precauți cu privire la platformele AI care gestionează date sensibile, în special cele cu politici de confidențialitate opace și potențiale vulnerabilități de securitate. Pe măsură ce AI continuă să evolueze, asigurarea unor măsuri solide de securitate cibernetică și a unor practici transparente de date va fi crucială pentru companiile care doresc să mențină încrederea utilizatorilor și credibilitatea globală.