Codul sursă al software-ului de inteligență artificială DeepSeek dezvăluie multe surprize

(Dan Tri) - Cercetătorii în domeniul securității au descoperit lucruri surprinzătoare în codul sursă al DeepSeek, un software de inteligență artificială originar din China care a stârnit agitație la nivel global în ultimele zile.

Ceea ce este special la DeepSeek este faptul că software-ul este dezvoltat ca open source, permițând comunității să contribuie și dezvoltatorilor să integreze acest instrument de inteligență artificială în produsele lor.

În contextul în care DeepSeek „provoacă febră” la nivel global, experții companiei de securitate Wiz (SUA) au analizat cu atenție codul open source al acestui instrument de inteligență artificială.

Experții au descoperit că acest instrument expune multe dintre bazele sale de date importante, inclusiv jurnalele de sistem, conținutul comenzilor utilizatorilor și chiar jetoane de autentificare API (jetoane de securitate pentru autentificarea accesului la interfețele de programare DeepSeek)...

S-a descoperit că instrumentul DeepSeek conținea o mulțime de informații sensibile în codul său sursă (fotografie ilustrativă: CNBC).

În total, peste 1 milion de înregistrări ale datelor importante ale DeepSeek pot fi accesate de persoane din afara companiei fără restricții. În special, aceste date pot fi găsite prin câteva tehnici minore atunci când se exploatează codul sursă, în loc să fie nevoie să se caute în profunzime și să se exploateze într-un mod dificil.

„Aceasta a fost o greșeală gravă din partea DeepSeek, deoarece nivelul de securitate era foarte scăzut și aveam acces foarte mare, fără nicio restricție privind permisiunile”, a declarat Ami Luttwak, CTO al Wiz.

„Acest lucru arată că DeepSeek nu este suficient de sigur pentru ca utilizatorii să își poată furniza datele sensibile și importante”, a adăugat Luttwak.

Experții în securitate sunt, de asemenea, îngrijorați de faptul că actorii rău intenționați ar putea exploata aceste baze de date scurse pentru a pătrunde mai adânc în sistemul DeepSeek, a executa cod rău intenționat pentru a fura informații despre utilizatori sau a manipula răspunsurile oferite de acest instrument de inteligență artificială utilizatorilor.

„Este șocant din perspectiva securității să construiești un model de inteligență artificială și să lași ușa din spate larg deschisă”, a comentat Jeremiah Fowler, cercetător independent în domeniul securității, după ce a citit raportul publicat de Wiz.

„Aceasta înseamnă că oricine are o conexiune la internet poate accesa și apoi manipula acest instrument de inteligență artificială, ceea ce reprezintă un risc uriaș pentru organizații și utilizatori”, a adăugat Fowler.

Încă nu este clar dacă vreun actor rău intenționat a exploatat datele sensibile scurse de la DeepSeek pentru a pune în aplicare scheme întunecate.

Experții în securitate Wiz au încercat să contacteze DeepSeek pentru a-i alerta cu privire la descoperirile lor.

DeepSeek a rămas tăcut și nu a răspuns. Cu toate acestea, la mai mult de o jumătate de oră după ce raportul a fost trimis prin e-mail, experții Wiz au descoperit că datele scurse din codul sursă al DeepSeek nu mai erau accesibile, ceea ce înseamnă că DeepSeek a intervenit pentru a rezolva problema.

DeepSeek este un startup fondat în 2023 de Luong Van Phong. Compania are sediul central în Hangzhou, China.

Pe 20 ianuarie, DeepSeek a lansat pentru utilizatori un instrument de inteligență artificială numit R1. Acest instrument a „provocat imediat febră” la nivel global datorită capacității sale impresionante și rapide de răspuns.

Mulți utilizatori apreciază, de asemenea, DeepSeek R1 ca oferind răspunsuri mai inteligente, mai precise și mai rapide decât alte instrumente de inteligență artificială, cum ar fi ChatGPT, Gemini sau Llama...

Ceea ce face ca DeepSeek să fie cel mai surprinzător este faptul că acest model de inteligență artificială costă doar 5,6 milioane USD pentru a fi construit și operat, în timp ce companiile de tehnologie din SUA cheltuiesc sute, chiar miliarde de dolari pentru a dezvolta și opera propriile modele de inteligență artificială.

Un alt aspect care face ca DeepSeek să atragă atenția lumii tehnologiei este faptul că acest instrument de inteligență artificială s-a născut și s-a dezvoltat într-o perioadă în care guvernul SUA aplica sancțiuni, împiedicând furnizarea de cipuri de inteligență artificială de înaltă performanță companiilor chineze.

Asta înseamnă că DeepSeek a fost dezvoltat și rulează pe cipuri AI de performanță redusă, dar demonstrează în continuare o putere impresionantă.

Apariția DeepSeek promite să creeze o cursă acerbă în dezvoltarea inteligenței artificiale între cele două superputeri, SUA și China.

Totuși, pe lângă aprecierea ridicată, mulți oameni sunt îngrijorați de faptul că DeepSeek este un instrument al guvernului de la Beijing pentru a colecta informații despre utilizatori prin intermediul întrebărilor sau al oferirii de răspunsuri favorabile politicilor chineze.

Sursă: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm