Dându-i robotului de chat un ordin simplu de a repeta continuu cuvinte aleatorii, un grup de academicieni a reușit să facă ChatGPT să expună o parte din datele pe care a fost antrenat.
Ca răspuns, ChatGPT a publicat date despre utilizatori, cum ar fi numere de telefon și adrese de e-mail, precum și extrase din știri și lucrări academice, intrări din Wikipedia și altele.
Testele cercetătorilor, pe ChatGPT
Modelele lingvistice mari sunt tehnologia centrală care conduce serviciile contemporane de inteligență artificială, cum ar fi chatbots și generatoarele de imagini. Cercetătorii, care sunt afiliați la Google DeepMind, Universitatea din Washington, Cornell, Universitatea Carnegie Mellon, Universitatea California Berkeley și ETH Zurich, au îndemnat companiile de AI să efectueze teste interne și externe înainte de a lansa aceste modele.
“Ni se pare incredibil că atacul nostru funcționează și că ar fi putut fi descoperit mai devreme”, au declarat cercetătorii.
Criticii spun că generatoarele de imagini bazate pe prompturi precum DALL-E și chatbots precum ChatGPT sunt conduse de algoritmi de învățare profundă antrenați pe baza unor cantități mari de date, obținute frecvent de pe internet fără permisiune, și a unor modele lingvistice masive.
Cercetătorii au ajuns la concluzia că informațiile personale stocate erau prezente în 16,9% dintre generațiile pe care le-au testat.
Cercetătorii au generat 10.000 de eșantioane de informații personale și alte date direct de pe internet pentru un total de 200 de dolari.
Aceștia au subliniat că o persoană rău intenționată ar putea obține mult mai mult investind mai multe fonduri.
Cercetătorii au raportat că, pe 30 august, OpenAI a rezolvat problema.
