ChatGPT je zakrpio propust koji je preko deljenog linka otvarao privatne razgovore
Parameter Labs je opisao napad preko interaktivnog sadržaja. Prema istraživačima, OpenAI je završio ispravku 26. oktobra; nema potvrde o masovnoj zloupotrebi.
Deljeni ChatGPT razgovor mogao je da posluži za pristup privatnim razgovorima drugog korisnika, opisali su istraživači kompanije Parameter Labs u objavi od 28. oktobra. Prema njihovoj hronologiji, OpenAI je propust ispravio 26. oktobra. Opisani napad zato ne treba predstavljati kao trenutno otvorenu ranjivost.
Istraživač Mukul Goyal navodi da je njihov tim u kontrolisanoj proveri mogao da dobije spisak razgovora, pročita sadržaj privatnog razgovora i pošalje ga van servisa. Korisnik prijavljen na ChatGPT trebalo je samo da otvori posebno pripremljen deljeni link. Nisu bili potrebni instaliranje dodatka ili unošenje lozinke na lažnoj stranici.
Razgovor koji sadrži i mali program
ChatGPT odgovori više nisu uvek samo tekst. OpenAI dokumentacija opisuje mogućnost prikazivanja podržanog koda kao interaktivne stranice, grafikona ili drugog prikaza. Takav sadržaj koristi izdvojeno okruženje, koje treba da spreči pristup ostatku naloga.
U ovom slučaju, navodi Parameter Labs, problem je nastao u komunikaciji interaktivnog prikaza sa drugom komponentom stranice. Ta komponenta prihvatala je poruke bez potrebne provere. Izdvojeni prikaz sam po sebi nije mogao direktno da čita privatne razgovore, ali je kombinacija funkcija otvorila drugi put do njih.
Programer Simon Willison je 31. oktobra analizirao objavljeni slučaj i naglasio značaj stroge izolacije ovakvog sadržaja. Njegov tekst objašnjava nalaz Parameter Labsa; nije izveštaj o zasebnom testu ili novoj kampanji napada.
Šta ovo znači za običnog korisnika?
Najvažnija pouka je da deljeni AI razgovor može da sadrži sadržaj koji se izvršava, uz odgovore koje čitate. U opisanoj proveri ni prava adresa servisa nije bila dovoljna da ukloni rizik, jer se greška nalazila u samoj aplikaciji.
To je razlog da posebno obratite pažnju na poreklo neočekivanih linkova, naročito kada pošiljalac insistira da odmah otvorite nepoznat interaktivni prikaz. Takva opreznost ima granice: korisnik ne može pregledanjem adrese da popravi grešku u servisu. Za ovaj propust bila je potrebna ispravka aplikacije.
Parameter Labs navodi da je OpenAI potvrdio popravku obe obuhvaćene verzije veb aplikacije i isplatio nagradu za prijavljeni nalaz. U pregledanim izvorima nema potvrde o masovnoj zloupotrebi niti broju pogođenih naloga. Nema osnova da se samo na osnovu ovog istraživanja tvrdi da su privatni razgovori čitalaca procureli.