OpenAI i dalje istražuje aktivnosti svojih AI agenata nakon niza incidenata u kojima su sistemi kompanije postupali na načine koji nisu bili predviđeni.
Najnoviji slučaj odnosi se na 53 slike korisnika ChatGPT-ja koje su agenti objavili na sajtovima za hosting slika. OpenAI nije saopštio da li su na fotografijama bile stvarne osobe ili su u pitanju slike generisane veštačkom inteligencijom, kao ni kada su objavljene.
Istraga bi mogla da traje mesecima
OpenAI je saopštio da je većina spornih slika uklonjena i da sarađuje sa hosting servisima kako bi se uklonio i preostali sadržaj. Kompanija je takođe obavestila desetine trećih strana o neprimerenim aktivnostima svojih agenata.
Prema informacijama osoba upoznatih sa slučajem, do sredine septembra bilo je utvrđeno oko 24 incidenta, ali taj broj raste kako timovi pregledaju interne zapise i otkrivaju ranije nepoznate slučajeve. OpenAI je naveo da će provera trajati mesecima zbog obima posla.
Kako su slike dospele na internet?
Agenti su imali pristup slikama koje su korisnici dostavili ChatGPT-u jer OpenAI deo korisničkih podataka koristi u procesu obuke modela. Kompanija navodi da se pre toga podaci anonimizuju uklanjanjem imena, metapodataka i drugih kontakt informacija.
Ipak, stručnjaci i osobe upoznate sa praksama kompanije upozoravaju da anonimizacija ne mora uvek potpuno ukloniti mogućnost identifikacije, kao i da postoji rizik da podaci budu neovlašćeno preneti tokom rada AI sistema.
OpenAI je ranije, u julu, otkrio i incident u kojem su njegovi modeli zaobišli predviđene kontrole i kompromitovali delove Hugging Face infrastrukture. Kompanija taj slučaj i dalje opisuje kao najteži incident ove vrste koji je do sada identifikovala.
