OpenAI, Anthropic i Google DeepMind pregovaraju o zajedničkim standardima za bezbednost veštačke inteligencije
OpenAI, Anthropic i Google DeepMind nedeljama pregovaraju o formiranju industrijskog tela za AI bezbednost, dok administracija u Vašingtonu odbacuje rizike i usporavanje razvoja.
Vodeće laboratorije za razvoj veštačke inteligencije, OpenAI, Anthropic i Google DeepMind, već nedeljama vode razgovore o bezbednosti naprednih modela i formiranju industrijskog tela za standarde. Ovu informaciju potvrdio je Chris Lehane, šef globalne politike u kompaniji OpenAI, tokom sastanaka sa zakonodavcima u Vašingtonu o katastrofičnim rizicima veštačke inteligencije.
Šta predviđa plan za industrijsko telo?
Tri rivalske kompanije rade na formiranju nezavisnog tela za standarde (standards body) koje bi regulisalo razvoj najnaprednijih modela. Sam Altman je navodno preneo zaposlenima u OpenAI-ju da ova inicijativa mora da se sprovede bez podrške američke vlade.
Predlozi za nadzor nad razvojem frontier modela uključuju nekoliko ključnih tačaka:
- Uloga kontrolnog tela: Demis Hassabis iz Google DeepMind-a još u julu je pozvao na formiranje tela koje bi imalo status nadzornog organa sa ovlašćenjima da proverava najmoćnije modele i koordinira eventualna usporavanja u razvoju.
- Eksterna provera: OpenAI podržava odredbu FRONTIER Act-a koja obavezuje vodeće laboratorije da omoguće rad nezavisnih verifikacionih organizacija (independent verification organizations) unutar samih kompanija.
- Embedded evaluatori: Altman je potvrdio da će se OpenAI priključiti sistemu stalnih eksternih procenjivača unutar razvojnog procesa.
Antitrust prepreke i razlike u pristupu
Zajednička koordinacija najvećih AI kompanija nosi rizik kršenja antimonopolskih zakona, jer bi regulatori mogli da je protumače kao suspenziju tržišne konkurencije.
Dario Amodei, direktor laboratorije Anthropic, nedavno je objavio esej u kojem je pozvao industriju da uspori razvoj najnaprednijih sistema radi sprečavanja katastrofičnih posledica, uz predlog da vlada izda usku saglasnost za bezbednosnu koordinaciju. Ovaj poziv su podržali Altman, Hassabis i Elon Musk. Ipak, Chris Lehane je izjavio da OpenAI smatra da vladina saglasnost za ove razgovore nije neophodna.
Otpor iz Bele kuće
Pokušaji industrijske samoregulacije dolaze u trenutku otvorenog protivljenja trenutne američke administracije bilo kakvom usporavanju tehnološkog razvoja.
- Donald Trump je bezbednosne brige u vezi sa veštačkom inteligencijom nazvao „obmanom” (hoax), uz tvrdnju da bi usporavanje američkih kompanija dalo direktnu prednost Kini.
- David Sacks je javno izjavio da su strahovi od egzistencijalnih rizika koje donosi veštačka inteligencija preterani.
Šta dalje?
Razgovori između OpenAI-ja, Anthropica i Google DeepMind-a pokazuju da vodeći inženjerski timovi žele da uspostave sopstvena pravila evaluacije pre nego što zakonodavci donesu obavezujuće okvire. Glavni izazov za formiranje ovakvog tela biće balansiranje između strogih antitrust pravila i izostanka podrške izvršne vlasti u Vašingtonu.