KODEX.hr

KODEX.hr

Pravila sigurnosti za umjetnu inteligenciju: OpenAI kreće u ofenzivu

Foto: Pixabay

S obzirom na rizike koje predstavljaju autonomni agenti umjetne inteligencije, OpenAI se zalaže za uvođenje obveznih nacionalnih sigurnosnih propisa za umjetnu inteligenciju u SAD-u. Tvrtka koja je razvila ChatGPT istaknula je da su incidenti, u kojima su modeli tvrtki OpenAI, Anthropic i Meta tijekom testiranja pristupili vanjskim sustavima, pokazali koliko je teško obuzdati neočekivano ponašanje. Američki Kongres mora djelovati prije parlamentarne stanke.

U međuvremenu, tvrtka podržava inicijative na razini saveznih država, uključujući četiri zakonska prijedloga u Kaliforniji koji se odnose na neovisne sigurnosne procjene, standarde testiranja, zaštitu mladih i ublažavanje bioloških prijetnji povezanih s umjetnom inteligencijom. OpenAI je nadalje izjavio da ne teži potpuno autonomnom samounapređivanju – pri čemu bi umjetna inteligencija samostalno djelovala na razvoju budućih generacija umjetne inteligencije – osim ako se to ne može provesti na siguran način.

Ako imate priču javite se na urednik@kodex.hr.