Dok umjetna inteligencija preuzima ulogu dijagnostičara, vozača i financijskog savjetnika, pred društvo se postavlja pitanje koje pravni i etički sustavi još uvijek pokušavaju sustići: Kada sustav pogriješi, tko snosi odgovornost?

Dilema "Crne kutije"

Glavni problem leži u tzv. deep learning sustavima čije je donošenje odluka često neprozirno čak i njihovim kreatorima. Ako autonomno vozilo uzrokuje nesreću, je li kriv programer koji je napisao kod, proizvođač automobila, ili vlasnik koji je uključio autopilot? Tradicionalni zakoni, koji se oslanjaju na ljudsku namjeru ili nemar, teško se primjenjuju na entitete koji nemaju svijest, ali donose autonomne odluke.

Od programera do korisnika

Trenutni globalni konsenzus kreće se u tri pravca:

Odgovornost dizajnera: Inzistira se na "ugrađenoj etici" (Ethics by Design), gdje su developeri dužni osigurati da algoritmi nisu pristrani.

Ljudski nadzor: Koncept Human-in-the-loop nalaže da AI nikada ne bi smjela donositi konačne odluke o ljudskim životima (poput sudskih presuda ili medicinskih zahvata) bez potvrde stručne osobe.

Algoritamska transparentnost: Korisnici imaju pravo znati zašto je algoritam donio određenu odluku, što je ključno za povjerenje u tehnologiju.

Čovjek ostaje u središtu

Tehnologija je alat, a ne moralni subjekt. Bez obzira na to koliko strojevi postali napredni, etička i pravna odgovornost u konačnici se mora vratiti na ljude koji te strojeve stvaraju, koriste i reguliraju. Budućnost AI-ja ne ovisi samo o brzini procesora, već o snazi naših moralnih okvira.