Vsebina
Predstavil: AltaML
V:
Zakaj nekatera podjetja razmišljajo, da bi sodobnim sistemom AI dodali "nadzor človeških povratnih informacij"?
A:
Nekatera podjetja, ki sodelujejo z vrhunsko tehnologijo AI, si prizadevajo za uvajanje človeškega nadzora teh sistemov, ki orodjem za strojno učenje in globoko učenje omogočajo neposreden človeški nadzor. Tudi te družbe niso majhni igralci - Googlova DeepMind in OpenAI Elona Muska sta dva primera velikih podjetij, ki napredujejo v zvezi z napredkom umetne inteligence. Glede na to se rezultati razlikujejo - na primer DeepMind je bil predmet polemike zaradi njegove zaznane nepripravljenosti javnosti dajati ključne podatke, medtem ko je OpenAI veliko več, no, odprto o svojem delu na področju nadzora umetne inteligence.
Tudi tovrstni opazniki, kot je bil Bill Gates, se je spoprijel s tem vprašanjem, Gates pa pravi, da je eden izmed mnogih, ki so zaskrbljeni zaradi pojava umetne superinteligence, ki lahko na nek način preseže človeški nadzor. Tudi Musk je povedal nekaj zaskrbljujočega jezika o možnosti "roparskega AI."
To je verjetno najnujnejši razlog, da podjetja delajo na uporabi človeškega nadzora v AI - ideja, da bo zaradi neke tehnološke posebnosti prišlo do nadvse močne čuteče tehnologije, ki je človek preprosto ne more več nadzirati. Že od zore človeških ambicij smo postavili orodja, s katerimi bomo lahko nadzirali moči, ki jih upravljamo - naj bodo to konji z vajeti in pasovi, elektrika v izoliranih žicah ali kateri koli drug nadzorni mehanizem, ki ima nadzor je notranje človeška funkcija, zato je na svetu vse smiselno, da ko se umetna inteligenca bliža resnični funkcionalnosti, ljudje uporabljajo svoj neposreden nadzor, da to moč nadzorujejo.
Vendar strah pred super inteligentnimi roboti ni edini razlog, da podjetja uporabljajo človeški nadzor za strojno učenje in AI projekte. Drugi pomemben razlog je strojna pristranskost - to je ideja, da so sistemi umetne inteligence pogosto omejeni pri ocenjevanju zadevnih podatkov - tako da povečajo vsako pristranskost, ki je lastna sistemu. Večina strokovnjakov, ki se ukvarjajo s strojnim učenjem, lahko pripovedujejo grozljive zgodbe o IT sistemih, ki niso bili sposobni obravnavati skupin človeških uporabnikov - pa naj gre za spolno ali etnično neskladje ali kakšen drug neuspeh sistema, da bi resnično razumel nianse naše človeške družbe in kako komuniciramo z ljudmi.
V nekem smislu bi lahko človeške kontrole postavili na sisteme, ker se bojimo, da bi bili preveč močni - ali pa se bojimo, da morda ne bodo dovolj močni. Človeški nadzor pomaga pri ciljanju naborov podatkov o strojnem učenju in tako zagotavlja večjo natančnost. Pomagajo okrepiti ideje, ki se jih računalnik preprosto ne more naučiti sam, bodisi zato, ker model ni dovolj izpopolnjen, ker AI ni napredoval dovolj daleč, ali ker nekatere stvari ležijo le v provinci človeškega spoznanja. Umetna inteligenca je odlična za nekatere stvari - na primer sistem, ki temelji na nagradi in oceni, je umetni inteligenci omogočil, da je v izjemno kompleksni družabni igri "Pojdi" premagal človeškega igralca - za druge stvari pa ta sistem, ki temelji na spodbudah, popolnoma neustrezno.
Na kratko, obstajajo številni prepričljivi razlogi, s katerimi lahko uporabniki ljudi neposredno sodelujejo pri delovanju projektov umetne inteligence. Tudi najboljše tehnologije umetne inteligence lahko veliko razmišljajo same, vendar brez dejanskih bioloških človeških možganov, ki bi lahko obdelali stvari, kot so čustva in družbeni običaji, preprosto ne vidijo velike slike na človeški način.
Kvalificirano podjetje za strojno učenje lahko pomagajo doseči to ravnovesje z mešanico strokovnjakov za podjetja in zadeve ter razvijalcev strojnega učenja s spretnostmi za reševanje velikih poslovnih težav.
