Vsebina
- Požene ga stroj
- Avtomatizacija in motnje zaposlitve
- Brez napak, brez stresa - vaš korak za korakom vodnik za ustvarjanje programske opreme, ki spreminja življenje, ne da bi vam uničila življenje
- Prijave iz potrošniške elektronike
- Ponovni nadzor
- Kako lahko deluje
Vir: Artinspiring / Dreamstime.com
Odvzem:
Da bi avtomatizacija delovala s človeštvom in ne proti njemu, potrebujemo zaščitne ukrepe in informirane ljudi, ki so pooblaščeni, da ustavijo ali popravijo sistemsko napako.
»Napačno je človeško; Za resnično škodovanje stvari je potreben računalnik. "William E. Vaughan je to opazovanje opravil leta 1969. Če nadzor nad avtomatiziranim sistemom povzroči, da bo sistem lahko poškodoval in povzročil resno škodo, preden ga preveri.
Avtomatizacija sicer ni nova, a postaja vse bolj razširjena zaradi integracije digitalnih in fizičnih sistemov. Napaka avtomatizacije v obsegu je velika učinkovitost. Slaba stran zanašanja na sistem "nastavi in pozabi" pa je, da ga nekdo morda ne bo pravilno nastavil.
S sistemom, ki preprosto sledi brez poseganja in nikakršnega ustavljanja strojev, imate lahko uničujoče učinke. V skladu s tem lahko tehnologija ustvari takšno situacijo, kot je prikazana v "Čarovniku čarovnika", ko tisto, kar olajša življenje, dejansko izzveni iz nadzora.
Požene ga stroj
Avtomatizacija brez intervencije je bila posledica tega, da se je lanski tehnični delavec v Veliki Britaniji brez razloga znašel brez službe. Ibrahim Diallo je opazil, da njegove varnostne kartice ne delujejo v službi, in ugotovil, da je to, ker je brez službe. "Stroj me je izstrelil" je naslov, ki ga je dal ob svoji razširjeni objavi na blogu.
Na koncu vzrok Diallovega prenehanja ni bila neka ocena algoritma, ki je določala, koga je treba odpraviti. Težava ni bilo v sistemu, ampak je bila človeška napaka. V tem primeru je bil vse avtomatiziran odziv na to, da človek ni dal Diallovih informacij o podaljšanju pogodbe.
Saj stroj ni odločil, da bi ga morali odpustiti zaradi nečesa. Preprosto je izvedla korake, ki so bili zanj programirani za nekoga, ki se je izkazal kot ne zaposlen več. Kot pojasnjuje v komentarjih, to v resnici ni AI, ampak "samodejni scenarij." (Če želite izvedeti, kako lahko AI pomaga (namesto da bi poškodoval) v podjetjih, si oglejte, kaj AI lahko naredi za podjetje.)
Avtomatizacija in motnje zaposlitve
Takšen učinek ni ravno tisto, kar si ljudje predstavljajo, ko opisujejo čudovite koristi, ki jih lahko pričakujemo v avtomatizirani prihodnosti. Običajni optimistični obeti za premike delovnih mest, ko naloge prevzame avtomatizacija, bodo delovna mesta na novo določena - ne pa jih prekinejo avtomatizirani sistemi. Toda resničnost je, da bodo nekatera delovna mesta odpravljena in ljudje, ki so jih obdržali, ne bodo nujno mogli brezhibno preiti na novo kariero v večinoma avtomatizirani industriji.
Motnja zaposlitve je eno manjših tveganj, ki jih je Elon Musk predvideval za naraščanje AI, čeprav je njegovo lastno videnje vpliva na delovna mesta veliko bolj pesimistično kot Fitzgeraldovo. Po mnenju Muska AI potrebuje strogo ureditev, saj predstavlja "temeljno, eksistenčno tveganje za človeško civilizacijo."
Brez napak, brez stresa - vaš korak za korakom vodnik za ustvarjanje programske opreme, ki spreminja življenje, ne da bi vam uničila življenje
Ne morete izboljšati svojih programskih sposobnosti, če nikogar ne skrbi za kakovost programske opreme.
Prijave iz potrošniške elektronike
Kljub Muskovim lastnim tehničnim znanjem nekateri strokovnjaki na tem področju, kot je Rodney Brooks, ki je bil glavni direktor MIT-ovega laboratorija za računalništvo in umetno inteligenco in sovpadli tako iRobot kot Rethink Robotics, pravijo, da se Musk zmoti zaradi grožnje AI in kako robotike dejansko delujejo.
V intervjuju za TechCrunch je Brooks navedel, da je neumno zahtevati predpise, ne da bi tehnični razvoj dozorel do točke, na kateri lahko natančno določimo, kaj mora biti urejeno. Izzval je Muska: "Povej mi, kakšno vedenje hočeš spremeniti, Elon?"
Brooks je priznal, da bodo roboti prinesli premestitev delovnih mest. Vendar tudi meni, da je mogoče paradigmo v industriji preusmeriti na sledenje potrošniške elektronike.
V intervjuju za TechCrunch je povedal: "Imamo tradicijo v proizvodnji opreme, da ima grozne uporabniške vmesnike in da je težko in da morate opraviti tečaje, medtem ko smo v potrošniški elektroniki iz strojev, ki jih uporabljamo, učili ljudi kako jih uporabiti. "
To bi moral biti cilj, da spremenimo način, kako se nanašamo na "industrijsko opremo in druge vrste opreme, da stroji naučijo ljudi, kako jih uporabljati."
Ponovni nadzor
Kar Brooks predlaga, da nas lahko usmeri v rešitev problema človeške napake, ki sproži avtomatizirani postopek, ki se zdi, da spiralno izstopa izpod nadzora. Če se vrnemo na Mickeyjevo nesrečo v "Čarovniku čarovnika", problem izvira iz osebe, ki aktivira sistem, vendar nima pravega načina komunikacije z njim, da bi ga ustavili ali spremenili smer.
Če pa je vmesnik narejen po vzoru potrošniške elektronike in ne tradicionalnih industrijskih modelov, bi to lahko dobesedno vrnilo v človeške roke. Da bi bil resnično učinkovit, mora biti vmesnik ne samo dostopen, ampak zasnovan tako, da ljudi ohranja v zanki o dogajanju in zagotavlja podatke o prejetih posodobitvah in o tem, kaj je sprejel.
Kako lahko deluje
V primeru nenamerne prekinitve Dialla bi to pomenilo, da ga avtomatizirani sistem ne bi samo zaklenil iz sistema in potem svojemu rekruterju zagotovil, da je bil odpovedan. Najprej prizna, da podaljšanje pogodbe ni bilo predloženo na predviden datum. Pred začetkom ukrepov za odpoved bi upravitelju in najemniku ponudil posodobitev o pomanjkljivi obnovi in o posledicah, ki bi sledile čez dan, če ne ukrepate.
Ta vrsta opozorila bi ljudem omogočala, da se informirano odločajo, ali naj avtomatizacijo izklopijo ali posredujejo, da odpravijo človeško napako, ki je bila prvotni vzrok težave. Toda tudi ljudje morajo narediti svoje delo, se odzvati na opozorilo in pravilno ukrepati. Z drugimi besedami, odgovor na vprašanje, ki ga je Brooks postavil o vedenju, velja za ljudi; ob avtomatizaciji morajo biti manj pasivni. (Več o tem, kako lahko ljudje in stroji sodelujejo, glejte Usmerjanje človeškega elementa: politika, postopek in postopek.)
Kot je Diallo zapisal v oddelku za komentarje svojega bloga, je bil razlog, da je to lahko dosegel, to, da ljudje niso hoteli iti proti stroju:
Druga stvar, ki jo spregledamo, je, da so se kljub temu, da so vsi vedeli, da jo je sprožila človeška napaka in da gre zgolj za napako, odločili slediti s. Kot da bi v bolnišnici postavili znak "dovoljeno kajenje", ljudje pa ga spoštujejo, namesto da bi zdravi razum.
V skladu s tem so politike, ki jih moramo sprejeti, da bi avtomatizacija delovala s človeštvom in ne proti njemu, dvostranska: Na strani stroja potrebujemo dostopne in informativne vmesnike, na človeški strani pa ljudi, ki jih potrebujemo. pooblaščen, da prepozna, kdaj nekaj ni v redu, in stopi, da bi to odpravil.