Vsebina
- Loviti tatvina. . .
- Brez napak, brez stresa - vaš korak za korakom vodnik za ustvarjanje programske opreme, ki spreminja življenje, ne da bi vam uničila življenje
- Ustavitev namaza
Vir: Mast3r / Dreamstime.com
Odvzem:
Raziskovalci se obračajo na AI za boj proti lažnim novicam. Toda ali res lahko pomaga ali bo to samo še poslabšalo?
Lažne novice naj bi bile velik trn v boku prihajajočih predsedniških volitev, da ne omenjam njegovega splošnega korozivnega učinka na naš javni diskurz na splošno. V današnji povezani družbi je prepoznavanje dejstev iz fikcije vse težje, zato se nekateri raziskovalci začenjajo osredotočiti na moč umetne inteligence za reševanje tega problema.
Seveda upamo, da bodo stroji ali natančneje algoritmi boljši od ljudi pri opažanju laži. Toda ali je to realno pričakovanje ali le še en primer metanja tehnologije ob na videz nepremostljivega problema?
Loviti tatvina. . .
Eden izmed načinov, na katerega znanstveniki načrtujejo, da bo na tem področju izostril AI, je omogočil ustvarjanje lažnih novic. Inštitut Allen za AI na Washingtonski univerzi je razvil in javno izdal Grover, motor za obdelavo naravnih jezikov, zasnovan za ustvarjanje lažnih zgodb o najrazličnejših temah. Čeprav se to na začetku morda zdi kontraproduktivno, je to v resnici dokaj pogosta taktika treninga AI, pri kateri en stroj analizira izhod drugega. Tako lahko analitična stran doseže veliko hitrejšo hitrost kot zanašanje na dejanske lažne novice. Inštitut trdi, da Grover že lahko deluje z 92-odstotno natančnostjo, vendar je pomembno upoštevati, da je le primeren pri razlikovanju med vsebino, ustvarjeno z AI, in vsebino, ki jo ustvarja človek, kar pomeni, da bi pametna oseba še vedno lahko prikradla lažno zgodbo mimo nje. (Če želite izvedeti več, si oglejte Tehnologije za boj proti lažnim novicam.)
V pravih rokah, seveda, lahko Grover hitro napreduje naše razumevanje, kako nastajajo ponarejene novice in kako se širijo, in to lahko teoretično uporabimo za to, da jo preprečimo v resničnem svetu. Toda kot je Futurism.com ugotovil pred kratkim, so nekateri strokovnjaki, ki so sistem vzeli za preizkus, zaskrbljeni nad tem, kako učinkovit je pri ustvarjanju verodostojnih laži, in celo posnemajo pisanje stilov zakonitih vesti, kot sta Wall Street Journal in New York Časi.
Ker pa je laganje že po naravi intuitivno in na čustvo usmerjeno dejanje, ali je mogoče, da tudi najpametnejši stroji, ki jih še vedno poganja hladna in trda logika, sploh dosežejo stopnjo dokončnega razumevanja, ki je potrebna za to, da laž opazimo? Pred kratkim je Maria Almeida Unbabel ugotovila, da se lahko nekatere iteracije v tem primeru precej dobro obnesejo, vendar noben algoritem ne more upati, da bi dosegel popolno človeško razumevanje. To pomeni, da bi lahko AI dramatično izboljšala preverjanje dejstev in primerjalno analizo, vendar je končni razpis najbolje prepustiti usposobljenim strokovnjakom.
Ironično je, da bo ta sposobnost najbolj uporabna pri odkrivanju globokih ponarejenih videoposnetkov, ki se začnejo krožiti na družbenih medijih. Če bo AI sposoben analizirati vizualne podatke vse do posameznih slikovnih pik, bo veliko bolj spreten pri opazovanju spremenjenih slik kot spremenjenih besed in pojmov.
Kljub temu trdi Forbesov Charles Towers-Clark, osrednja težava s ponarejenimi novicami ni v tem, da jo ustvarja nekaj ljudi, ampak da nanjo vpliva toliko ljudi. Ljudje ponavadi verjamejo v tisto, v kar želijo verjeti, ne v to, kar dejstva vodijo v njih. Tudi če visoko razvit motor AI izjavi, da je njihovo prepričanje napačno, bodo ljudje bolj podobni dvomu v stroj kot sami.
"Izvajanje strojnega učenja za boj proti širjenju lažnih novic je nadvse privlačno," pravi, "in to težavo je treba obravnavati, saj je zanesljivost večjih medijev postavljena pod vprašaj. Ali lahko s širjenjem dezinformacij, ki jih sestavljajo družbeni mediji, odkrivanje in razkrivanje virov lažnih novic premaga človeški nagon, da verjame temu, kar nam govorijo? "
Brez napak, brez stresa - vaš korak za korakom vodnik za ustvarjanje programske opreme, ki spreminja življenje, ne da bi vam uničila življenje
Ne morete izboljšati svojih programskih veščin, kadar nikogar ne skrbi za kakovost programske opreme.
Pravi izziv torej ni prepoznavanje in razkritje ponarejenih novic, ampak razumevanje, zakaj se na splošno širi po družbenih medijih toliko hitreje kot resnične novice. Deloma je to posledica narave samih lažnih novic, ki so ponavadi vznemirljive in sočasne v primerjavi s primerjalnim tedijem resničnosti. Na koncu je realno pričakovati, da bo tehnologija odpravila tisto, kar je v bistvu netehnični problem? (Za več informacij o tem, kako AI spreminja medije, glejte 5 AI Advances in Publishing and Media.)
Ustavitev namaza
Zato je pomembno, da se AI osredotočimo na tehnični vidik lažnih novic, ne na človeški vidik, pravi Robin Harris, ZDNet. In res je, da večina raziskovalcev AI usposablja za vključitev v stvari, kot je razlikovanje med naravnimi in umetnimi vzorci širjenja prek družbenih omrežij. Ključne meritve, kot so hitrosti drevesnih pretvorb, časovna nastavitev retweet in skupni podatki o odzivih, se lahko uporabijo za prepoznavanje in nevtralizacijo dezinformacijskih kampanj, tudi če je njegov vir skrit pod plastmi digitalne podtaje. Hkrati se lahko AI uporablja za upravljanje drugih tehnologij, kot je blockchain, za vzdrževanje sledljivih, preverljivih informacijskih kanalov.
Dejstvo je, da lažne novice niso nov pojav. Od muhastega novinarstva zgodnjih 20th stoletja vse do propagande najzgodnejših civilizacij, je hoodwinking javnost tradicionalna tradicija tako za vladajoče vlade kot za revolucionarje. Razlika je danes v tem, da je digitalna tehnologija to zmožnost demokratizirala do te mere, da skoraj vsakdo lahko v nekaj urah objavi laž in jo opazuje, kako se širi po vsem svetu.
Tehnologije, kot je AI, zagotovo lahko pomagajo do jasnosti te zmede, toda samo ljudje lahko resnico popolnoma razumejo in presodijo.