Ärge uskuge kedagi: mis ähvardab närvivõrku, tehes porno
Dmitri Kurkin
Fake porn videoskus filmi "Wonder Woman" Gal Gadot täht, kes väidetavalt seksib oma vendlasega, mis sel nädalal veebis ilmus, osutus mitte ainult võltsiks, vaid tehisintellekti tekitatud võltsinguks.
Video autor, anonüümne redditi kasutaja, kellel on hüüdnimi deepfakes, kinnitas intervjuus asepresidendiga, et ta kasutas närvivõrku, et "pildistada" Gadoti nägu pornost näitleja kehale. Võlts on üldiselt märgatav ja sügavamalikud ei kavatsenud sellele raha teha - tema sõnul tahtis ta lihtsalt kontrollida, kui lihtne oleks AI-d kasutada. Ja tal on meie jaoks halvad uudised: võlts porn oli väga lihtne teha kodus.
Probleem ei ole üldiselt pornofeaks ise: nõudlus piltide ja videote järele, kus kuulsused nagu näitlejad ja näitlejad seksivad, oli ja on fetishistide ja tunnete fännidega. Seoses välise sarnasusega pornotööstuse tähtedega tehakse terve karjäär - see nähtus tekitas isegi kollase ajakirjanduse silmapaistva pealkirja: "Gordon Ramsay kääbus on surnukehas surnud".
Aga kui enne tootmist on vaja aega, ressursse ja mõningaid oskusi, siis lihtsustab neuraalvõrgustik, mis on koolitatud keevitama nägusid näoga. Robotid jäävad sisse, mitte mees, ja robotid saavad aeg-ajalt targemaks, mis tähendab, et võltsingud paistavad üha usaldusväärsemad. Deepfakesi kasutaja selgitas, et ta kogus oma AI tarkvara avatud lähtekoodiga raamatukogudes leiduvatest improviseeritud elementidest ning võttis fotosid ja videoid avalikes kanalisatsioonides ja hosting, nagu YouTube. Lihtsamalt öeldes, kõik vahendid pornofeikovi loomiseks olid tema nina all, mitte ainult temaga, vaid miljonite inimeste seas kogu maailmas.
Ja seda, rangelt öeldes, isegi mitte uudiseid. 2003. aastal hoiatasid Oregoni Ülikooli tervishoiu ja teaduse eksperdid, et helipettused on "kergesti teostatavad ja raskesti määratavad". 2017. aastaks oli prognoos tõsi ja neuraalsete võrkude poolt tekitati võltsitud helisalvestisi, mida on väga raske eristada tegelikest. Pärast heli esitamist tõmmati video üles. Washingtoni Ülikooli personali arendamine sünkroniseerib inimese näo väljendusvõimalused tema kõnega: näiteks Barack Obama esitatud videoklipil on olemas ainult heli, pilt genereeritakse programmi poolt. Ühendage üks teistega - ja nüüd on valmis võlts videod, milles, näiteks, tuntud liberaalne poliitik tunnistab oma kaastunnet Hitleri suhtes.
Kujutame ette kujutlusvõimet, kui ette kujutada, kuidas sellised kunstlikud intelligentsid võivad põhjustada - Microsofti jututubad, mida Twitteri trollid on vähem kui ühe päeva jooksul muutunud rassistlikuks, tundub päris kummardusena. Loomulikult ei ähvarda Porno-tehnoloogiat peamiselt Gal Gadot, Taylor Swift ega Jennifer Lawrence. Nad on piisavalt tagatud, et palgata võltsitud IT-spetsialistide armee ja advokaadiparki, kes kaebab kõik, kes üritavad neid võltsinguid isikliku kasu saamiseks kasutada.
Ei, lihtsad surelikud saavad uute ohutute algoritmide ohvriteks. Digitaalseid võltsinguid saab kasutada pornograafia, küberkuritegevuse, võrgu ahistamise, väljapressimise ja manipuleerimise jaoks inimestel, kes on kergesti arusaadavad ja ei järgi eriti uudsete tehnoloogiate uudiseid ("Teie tütar on videolõigatud, raha kohe üle, muidu kõik näeb"). Ja me ei räägi tingimata pornost: võltsinguid võib võrgustikku käivitada ka poliitilise propaganda ja vihkamise õhutamiseks.
"Aga see on koletu!" Jah, koletised ja süüdi ei ole süvamägede kodeerija. Kuna häkkerid satuvad mõnikord pangandussüsteemi, et mitte varastada raha, vaid selleks, et tuua küberkaitseministeeriumi turvalisuse augudesse, siis leiutas anonüümne AI programmeerija vaid meid tõsiasja ees: digitaalsete võltsingute ajastu ei ole utoopiline õuduslugu "Must peegel" ja tulevane reaalsus. Kaasaegses eetikas ei ole teda veel mõistetud (kas pornofiile võib pidada teiste inimeste privaatsuse invasiooniks?), Samuti kehtivate seadustega. Aga see on tema puhul, et me peame kuidagi elama lähiaastatel. Niisiis on vaja välja töötada vastumürk sellise täidise vastu.
Collinsi sõnaraamatu kuraatorid nimetasid mõistet "võlts uudised" 2017. aasta väljenduseks, rõhutades, et keskmine kasutaja on sõltuvuses sensatsiooniliste pealkirjade klikkimisest ja repostist ilma teabe autentsust kontrolliva aja raiskamata. Vahepeal võivad võltsingud mõjutada valimiste ja rahvahääletuste tulemusi. Ja see on ka osa uuest reaalsusest, milles me juba eksisteerime ja milles me peame õppima olema vähem kergemeelsed.
Sotsiaalsed võrgustikud on juba muutnud Interneti klaasist seinaga maja, kus miljonid inimesed saavad teie elu iga päev vaadata, isegi kui te seda ei soovi. Nüüd on ilmselge, et selles majas ei ole ust: igaüks võib proovida oma isiklikku ruumi tungida, kasutades AI-d, et kruvida oma nägu pornoroolile või filmile „Sõrmuste isand”. Privaatsus on surnud, kuid mitte ainult Big Brother on süüdi selles eriteenistuste ja globaalsete korporatsioonide, vaid ka meie ise.
Digitaalsete võltsingute maailm on tulemas, kuid see ei ole paanikale, paranoiale, Interneti kasutamise keeldumisele või närvivõrkude keelamise nõuetele. See on põhjus, miks mõelda võrguhügieenile ja uutele eetikale, mis fikseerivad üks kord ja lõpuks, et kellegi teise pildi kasutamine digitaalse võltsingu loomiseks on ebakindel ja ebaseaduslik. Ajad, mil inimesed tingimusteta uskusid kõike, mida nad ütlevad televisioonis (isegi kui nad ütlevad, et "Lenin oli seene"), on kadumas. Samamoodi harjutame me järk-järgult mitte uskuma kõike, mis on kirjutatud Internetis.
Kate:Warp-kirjed