Deepfakes Explained: AI som gjør falske videoer for overbevisende
Annonse
Å se er å tro. Vel, det var i det minste tilfellet før vi innså at folk kunne lege videoer for å drive frem flekker og skrive om historien. Selv om vi har funnet måter å debunkere de fleste hoax-bilder på, er det en teknologisk utvikling som tar fart så raskt at vi snart ikke lenger vet hvordan vi kan fortelle hva som er ekte og hva som er falsk.
Deepfakes endrer alt vi trodde mulig med tanke på doktrerte videoer. Her er alt du trenger å vite om dem ...
Hva er Deepfakes?
Begrepet deepfakes kommer fra en kombinasjon av ordene “deep learning” og “fakes”. Dette er fordi kunstig intelligens programvare trent i bilde- og videosyntese skaper disse videoene. Denne AI kan overlegge ansiktet til ett motiv (kilden) på en video av et annet (målet). Mer avanserte former for teknologien kan syntetisere en helt ny modell av en person ved å bruke kildens ansiktsbevegelser og bilder eller video av emnet de ønsker å etterligne seg.
Teknologien kan lage ansiktsmodeller basert på begrensede visuelle data, for eksempel ett bilde. Jo flere data AI har for å fungere, desto mer realistisk er resultatet.
Dette er grunnen til at politikere og kjendiser er så enkle mål for deepfakes siden det er så mye visuelle data tilgjengelig på nettet som programvaren kan bruke. Siden deepfake-programvare er tilgjengelig på open source-plattformer, foredler og fortsetter folk på internett kontinuerlig på andres arbeid.
The Origins of Deepfake AI Technology
Teknologien bak deepfakes ble utviklet for en rekke formål. I likhet med Photoshop har programvaren profesjonell bruk, underholdning og hobbybrukere. Og akkurat som Photoshop, til tross for at skaperen ikke har noen ondsinnede intensjoner med å lage programvaren, har ikke dette hindret folk i å bruke det til ondsinnede formål.
Ansiktsbytteknologi ble opprinnelig hovedsakelig brukt i filmindustrien. Et av de mest kjente tilfellene er i 2016-filmen Rogue One: A Star Wars Story. I filmen brukte filmskapere ansiktsbytte og videosynteseteknologi for å gjenskape karakteren Grand Moff Tarkin. En yngre versjon av prinsesse Leia ble også opprettet i filmen. I begge tilfeller ble modeller av de originale skuespillernes ansikter lagt over på stand-in-skuespillere.
Apper som Snapchat bruker også ansiktsbytteknologi for å lage morsomme filtre for brukere. Utviklerne bak disse appene avgrenser kontinuerlig ansiktsgjenkjenning og -sporing for å bruke disse filtrene mer effektivt.
I mellomtiden har andre utviklet videosynteseverktøy for å lage hologrammer for pedagogiske formål. For eksempel utviklet ett prosjekt programvare for video- og ansiktssyntese, slik at vitnesbyrd fra Holocaust-overlevende kunne presenteres som interaktive hologrammer på et museum.
Hvorfor Deepfakes gjør mennesker nervøse
Da folk skjønte at svindlere og folk som spilte hoaxer brukte Photoshop for å lage falske bilder, måtte vi bli mer skeptiske til hva vi anså som bevis. Heldigvis var det mange måter å oppdage om et bilde var falsk, selv med det blotte øye.
I tillegg til dette er det relativt arbeidskrevende å lage et overbevisende, doktrert bilde i Photoshop. Ikke bare noen kan smelle sammen to bilder og få dem til å se realistiske ut.
Men deepfakes er forskjellige. Maskinlæring gjør livet enklere 4 Maskinlæringsalgoritmer som former livet ditt 4 Maskinlæringsalgoritmer som former livet ditt Du kjenner kanskje ikke til det, men maskinlæring er allerede rundt deg, og det kan utøve en overraskende grad av innflytelse over livet ditt. Tro meg ikke? Du kan bli overrasket. Les mer, men i dette tilfellet gjør det fakery betydelig lettere. For det første er programvaren bredt og fritt tilgjengelig. FakeApp, for eksempel, er et populært valg for å lage deepfakes. Du trenger ikke avanserte ferdigheter for å bruke et ansiktsbytte, programvaren vil gjøre det for deg.
Siden AI og dyp læring hjelper til med å skape dybder, forbedres teknologien og blir mer overbevisende i en alarmerende hastighet. Det vil ikke vare lang tid før disse redigeringene ikke er synlige for det blotte øye.
I en verden som er fulle av falske nyheter, kan overbevisende deepfakes vise seg å være en kaotisk styrke mot det vi mener er sant.
Økningen av deepfakes skjer også i en tid der AI stemmesyntese også går raskt. Ikke bare kan AI generere falske videoer, men det kan også generere stemmemodeller for mennesker.
Dette betyr at du ikke vil trenge en imitator for å få det til å høres ut som en politiker gir en utagerende uttalelse. Du kan trene AI til å etterligne stemmen deres i stedet.
Konsekvensene av Deepfakes
Folk bruker allerede deepfakes til ondsinnede formål. Folk brukte ofte FakeApp for å lage falske videoer av kjendisskuespillerinner engasjert i vokseninnhold.
Gal Gadot, Daisy Ridley og Emma Watson er bare noen få av skuespillerne som er målrettet etter falske voksenvideoer. Disse deepfakes bytter skuespilleres ansikter til videoer av voksne filmstjerner.
Mens flere plattformer og visse nettsteder for voksne har forbudt denne typen videoer, vises flere hver dag. Faktisk oppretter noen nettsteder spesifikt deepfake-kjendisvideoer basert på brukerforespørsler.
I de fleste land er det ingen lover som omhandler denne typen innhold ennå, noe som gjør det vanskelig å kontrollere.
Mens vi fortsatt er et stykke unna dystopien styrt av feilinformasjon og falske videobevis som vi ser i filmer som The Running Man, er vi allerede altfor kjent med effekten av falske nyheter Hva er falske nyheter og hvordan sprer det seg Raskt? Hva er falske nyheter, og hvordan sprer det seg så raskt? Falske nyheter plager internett og det verste er at de fleste ikke kan kjenne seg igjen i det når de ser det. Les mer .
Deepfakes kan være et kraftig verktøy for å spre feilinformasjon. Ingen har blitt innrammet for en forbrytelse eller forfalsket deres død ved hjelp av deepfakes, men hva skjer når det blir vanskelig å se hvilke videoer som virkelig er ekte?
Konsekvensene av deepfakes brukt til politiske formål er to ganger. For det første gjør det falske nyheter mye lettere å spre. Videoer er mer sannsynlig enn tekst eller bilder for å overbevise folk om at noe fiktivt faktisk skjedde.
Folk tror allerede overskrifter fra falske nettsteder uten bevis som støtte for historien. Plutselig vil falske historier ha "bevis" som viser at politikere tilstår å gjøre urett eller utrørende.
På den annen side kunne deepfakes også prege politikere når de unngår ansvarlighet. De kan alltid lett hevde at lyd- eller videoopptak faktisk er et dyptegn.
Hvordan kjemper vi Deepfakes?
Mens mange teknologiselskaper tar seg tid til å tøffe dybder, utvikler mange mennesker verktøy for å bekjempe ondsinnede falske videoer. AI kan bekjempe hackere og nettkriminalitet Hvordan kunstig intelligens vil bekjempe moderne hackere og cyberkriminalitet Hvordan kunstig intelligens vil bekjempe moderne hackere og nettkriminalitet. Med en mangel på nettets talent mangel og nettkriminalitetsepidemi, hvordan kan selskaper bekjempe hackere? Med kunstig intelligens! Les mer, men det er også nyttig for å oppdage AI-manipulering i videoer.
AI Foundation opprettet en nettleser-plugin kalt Reality Defender for å hjelpe med å oppdage falske innhold online. En annen plugin, SurfSafe, utfører også lignende kontroller. Begge disse verktøyene har som mål å hjelpe internettbrukere til å skille fakta fra skjønnlitteratur.
Faktasjekking nettsteder som Snopes utvidet også til å kalle ut doctored videoer. Men de har ennå ikke verktøyene for å automatisk oppdage dybder.
Til og med det amerikanske forsvarsdepartementet investerte i programvare for å oppdage deepfakes. Tross alt, hva ville skje hvis en overbevisende video av en verdensleder dukket opp på nettet, og erklærte krig eller en rakettoppskyting mot et annet land? Regjeringer trenger verktøy for å raskt verifisere legitimiteten til en video.
Machine Learnings utilsiktede konsekvenser
Det er ingen tvil om at AI-teknologi og dyp maskinlæring forbedrer livene våre på mange måter. Men teknologien har også utilsiktede konsekvenser.
Mens dårlige data er en viktig hindring for maskinlæringsalgoritmer, spiller det menneskelige elementet også en rolle. Det er vanskelig å forutsi hvordan folk kan bruke viss teknologi til ondsinnede formål. Du kan finne ut mer om maskinlæring og tidligere feil i vår guide til maskinlæringsalgoritmer, og hvorfor de går galt. Hva er maskinlæringsalgoritmer? Slik fungerer de. Hva er maskinlæringsalgoritmer? Slik lærer de maskinmaskinens læringsalgoritmer er laget for å gjøre livet enklere og forbedre systemene, men de kan gå galt med dårlige konsekvenser. Les mer . Og selv om du kanskje synes det er vanskelig å identifisere deepfakes som sådan, kan du unngå falske nyheter med smarte nyhetsapper. 5 smarte nyhetsapper som hjelper deg å unngå falske nyheter med mer pålitelige rapporter. 5 smarte nyhetsapper som hjelper deg å unngå falske nyheter med mer pålitelige rapporter Vil du slippe unna falske nyheter? Du kan bruke disse smarte appene for å få faktsjekkede og nøytrale nyheter i stedet. Les mer .
Utforsk mer om: Kunstig intelligens, Deepfakes, Hoaxes, .
