Hva er maskinlæringsalgoritmer? Slik fungerer de
Annonse
Kunstig intelligens og maskinlæring gir mange av de fremskrittene vi ser i teknologibransjen i dag. Men hvordan gis maskiner evnen til å lære? Videre, hvordan resulterer måten vi gjør dette på utilsiktede konsekvenser?
Her er vår raske forklaring om hvordan maskinlæringsalgoritmer fungerer, sammen med noen eksempler på maskinlæring som gikk galt.
Hva er maskinlæringsalgoritmer?
Maskinlæring er en gren av informatikk som fokuserer på å gi AI muligheten til å lære oppgaver 5 Beste Google AI-eksperimenter for å utforske kunstig intelligens 5 Beste Google AI-eksperimenter for å utforske kunstig intelligens Google har flere AI-eksperimenter som du kan gå og leke med, ikke sant nå. Takket være maskinlæring kan de endre morgendagens verden med din hjelp. Les mer . Dette inkluderer å utvikle evner uten at programmerere eksplisitt koder AI for å gjøre disse tingene. I stedet er AI i stand til å bruke data til å lære seg selv.
Programmerere oppnår dette gjennom maskinlæringsalgoritmer. Disse algoritmene er modellene som en AI-læringsatferd er basert på. Algoritmer, sammen med treningsdatasett, gjør det mulig for AI å lære.
En algoritme gir vanligvis en modell som en AI kan bruke for å løse et problem. For eksempel å lære å identifisere bilder av katter kontra hunder. AI bruker modellen satt ut av algoritmen på et datasett som inkluderer bilder av katter og hunder. Over tid vil AI lære å identifisere katter fra hunder mer nøyaktig og enkelt, uten menneskelig innspill.
Læring av maskiner forbedrer teknologi som søkemotorer, smarte hjemmeenheter, online tjenester og autonome maskiner. Det er slik Netflix vet hvilke filmer du har større sannsynlighet for å glede deg over, og hvordan musikkstrømmetjenester kan anbefale spillelister.
Men mens maskinlæring kan gjøre livene våre mye enklere, kan det også være noen uventede konsekvenser.
7 ganger når maskinlæringen gikk galt
1. Ulykke med Google Image Search Result
Google Søk har gjort det enklere å navigere på nettet. Motorens algoritme tar en rekke ting i betraktning når du kaster opp resultater, for eksempel nøkkelord og avvisningshastighet. Men algoritmen lærer også av brukertrafikk, noe som kan forårsake problemer for søkeresultatkvaliteten.
Ingen steder er dette tydeligere enn i bilderesultater. Siden sider med mer trafikk har større sannsynlighet for å vise bildene sine, blir historier som tiltrekker seg et høyt antall brukere, inkludert clickbait, ofte prioritert.
For eksempel forårsaket bildesøkeresultatene for “squatters camps in South Africa” kontrovers da det ble oppdaget at det hovedsakelig inneholdt hvite sør-afrikanere. Dette til tross for statistikk som viser at det overveldende flertallet av de som bor i uformelle boliger, som hytter, er svarte sør-afrikanere.
Faktorene som brukes i Googles algoritme betyr også at internettbrukere kan manipulere resultater. For eksempel påvirket en kampanje av brukere Google Image Search-resultater i den grad at søk etter begrepet "idiot" viser bilder av USAs president Donald Trump.
2. Microsoft Bot ble en nazist
Stol på Twitter for å ødelegge en velmenende, maskinlærende chatbot. Det var dette som skjedde innen en dag etter utgivelsen av Microsofts nå beryktede chatbot Tay.
Tay etterlignet språkmønstrene til en tenåringsjente og lærte gjennom samspillene sine fra andre Twitter-brukere. Imidlertid ble hun et av de mest beryktede feilfeilene i AI da hun begynte å dele nazistiske uttalelser og rasemessige slur. Det viser seg at troll hadde brukt AIs maskinlæring mot den, oversvømmet den med interaksjoner lastet med bigotry.
Ikke lenge etter tok Microsoft Tay offline for godt.
3. AI ansiktsgjenkjenningsproblemer
Ansiktsgjenkjenning AI lager ofte overskrifter av alle gale grunner, for eksempel historier om ansiktsgjenkjenning og personvernhensyn. Men denne AI vakte også store bekymringer når du forsøkte å gjenkjenne folk av farger.
I 2015 oppdaget brukere at Google Bilder kategoriserte noen svarte mennesker som gorillaer. I 2018 viste forskning fra ACLU som viste at Amazons Rekognition ansiktsidentifiseringsprogramvare identifiserte 28 medlemmer av den amerikanske kongressen som politiets mistenkte, med falske positiver som uforholdsmessig påvirker folk av farger.
En annen hendelse involverte Apples Face ID-programvare Kjøpe en iPhone X? Face ID Kan det hende at du vurderer å kjøpe en iPhone X? Face ID kan få deg til å vurdere iPhone Xs mest bemerkelsesverdige funksjon er Face ID-enhetens opplåsningssystem. Men hvor sikker er det? Vil Apple ha tilgang til en enorm database med alles ansikter? Les mer som feil identifiserer to forskjellige kinesiske kvinner som samme person. Som et resultat kunne kollegaen til iPhone X-eieren låse opp telefonen.
I mellomtiden minner MIT-forskeren Joy Buolamwini om at han ofte trenger å ha en hvit maske mens hun jobber med ansiktsgjenkjenningsteknologi for å få programvaren til å gjenkjenne henne. For å løse problemer som dette, vekker Buolamwini og andre IT-fagfolk oppmerksomhet på problemet og behovet for mer inkluderende datasett for AI-opplæring.
4. Deepfakes som brukes til hoaxes
Mens folk lenge har brukt Photoshop for å lage hoax-bilder, tar maskinlæring dette til et nytt nivå. Programvare som FaceApp lar deg face-bytte emner fra en video til en annen.
Men mange mennesker utnytter programvaren til en rekke skadelige bruksområder, inkludert å overlegge kjendisansikter til voksne videoer eller generere hoaxvideoer. I mellomtiden har internettbrukere bidratt til å forbedre teknologien for å gjøre det stadig vanskeligere å skille ekte videoer fra falske. Som et resultat gjør dette denne typen AI veldig kraftig når det gjelder å spre falske nyheter og smaker Facebook Tilbud Tips for å hjelpe deg med å finne falske nyheter Facebook Tilbud Tips for å hjelpe deg med å oppdage falske nyheter Mens Facebook ikke produserer falske nyheter, er det i det minste delvis ansvarlig for formidlingen. Derfor tilbyr den nå tips for å hjelpe deg med å finne falske nyheter før de sprer seg. Les mer .
For å vise frem kraften i teknologien, skapte direktør Jordan Peele og BuzzFeed-administrerende direktør Jonah Peretti en deepfake-video som viser hva som ser ut til å være den tidligere USAs president Barack Obama som leverer en PSA på deepfakes makt.
5. The Rise of Twitter Bots
Twitter-boter ble opprinnelig opprettet for å automatisere ting som svar på kundeservice for merker. Men teknologien er nå en viktig bekymring. Forskning har faktisk estimert at opptil 48 millioner brukere på Twitter faktisk er AI-roboter.
I stedet for bare å bruke algoritmer for å følge visse hashtags eller svare på kundespørsmål, prøver mange botkontoer å etterligne virkelige mennesker. Disse 'menneskene' promoterer deretter smaksprøver og hjelper med å gjøre falske nyheter viral.
En bølge av Twitter-roboter påvirket til og med opinionen i en grad på Brexit og det amerikanske presidentvalget i 2016. Twitter selv innrømmet at den avdekket rundt 50 000 russiskproduserte roboter som la ut om valget.
Bots fortsetter å plage tjenesten og sprer desinformasjon. Problemet er så utbredt at det til og med påvirker selskapets verdivurdering.
6. Ansatte sier at Amazon AI bestemte seg for å ansette menn er bedre
I oktober 2018 rapporterte Reuters at Amazon måtte skrape et verktøy for å rekruttere jobben etter at programvarens AI bestemte at mannlige kandidater hadde preferanser.
Ansatte som ønsket å være anonyme, kom frem for å fortelle Reuters om arbeidet med prosjektet. Utviklere ønsket at AI skulle identifisere de beste kandidatene til en jobb basert på CV-ene deres. Imidlertid la folk som var involvert i prosjektet snart merke at AI straffet kvinnelige kandidater. De forklarte at AI brukte CV-er fra det siste tiåret, hvorav de fleste var fra menn, som sitt treningsdatasett.
Som et resultat begynte AI å filtrere ut CV-er basert på nøkkelordet "kvinner". De nøkkelordene dukket opp på CV-en under aktiviteter som "kaptein for sjakklubber for kvinner". Mens utviklere endret AI for å forhindre denne straffingen av CV-er for kvinner, skrapte Amazon til slutt prosjektet.
7. Upassende innhold på YouTube Kids
YouTube Kids har mange dumme, finurlige videoer ment å underholde barn. Men det har også et problem med spammy-videoer som manipulerer plattformens algoritme.
Disse videoene er basert på populære tagger. Siden små barn ikke er veldig kresne seere, tiltrekker søppelvideoer som bruker disse nøkkelordene millioner av visninger. AI genererer automatisk noen av disse videoene ved å bruke lageranimasjonselementer, basert på trendkoder. Selv når videoene er laget av animatører, er titlene deres spesielt generert for stikking av nøkkelord.
Disse nøkkelordene hjelper til med å manipulere YouTubes algoritme slik at de havner i anbefalinger. En betydelig mengde upassende innhold dukket opp i innmatingene til barn ved å bruke YouTube Kids-appen. Dette inkluderte innhold som skildrer vold, jumpscares og seksuelt innhold.
Hvorfor maskinlæring går galt
Det er to hovedgrunner til at maskinlæring gir utilsiktede konsekvenser: data og mennesker. Når det gjelder data, gjelder mantraet om "søppel, søppel". Hvis dataene som mates til en AI er begrenset, partisk eller lav kvalitet; resultatet er en AI med begrenset omfang eller skjevhet.
Men selv om programmerere får dataene riktig, kan folk kaste en skiftenøkkel i verkene. Skapere av programvare innser ofte ikke hvordan folk kan bruke teknologien ondsinnet eller til egoistiske formål. Deepfakes kom fra teknologien som ble brukt for å forbedre spesialeffekter på kino.
Det som har som mål å gi mer oppslukende underholdning, ender også opp med å ødelegge folks liv når de blir utnyttet.
Det er mennesker som jobber for å forbedre sikkerhetstiltakene rundt maskinlæringsteknologi for å forhindre ondsinnet bruk. Men teknologien er allerede her. I mellomtiden viser mange selskaper ikke den nødvendige viljestyrken for å forhindre misbruk av denne utviklingen.
Algoritmer for maskinlæring kan hjelpe oss
Det kan virke litt undergang og dysterhet når du innser hvor mye maskinlæring og kunstig intelligens som faller under forventningene. Men det hjelper oss også på mange måter — ikke bare når det gjelder bekvemmelighet, men å forbedre livene våre generelt.
Hvis du føler deg litt nølende med den positive effekten av AI og maskinlæring, finn ut om måtene kunstig intelligens kjemper mot nettkriminalitet Hvordan kunstig intelligens vil bekjempe moderne hackere og nettkriminalitet Hvordan kunstig intelligens vil bekjempe moderne hackere og cyberkriminalitet med et cybersecurity talent mangel og nettkriminalitetsepidemi, hvordan kan selskaper bekjempe hackere? Med kunstig intelligens! Les mer og hackere for å gjenopprette litt håp.
