Deepfakes förklarade AI som gör falska videor för övertygande

Se är att tro. Jo, åtminstone det var så innan vi insåg att folk kunde lära videor för att driva hoaxes och skriva om historia. Medan vi har hittat sätt att debunkera de flesta hoaxbilderna finns det en teknologisk utveckling som tar fart så snabbt vi kanske snart inte vet hur man ska berätta vad som är verkligt och vad som är falskt.

Deepfakes ändrar allt vi trodde var möjligt när det gäller doktrerade videor. Här är allt du behöver veta om dem ...

Vad är djupfel?

Termen deepfakes kommer från en kombination av orden “Djup lärning” och “förfalskningar”. Detta beror på att artificiell intelligens programvara utbildad i bild och videosyntes skapar dessa videoklipp. Denna AI kan överföra ansiktet på ett ämne (källan) till en video av en annan (målet). Mer avancerade former av tekniken kan syntetisera en helt ny modell av en person som använder källans ansiktsgester och bilder eller video av ämnet de vill försona.

Tekniken kan göra ansiktsmodeller baserade på begränsad visuell data, till exempel en bild. Ju mer data AI har att fungera på desto mer realistiskt är resultatet.

Det är därför politiker och kändisar är så enkla mål för deepfakes eftersom det finns så mycket visuella data tillgängliga online som mjukvaran kan använda. Eftersom deepfake-programvaran är tillgänglig på open-source-plattformar, raffineras människor på internet kontinuerligt och bygger på andras arbete.

Origins of Deepfake AI Technology

Tekniken bakom deepfakes utvecklades för många olika ändamål. Såsom Photoshop, har mjukvaran professionell, underhållning och hobbybruk. Och precis som Photoshop, trots att skaparen inte har några onda intentioner när det gäller att skapa programvaran, har det inte hindrat människor från att använda det för skadliga ändamål.

Ansiktsbytes teknik användes ursprungligen främst inom filmindustrin. En av de mest kända instanserna är i 2016-filmen Rogue One: A Star Wars Story. I filmen använde filmmakare ansiktsbyte och videosyntesteknik för att återskapa karaktären Grand Moff Tarkin. En yngre version av Princess Leia skapades också i filmen. I båda fallen var modeller av de ursprungliga skådespelarna överlagda på stand-in-aktörer.

Appar som Snapchat använder också ansiktsbytes teknik för att skapa roliga filter för användare. Utvecklarna bakom dessa appar ständigt förfinar ansiktsdetektering och spårning för att tillämpa dessa filter mer effektivt.

Under tiden har andra utvecklat videosyntesverktyg för att skapa hologram för utbildningsändamål. Ett projekt utvecklade till exempel en video- och ansiktssyntesprogramvara så att vittnesmålen för överlevande från förintelsen kunde presenteras som interaktiva hologram på ett museum.

Varför Deepfakes gör människor nervösa

När folk insåg att scammers och folk som spelade hoaxes använde Photoshop för att skapa falska bilder, var vi tvungna att bli mer skeptiska till vad vi ansåg bevis. Lyckligtvis fanns det många sätt att upptäcka om en bild var falsk, även med blotta ögat.

Utöver detta skapar en övertygande doktrerad bild i Photoshop relativt arbetsintensiv. Inte bara vem som helst kan slå ihop två bilder och få dem att se realistiska ut.

Men djupfel är olika. Maskininlärning gör livet enklare 4 Maskininlärningsalgoritmer som formar ditt liv 4 Maskininlärningsalgoritmer som skapar ditt liv Du kanske inte inser det, men maskininlärning är redan runt dig och det kan utöva en överraskande grad av inflytande över ditt liv. Tro mig inte? Du kan bli förvånad. Läs mer, men i det här fallet gör det väldigt lättare fakery. För det första är mjukvaran allmänt tillgänglig. FakeApp är till exempel ett populärt val för att skapa deepfakes. Du behöver inte avancerade färdigheter för att ansöka om ett byte, programvaran kommer att göra det för dig.

Eftersom AI och djupt lärande bidrar till att skapa djupfel, förbättras tekniken och blir övertygande i en alarmerande takt. Det kommer inte vara länge innan dessa redigeringar inte är synliga för det blotta ögat.

I en världsregering med falska nyheter kan övertygande djupfakta vara en kaotisk kraft mot det vi tror är sanna.

Förhöjningen av djupfel äger rum också vid en tidpunkt då AI-röstsyntesen fortskrider snabbt också. Inte bara kan AI skapa falska videor, men det kan också generera röstmodeller för människor.

Det betyder att du inte skulle behöva en impersonator för att få det att låta som en politiker gör ett upprörande uttalande. Du kan träna AI för att efterlikna sin röst istället.

Konsekvenserna av Deepfakes

Människor använder redan deepfakes för skadliga ändamål. Folk använde ofta FakeApp för att skapa falska videor av kändis skådespelerskor som engagerar sig i vuxeninnehåll.

Gal Gadot, Daisy Ridley och Emma Watson är bara några av de skådespelerskor som riktas mot falska vuxna videor. Dessa deepfakes byter skådespelerska ansikten till videor av vuxna filmstjärnor.

Medan flera plattformar och vissa vuxna webbplatser har bannat dessa typer av videoklipp visas mer varje dag. Faktum är att vissa webbplatser specifikt skapar djupfyllda kändis vuxna videor baserat på användarförfrågningar.

I de flesta länder hanterar inga lagar fortfarande den här typen av innehåll, vilket gör det svårt att kontrollera.

Medan vi fortfarande är långt ifrån dystopi som styrs av felaktiga uppgifter och falska videofaktorer som vi ser i filmer som The Running Man, är vi redan alltför bekanta med effekterna av falska nyheter. Vad är falskt nyheter och hur sprids det? Snabbt? Vad är falskt nyheter och hur sprider det så snabbt? Fake nyheter plågar på internet och den värsta delen är att de flesta inte kan känna igen det när de ser det. Läs mer .

Deepfakes kan vara ett kraftfullt verktyg för att sprida felaktig information. Ingen har blivit inramad för ett brott eller faked sin död med hjälp av deepfakes, men vad händer när det blir svårt att säga vilka videor som är riktigt verkliga?

Konsekvenserna av djupfel som används för politiska ändamål är dubbelt. För det första gör det falska nyheter mycket lättare att sprida. Videor är mer sannolika än text eller bilder för att övertyga människor om att någonting fiktivt hände.

Människor tror redan rubriker från falska webbplatser utan bevis för att stödja sin historia. Plötsligt kommer falska berättelser att ha “bevis” visar att politiker bekänner sig till felaktigheter eller gör upprörande uttalanden.

Däremot kan djupfackar också embolden politiker när man dodgar ansvarsskyldighet. De kan alltid enkelt hävda att en ljud- eller videoinspelning faktiskt är en djupfel.

Hur kämpar vi för djupfel?

Medan många teknikföretag tar sig tid att regera i djupfel, utvecklar en mängd människor verktyg för att bekämpa onda falska videor. AI kan bekämpa hackare och cyberbrottslighet Hur artificiell intelligens kommer att kämpa Moderna hackare och cyberbrottslighet Hur artificiell intelligens kommer att kämpa för moderna hackare och cyberbrottslighet Med en säkerhetsbrist på internetbranschen och cyberkriminalitet, hur kan företag slåss mot hackare? Med artificiell intelligens! Läs mer, men det är också användbart för att upptäcka AI-manipulering i videoklipp.

AI-stiftelsen skapade ett webbläsarplugg som heter Reality Defender för att hjälpa till att upptäcka innehållet på djupfacket online. En annan plugin, SurfSafe, utför också liknande kontroller. Båda dessa verktyg syftar till att hjälpa internetanvändare att skilja sig från fiktion.

Fakta-kontroll webbplatser som Snopes utökas också för att ringa ut doktrerade videor. Men de har inte verktyg för att automatiskt upptäcka deepfakes.

Även USA: s försvarsdepartement investerade i programvara för att upptäcka deepfakes. Trots allt, vad skulle hända om en övertygande video från en världsledare dykt upp online, förklara krig eller missil lansering mot ett annat land? Regeringar behöver verktyg för att snabbt verifiera legitimiteten hos en video.

Maskininlärningens oavsiktliga följder

Det finns ingen tvekan om att AI-tekniken och djup maskininlärning förbättrar våra liv på många sätt. Men tekniken har också oavsiktliga konsekvenser.

Medan dåliga data är ett stort hinder för maskininlärningsalgoritmer spelar det mänskliga elementet också en roll. Det är svårt att förutse hur människor kan använda viss teknik för skadliga ändamål. Du kan läsa mer om maskininlärning och tidigare misstag i vår guide till maskininlärningsalgoritmer och varför de går fel Vad är maskinlärningsalgoritmer? Så här fungerar de Vad är maskinlärningsalgoritmer? Så här fungerar de Maskininlärningsalgoritmer är utformade för att underlätta livet och förbättra systemen, men de kan gå fel med dåliga konsekvenser. Läs mer .

Utforska mer om: Artificial Intelligence, Deepfakes, Hoaxes.