Gmail Panopticon Slutdatumet för integritet som vi vet det?

Det låter som något från George Orwells 1984: En man skickar ett privat e-postmeddelande och finner sig arresterad för det. E-posten avlyssades inte av en utredande polis mannen var inte ens misstänkt innan han arresterades. E-postmeddelandet analyserades av ett automatiserat system som få personer känner till och det förekommande e-postmeddelandet uppmärksammades av myndigheterna.

Låter det här som en värld du vill bo i? Den här världen är redan här - och det systemet användes för att fånga en kille som skickar barnpornografi Olyckliga sanningar om barnpornografi och internet [Funktion] Olyckliga sanningar om barnpornografi och internet [Funktion] En liten blank kvadrat och en blinkande markör. Ett fönster genom vilket hela världen finns. Du måste bara säga rätt ord - vilket som helst ord - och din alla önskan kommer att levereras ... Läs mer .

Tagen på bar gärning

Så hur hände det? John Skillern skickade oanständiga bilder av barn till en vän och fann sig snart i arrestering. Vad han inte visste var att Google automatiskt skannar bilderna som skickas via Gmail och jämför dem med en databas med återställd barnpornografi. om en match hittas meddelas polisen. I det här fallet fick de senare en garanti för att söka efter sin dator och surfplatta, där de hittade andra pornografiska bilder av barn.

Amerikanska lagar kräver att alla företag som upptäcker barnpornografi rapporterar det direkt till polisen. Detta har traditionellt använts för fotoutvecklare, webbhotellstjänster och andra fotograferingsrelaterade företag, men det gäller alla företag, inklusive sökmotorer. Självklart är det bra - det sexuella utnyttjandet av barn är ett häftigt brott, och vi borde kasta alla resurser vi har på den. Företagen är glada att följa dessa lagar och i allmänhet är människor glada för dem att.

Men förekomsten av denna teknik har vissa människor oroliga.

Hur fungerar det?

Tekniken som används för Gmails barnpornoskanning är en mjukvara som skapats av Microsoft, kallad PhotoDNA. När en bild läggs till i PhotoDNA-databasen, har en matematisk hash vad allt detta MD5-hash-material faktiskt betyder [Teknologi förklarat] Vad allt detta MD5-hash-material faktiskt betyder [Teknologi förklarat] Här är en fullständig nedgång av MD5, hash och en liten överblick över datorer och kryptografi. Läs mer skapas och används som en unik identifierare. Efter att ett fåtal tusen bilder har lagts till i databasen blir det riktigt bra att identifiera foton baserat på dessa identifierare, även om dessa bilder har genomgått mindre förändringar.

Microsoft utvecklade PhotoDNA i samarbete med National Center for Missing and Exploited Children (NCMEC), så det har varit avsett att bekämpa barnporn från början. Och det fungerar självklart. Det fångade Skillern, och det används av Bing, OneDrive, Facebook, Twitter och Gmail bland potentiella andra.

Tyvärr kan PhotoDNA bara identifiera bilder som redan har lagts till i databasen, vilket innebär att handel med nya bilder inte kommer att utlösa en varning. Men med den mängd olagligt material som redan finns där kan det vara mycket användbart för att identifiera potentiella barnpornografer.

Var det en hemlighet?

Sedan meddelandet om Skillerns arrestering har det skett mycket diskussion om huruvida distributionen av PhotoDNA av Gmail är en integritetsrisk. Gmail serverar annonser för användare och skannar innehållet i personliga e-postmeddelanden för att bestämma vilka annonser som ska visas. Google hävdar att den här skanningen är utförd anonymt, och att studenter, företag och offentliga konton inte skannas. Nyliga sekretess och juridiska bekymmer har lett till att Google stöder lite av sin skanning, men uppenbarelsen av användningen av PhotoDNA har många människor ifrågasatt om vi får hela berättelsen.

Medan Google aldrig nekat att de skannade Gmail-meddelanden för barnporno var de väldigt snabba om det. Trots att människor är säker på att stödja åtgärder mot barnpornografi, kan tanken att Google skannar bilderna i sina e-postmeddelanden inte ha gått över så bra. Men nyheten är ute nu, och vi måste fråga oss om Google är kommande med vad de gör med våra e-postmeddelanden. Vi vet att e-post är inneboende osäker Varför e-post inte kan skyddas från regeringsövervakning Varför e-post inte kan skyddas från statlig övervakning “Om du visste vad jag vet om e-post, kanske du inte använder det heller,” sade ägaren till säker e-posttjänst Lavabit som han nyligen stängt ner den. "Det finns inget sätt att göra krypterad ... Läs mer, men att hitta bevis på övervakning av Google är obehaglig.

Gmail Panopticon

I slutet av 1700-talet utvecklade Jeremy Bentham planerna för en byggnad som kallades panopticon, där alla elever, barn eller mest tillämpliga fångar i en byggnad kunde övervakas av en enda vaktperson. Ingen av de fångar kan berätta om de övervakas, så de måste anta att de är under övervakning, uppmuntra dem att måtta sitt beteende för att inte dra uppmärksamhet åt sig själva.

Är det vad Gmail leder oss mot? Just nu skannar de bilder för barnpornografi. Men som vissa journalister har noterat är Google bunden av lagen i de länder där den opererar. Från Internet till Fängelse: 6 typer av datorbrott du kan få arresterad från från webben till fängelse: 6 typer av datorbrott du kan Få gripna för regeringar över hela världen har försökt att tämja Internet som en storm för ny teknik hotar allt från strikt regeringens censur och kontroll över media till förankrade mediekonglomerat och gamla begrepp ... Läs mer, vilket innebär att regeringar kan kräva att de vända om annan sorts information som finns i deras skanningar. Det här kan låta som en sträcka, men genom att acceptera villkoren för Gmail har vi givit Google mycket kraft att göra vad de vill ha med våra data.

Och är det så svårt att föreställa sig att denna teknik skulle användas i strävan efter förövare av andra brott? Såsom det står, hävdar Google att någon skulle kunna planera en annan typ av brottslighet via Gmail och de skulle inte ha någon risk. Men hur länge kommer det att bli så? Google samarbetar nu med brottsbekämpning genom att skanna våra privata meddelanden Kan du flytta Internetövervakningsprogram som PRISM? Kan du flytta Internetövervakningsprogram som PRISM? Ända sedan Edward Snowden blåste fläkten på PRISM, NSA: s inte längre hemliga övervakningsprogram, vet vi en sak med säkerhet: ingenting som händer på nätet kan betraktas som privat. Kan du verkligen komma undan ... Läs mer. Nu när denna teknik har använts för att fånga en brottsling och har blivit visad för allmänheten, finns det en mycket stark förbindelse där.

Vad ska Google söka efter nästa? Terroristhot? Mord tomter? Snatteri? Yttranden som skiljer sig från de som stöds av den politiska majoriteten? Indikationer av avsikt att sluta använda Google-tjänster? Vi kunde se en stor vändpunkt inom en snar framtid som drivs av ökande krav från regeringarna. Och inte bara vårt - vad kommer mer repressiva regeringar be Google att vända om? E-post med bevis på homosexualitet? Politisk motsats? Humanitära uppdrag?

Vi vet bara inte. Och det är svårt att säga hur Google kommer att svara.

Och det kommer bli svårt att säga nej efter att de har visat att deras skanning kan fånga barnpornografer. Vem kommer att be dem att sluta använda denna teknik när de oundvikligen kommer att bli frågade “Stödjer du barnpornografi då??” som svar? Det kan inte vara något att gå tillbaka från det här. Allmänhetens uppfattning kommer att vara svårt att svaja mot ett system som fångar några av de mest förskräckta brottslingarna i världen.

Är detta början på slutet av sekretess?

Om det finns ett enda företag som är synonymt med Internet är det Google. Och om de skannar våra e-postmeddelanden, kan privatlivets privatliv komma till slut (åtminstone i de stora kanalerna, det kommer alltid att finnas andra alternativ). Om du läser min del av "Spionera inte på oss" -handlingslärdomar, lära dig av att inte spionera på oss: Din guide till Internet Sekretesslärdomar Lär dig från Spionera inte på oss: Din guide till Internet Sekretess Läs mer, du Jag vet att jag är rädd att privatlivet står inför några allvarliga attacker från ett antal riktningar, både företag och myndigheter. Och detta samarbete mellan de två kunde stava problem för onlinesäkerhet och säkerhet.

Medan jag inte tror att vi ser ett beräknat drag från Google för att förbättra den allmänna opinionen om deras skanning, tror jag att de kommer att göra sitt bästa för att göra detta till en positiv sak. De kanske inte hade hoppats på att den här skanningen skulle bli uppmärksammad av allmänheten, men det finns gott om möjligheter att visa världen vad de kan göra för oss i utbyte mot något av vår integritet.

Nästa steg som Google tar som svar på denna berättelse kommer att vara mycket att säga, och jag ser fram emot att följa den här historien för att se vad de säger om det. Vad tror du? Överskrider Google gränserna genom att skanna alla bilder som vi skickar? Eller är du glad att offra någon av din integritet för att bekämpa barnpornografi? Skulle du känna samma sätt om Google börjar skanna för andra brott? Eller om regeringar börjar göra krav på dem att vända om vissa e-postmeddelanden? Det finns mycket utrymme för kontroverser och diskussioner här-chime nedan och låt oss veta vad du tycker!

Bildkrediter: Allt som ser ögat. Doodle stil (redigerad) via Shutterstock, Man i svart via Shutterstock, Micah Baldwin via flickr, DieBuche via Wikimedia Commons, Robert Scoble via flickr, Ben Roberts via flickr.

Utforska mer om: Gmail, Google, Online Sekretess.