Kommer innehållet för terroristattacker att överträffa din integritet?

Facebook, Twitter, Microsoft och YouTube har meddelat att de skulle arbeta tillsammans för att bygga en massiv databas. Den här databasen innehåller bilder och videoklipp som används av terroristnätverk. Kriminalitet, terrorism och säkerhet: Den mörka sidan av sociala medier. Kriminalitet, terrorism och säkerhet: Den mörka sidan av sociala medier. Sociala medier är inte bara kattmemor och prankvideo. Facebook, Twitter och Tumblr-användare kan lika lätt komma in i mörkare material som distribueras av tekniskt skickliga terroristgrupper. Vad ska du göra åt det? Läs mer för att sprida propaganda och nå ut till potentiella rekryter. Databasen kommer att varna dessa företag när något på deras webbplats troligen bryter mot deras användarvillkor.

Verkar som en bra idé, rätt?

Detaljerna

Från och med nu är detaljer lite oklara. Varje bild och video i databasen kommer att ha en “unikt digitalt fingeravtryck” och företag kommer att varna när innehållet dyker upp på deras webbplats. I början av programmet kommer företag bara att lägga till “de mest extrema och egregious terroristbilderna och videoklippen” till databasen.

Tanken är att dessa bilder och videoklipp kommer att vara mest sannolika att bryta mot användarvillkoren Varför du borde läsa användarvillkor, gör Pokemon GO Away ... [Tech News Digest] Varför du borde läsa användarvillkor, gör Pokemon GO Go Borta ... [Tech News Digest] Alla springer över användarvillkor, PokeGone vänder Pokemon GO till Pokemon NEJ, Facebook håller dina samtal hemliga, Blizzard tystar douchebag World of Warcraft-spelare och Samuel L. Jackson förklarar Game of Thrones. Läs mer av alla plattformar. Detta gör det enkelt att ta bort det innehållet om det dyker upp någon annanstans. Varje företag får bestämma vilken bild och video som ska finnas i databasen. De kommer också ha befogenhet att bestämma huruvida att ta bort innehåll om det visas på deras webbplats.

Det är ganska mycket allt vi vet hittills. Twitter hopp “Detta samarbete kommer att leda till ökad effektivitet när vi fortsätter att genomdriva våra policyer för att hjälpa till att bekämpa den globala frågan om terroristinnehåll online.” Men vi vet verkligen inte så mycket hittills. Vem ska bestämma vilket innehåll som ska bidra? Kommer företag att inrätta oberoende granskningskommittéer för denna typ av sak? Eller kommer de bara att lägga till några saker nu och då när de känner för det?

En dålig post

Det är verkligen svårt att polisera innehåll online. Oavsett om det är felaktig information, missbruk, terroristrekryteringsvideoer Hur sociala medier plattformer slår extremister Hur sociala medier plattformer slår extremister Sociala sociala nätverk presenterar ett kraftfullt verktyg för terroristgrupper, främst för propaganda och rekrytering. Så vad gör Facebook och Twitter om detta? Hur kan sociala nätverk bekämpa terrorism? Läs mer, eller ett av de otaliga andra typerna av dåligt innehåll på nätet, det finns ett minfält av problem som är inneboende i processen. Vem bestämmer vilka grupper som kvalificerar sig som terrorister? Hur fattas beslutet att ta bort innehåll? Kommer företagen att leta efter det, eller förlita sig på användarna att rapportera det?

Microsoft, i sitt uttalande om online terroristinnehåll, sa detta:

När terroristinnehållet på våra värda konsumenttjänster uppmärksammas via vårt onlinerapporteringsverktyg, tar vi bort det.

Och de ger en länk till en blankett som används specifikt för rapportering av terroristinnehåll. Men hur sannolikt är det att någon faktiskt söker och använder det formuläret? De säger också att de ska “ta bort länkar till terroristrelaterat innehåll från Bing endast när det krävs en uppgradering av sökleverantörer enligt lokal lag.”

Detta ställer vidare ansvaret på annat håll.

Ansvarsfrågor

Electronic Frontier Foundation har skrivit mycket om svårigheterna att polisera denna typ av innehåll online. I en 2014-post kritiserade de Storbritanniens plan att tvinga Internetleverantörer att blockera “extremistiskt innehåll” utan insyn och ansvarsförfaranden. Mänskliga rättigheter grupper har också kritiserat Frankrike för att ha mycket stora definitioner av terroristaktivitet.

Både Twitter och Facebook har ganska dåliga poster med polisens innehåll på deras webbplatser. Sociala sociala medier plattformar strider extremister Hur sociala medier plattformer slår extremister Sociala sociala nätverk presenterar ett kraftfullt verktyg för terroristgrupper, främst för propaganda och rekrytering. Så vad gör Facebook och Twitter om detta? Hur kan sociala nätverk bekämpa terrorism? Läs mer . Även om Twitter har raderat över 100 000 ISIS-relaterade Twitter-konton och började polisera hatgrupperna starkare, har de ett dåligt rykte för att låta extremism och missbruk springa på sin plattform. Även Facebook tycks ha innehållet att fortsätta använda en hands-off-strategi under banneret av yttrandefrihet.

Det är självklart ganska svårt att hantera den här typen av ansvar. Jag säger inte att det är lätt. Men teknikföretag är skickliga på att avstå från vad deras teknik används för. Det inkluderar utbredning av terroristbilder, videor, rekryteringsstationer och annat innehåll. I augusti 2016 uppgav en brittisk rapport att Facebook, Twitter och YouTube var “medvetet misslyckas med att bekämpa användningen av deras webbplatser för att främja terrorism och dödande.”

Inrättandet av en databas med bilder och videoklipp verkar inte troligen förändras. Det är uppmuntrande att de agerar, men det är svårt att föreställa sig att det är mer än halvhjärtat.

Kunde detta vara en sekretessfråga?

Eftersom företag manuellt lägger till objekt i databasen efter att användarna rapporterat dem verkar det inte som om det finns chans att dina bilder eller videoklipp oavsiktligt kunde komma in i databasen. Vilket är uppmuntrande. Men skapandet av en massiv central databas full av unikt identifierade “dålig” innehållet är oroande.

Detta beror till stor del på att de ansvariga på den tiden får bestämma vad som räknas som “dålig”. Detta gäller särskilt om det är statligt engagemang. Du kan vara en del av majoriteten en dag och i en förföljd minoritet nästa. Utbyggnaden av denna typ av teknik gör den typen av förändring ännu skrämmande.

Självklart finns det ingen indikation på att dessa företag kommer att använda denna databas för annat än laxhandhavande av sina egna användarvillkor. Men det faktum att privata organisationer har utvecklat och använder denna teknik kan få vissa människor oroliga. Regeringar har säkert övervakningsteknik som redan är här kraftfullt, men spridning kan vara ett tecken på att företagen kommer att få verktygen att samla in mer information inom en snar framtid.

Från och med nu finns det ingen anledning att oroa dig för att din integritet kommer att äventyras av terroristinnehållsdatabasen. Men integritets- och förespråkarorganisationer som strider mot din NSA och för integritet? Vem strider mot din NSA och för integritet? Det finns flera internetaktivismgrupper som kämpar för din räkning för integritet. De gör sitt bästa för att utbilda även medborgare. Här är bara några av dem som är otroligt aktiva. Läs mer skulle göra det bra att hålla koll på utplaceringen av denna typ av teknik någon annanstans.

Ett steg framåt?

Det är bra att se att de tekniska företagen intensifierar och är proaktiva om terroristinnehåll på sina plattformar. Men deras rekord är full av laxhandhavande och försiktig försummelse. Kommer det här verktyget att vända det? Det verkar osannolikt. (Om inte de automatiserar det, vilket kommer med en hel rad andra problem.) Enligt min mening kommer den här databasen inte att förändras mycket, och Twitter, Facebook, Microsoft och YouTube har mycket väl tänkt det som en PR-åtgärd istället för man menade faktiskt att göra det bra.

Vad tror du? Kommer denna databas att bekämpa spridningen av terroristinnehåll online? Eller är det en tom gest i ett försök att skaffa sig någon allmän beundran? Dela dina tankar i kommentarerna nedan!

Bildkrediter: Yunava1 / Shutterstock

Utforska mer om: Onlinesäkerhet, Övervakning.