Pre-Crime är här hur polisen tilldelar en Facebook Threat Score

En ny historia från Washington Post gav allmänheten en sällsynt inblick i övervakningsfunktionerna för Fresno-polisens sociala medier, som prövar ett kontroversiellt program som heter Beware. Stycket har orsakat en röra över programvarans förmodade proclivity för brott mot borgerliga friheter.

Men hur skiljer sig detta program från andra sociala medier övervakning gjord av polisen? Är akta ett faktiskt hot mot medborgerliga friheter? Eller är allt detta överblåst? Och vad kan du göra för att hålla polisen från att gräva genom dina sociala medier?

Ett tydligt verktyg för polisavdelningar

De brottsbekämpande myndigheterna har sannolikt använt sociala medier för att samla in intelligens sedan det blev vanligt - även i 2006 arresterade polisen en underjordisk pojke i Colorado efter att han lagt upp bilder av sig själv på MySpace med ett antal skjutvapen.

Sociala mediernas användning i utredningar har bara blivit vanligare sedan dess, och det finns ett antal berättelser som vittnar om dess effektivitet. År 2014 grep polisen i New York över 250 olagligt sålda vapen efter en omfattande utredning som startade när officerarna märkte en aspirerande rappare hade lagt upp bilder av vapen i sin studio på Instagram.

Det har varit otaliga rapporter om att eleverna arresteras för att skicka bomber och andra hot mot sina skolor och många gripanden efter inlägg som förespråkar våld mot polisen. Även skämt bomb hot Hur man använder Twitter utan att skruva upp Hur man använder Twitter utan att skruvas upp Twitter kan vara en krypterad kryp, och det är lätt att göra misstag från tid till annan - även om du är en långtidig användare. Här är några vanliga misstag, och hur man undviker dem. Läs mer har resulterat i arresteringar. Detta är inte heller begränsat till USA; Det finns gott om prejudikat i Storbritannien för att arresteras baserat på att säga något “grovt kränkande” eller hotar på sociala medier.

Sociala media har blivit en viktig plats för gängstart och hot och polisen i städer som Chicago och New York har gjort ett överraskande antal gripanden baserade på Facebook, YouTube och Instagram-inlägg där gängmedlemmar gör något olagligt eller uttrycker sina avsikten att göra det.

Sammantaget är övervakning av social media ett uppenbart val för brottsbekämpning - om människor skickar sina olagliga exploater på Facebook, där hela världen kan se dem, kommer den att betala för att övervaka den.

Problemet med akta: En algoritmisk tillvägagångssätt

Så om polisen har övervakat sociala medier i åratal, varför är Fresnos tillvägagångssätt att göra rubriker? En del av svaret ligger i det faktum att Beware använder en algoritmisk metod för att övervaka sociala medier. Många förenklade verktyg för social mediaövervakning (även de som används av sociala medier marknadsförare. Din guide till social media marknadsföring. Din guide till social media marknadsföring Just nu är det ett angrepp hos både människor och företag som vänder sig till sociala medier. Tävlingen är hård och inget företag kan slösa bort tid eller pengar som gör det fel. Läs mer) Leta bara efter specifika nyckelord eller mönster i data, något som enskilda poliser utför på mycket mindre skala.

Men akta dig när du får en persons information, beräknar en “hot score” baserad på, enligt Intrados hemsida,

... miljarder av [offentligt] tillgängliga affärsrekord inom några sekunder - varnar svarande mot potentiellt farliga situationer under vägen till, eller i stället för, en 9-1-1 begäran om hjälp.

Miljarderna av datapunkter kommer från sociala medier, arresteringar och andra offentliga dokument, kommersiella databaser och många andra typer av data, dock exakt var de kommer ifrån och hur de översätts till en grön, gul eller röd hot är en handelshemlighet bevakad av Intrado, mjukvarans tillverkare.

Hur polisen använder det här poängsystemet är dock uppenbart - om en 911 ringer eller någon som är inblandad i samtalet har en gul eller röd hotpoäng, kommer officerare vara mer försiktiga att gå in. Det kan mycket väl betyda att de är mer väpnade och redo för problem, en tänkesätt som kan få allvarliga konsekvenser för den som ringer.

Under 2007 undersökte polisen stölden på två PlayStation-konsoler på en college campus när de upptäckte bilder av den misstänkte poserar med ett antal skjutvapen på sociala medier. De skickade ett SWAT-lag till den misstänkta huset, och en annan elev hamnade död efter att en officer misstog ljudet av slaget som användes för att komma in i huset för skott. Detta är exakt den typ av tungt beväpnade svar baserat på information som hämtats från sociala medier som har människor oroliga.

De Postas historia nämnde att en kvinna som tweeted om spelet Rasa och en man som bodde i ett hus som tidigare var upptagen av en intressant hade båda höjda hotnivåerna. Ingen av dessa personer skulle ha fått en andra tanke av en kött-och-blodofficer, men Intrados programvara skulle kunna lägga officerare på kant om de skulle svara på ett samtal från någon av dessa medborgare.

Vad som är oroväckande för många människor är att värderingspoängsberäkningar görs av en algoritm som utvecklats av ett enda företag som inte kommer att dela sina ekvationer när som helst snart. Varning är en total svart låda. Algoritmer kontrollerar redan betydande delar av våra liv 4 Maskininlärningsalgoritmer som skapar ditt liv 4 Maskininlärningsalgoritmer som skapar ditt liv Du kanske inte inser det men maskininlärning är redan runt dig och det kan utöva en överraskande grad av inflytande över ditt liv . Tro mig inte? Du kan bli förvånad. Läs mer, men det faktum att de nu kan sätta oss i en farlig situation börjar få folkens uppmärksamhet.

Algoritmiska tillvägagångssätt för polisarbete har dragit stor kritik i det förflutna, med vissa kritiker som säger att de är benägna att bli rasande profilerande, och andra fortsätter att säga att verktygen är utplånade “rasist.” Forskning på ämnet är otvivelaktigt, med vissa studier som visar en minskning av kortsiktig brottslighet och andra som inte visar någon signifikant effekt av prediktiv teknik.

En arv av övervakning

Analys av “miljarder” av datapunkter medför vissa tidigare program som vidtas av den amerikanska regeringen.

Total informationsmedvetenhet (TIA) var ett initiativ som inrättades av Informationsmedvetenhetskontoret i början av 2000-talet, som samlade information om kreditkortsinköp, tidskriftsabonnemang, webbsurfing, e-post, akademiska betyg, resor, juridiska händelser och andra typer av information för lagring i en central databas. Även efter att ha blivit rebranded som Terrorist Information Awareness, stängdes TIA på grund av offentligt upprörande över den orentiska ideen.

En av DARPAs forskningsprojekt Du kommer inte att tro det: DARPA Framtida forskning till avancerade datorer Du kommer inte att tro det: DARPA Framtida forskning till avancerade datorer DARPA är en av de mest fascinerande och hemlighetsfulla delarna av den amerikanska regeringen. Följande är några av DARPAs mest avancerade projekt som lovar att förvandla teknikens värld. Läs mer tittade på ett liknande system som heter LifeLog som skulle samla in ...

... alla aktiviteter och förhållanden som en person engagerar sig i. Detta ska inkludera kreditkortsinköp, besökta webbplatser, innehållet i telefonsamtal och e-postmeddelanden som skickats och mottogs, skanningar av fax och post som skickats och mottogs, skickade och mottagna direktmeddelanden , läsning av böcker och tidningar, TV- och radioval, fysisk plats inspelad via bärbara GPS-sensorer, [och] biomedicinska data fångade genom bärbara sensorer.

Givetvis är OBS och andra sociala medier övervakningslösningar inte nästan så avancerade och har inte samma potential för brott mot privatlivet. Den amerikanska regeringens mönster för att skapa sekretessbrottande programvaror som antingen inte är väl förstådda av allmänheten eller hålls omslagen har många människor nervösa. Och polisens övervakning av sociala medier ser ut som om det kan bli en borgerlig frihetskamp.

Många har redan tagit sidor. Det stora antalet tillgängliga mediekontrollprogram tyder på att många polisavdelningar och andra organisationer (inklusive skolor) är intresserade av att använda denna teknik.

Å andra sidan har grupper som ACLU redan talat ut mot tekniken och sagt att det skulle tillåta polisavdelningar att “placera människor som misstänks helt enkelt för att tala sinne online.” ACLU: s bloggpost på ämnet var provokativt betitlat “Denna övervakningsprogram är sannolikt spionerad på #BlackLivesMatter Hashtag Activism: #powerful eller #pointless? Hashtag Activism: #powerful eller #pointless? #BringBackOurGirls, #ICantBreathe och #BlackLivesMatter har sett stor internationell täckning under det gångna året - men är hashtags ett effektivt sätt att aktivera? Läs mer ,” även om det finns få bevis på att detta är fallet.

Och, självklart, är all information som tas in av Beware “kommersiellt tillgänglig.” Exakt vad det betyder är svårt för alla att veta, eftersom de typer data som sociala nätverk säljer verkar förändras hela tiden. Som vi har sett tidigare, är det inte svårt att få information som en användare tycker är privat. Förbered ditt konto Integritet för Facebook-grafsökning [Weekly Facebook Tips] Förbered ditt konto Integritet för Facebook-grafsökning [Weekly Facebook Tips] Varje gång Facebook släpper ut en ny funktion för att lära känna våra vänner, många inser att deras sekretessinställningar inte längre är tillräckliga. Deras senaste nya funktion, Facebook Graph Search, är inget undantag - ... Läs mer bara genom att ställa rätt frågor och använda rätt verktyg.

Jag skulle inte vara den första personen att associera Beware och andra sociala medier övervakningslösningar med Minoritetsrapportförkriminalitet eller 1984s tankebrottslighet.

Den sofistikerade mjukvaran som Beware kommer till den punkt där det sannolikt kan dra slutsatser utifrån de saker du inte säger, men innebär bara. Intrado och andra tillverkare vill inte att deras programvara är kopplad till dystopiska science-fiction-romaner, men anslutningen är uppenbar.

Lärdomar

Oavsett om du är orolig för de potentiella integritetsöverträdelser som orsakas av programvaran för övervakning av sociala medier i händerna på brottsbekämpning eller inte, bör detta fungera som en påminnelse om att allt du lägger ut på Facebook eller Twitter inte bara är tillgängligt för dina vänner. Det är där ute för alltid, och det är troligt i händerna på en mängd olika människor och företag.

Det bästa du kan göra är att inte posta dumma saker på sociala medier. Gör inte skämt om att göra något olagligt. Förespråkar inte våld mot polis eller militärmedlemmar. Placera inte bilder av dig själv som kan tolkas som hotande (speciellt med pistoler - skriv inte bara bilder av dig själv med pistoler). Mycket av detta är sunt förnuft, men Fresno och deras användning av Beware bör understryka betydelsen av dessa slags skyddsåtgärder.

Detta är också en viktig fråga att komma ihåg inför det kommande presidentvalet i USA 6 Resurser som hjälper dig att följa presidentvalet från 2016 USA 6 resurser som hjälper dig att följa presidentvalet från 2016 Amerikanska rösträtt bestämmer resultatet av ett val. Var informerad väljare och ta denna viktiga uppgift allvarligt med hjälp av dessa verktyg. Läs mer (där sociala medier också är ett extremt viktigt verktyg Politiska kampanjer spåra dig på Facebook, här är varför politiska kampanjer spårar dig på Facebook, här är varför du vet att företag och regeringar använder sociala medier för att spåra dig. Men det finns en annan grupp som tittar på, analyserar och kapitaliserar varje steg du gör på Facebook: politiska kampanjer. Läs mer, intressant). Denna fråga kan mycket väl komma till käften strax efter att en ny president har svurits in, och hur det spelar ut därifrån kan bero på vem som sitter i Oval Office. Det kan verka som en mindre fråga nu, men det kan bli en mycket stor fråga inom en snar framtid. Det är värt att hålla ett öga på.

Vad tycker du om polisavdelningar som övervakar sociala medier? Känner du till att de är berättigade att använda ett algoritmiskt tillvägagångssätt? Eller tror du att det är sannolikt att leda till rasprofilering och felaktiga domar? Ska vi vara oroliga för utvecklingen av denna typ av programvara?

Det här är en komplicerad fråga, och jag är inte ens helt säker på hur jag känner för det. Det lämnar för mycket i händerna på en algoritm som bevakar människor utan deras kunskaper. Men det kan också hjälpa till att rädda tjänstemänens liv i farliga situationer. Hjälp mig att ha ut det i kommentarerna nedan.

Bildkrediter: Scott Cornell via Shutterstock.com, Ivelin Radkov via Shutterstock.com.

Utforska mer om: Facebook, Övervakning.