Hur kan sociala nätverk bli av misinformation och trakasserier?

Sedan det amerikanska presidentsvalet i 2016 har de vanliga medierna tittat noga på rollen som sociala medier i politiken. Falska nyhetsberättelser var häftiga på Facebook kring valtiden. Medlemmar av minoritetsgrupper utsattes för allvarliga trakasserier på Twitter under hela året, och problemet blir fortfarande värre. Och medan vi i allmänhet anser att internet ska vara en bastion av yttrandefri tal gratis mot trakasserier: varför gjorde Reddit Ban Five Subreddits? Gratis tal mot trakasserier: Varför gjorde Reddit Ban Five Subreddits? Reddit tillkännagav officiellt beslutet att förbjuda fem subreddits på grund av pågående trakasserier. Läs mer, de personer som körde de sociala nätverkstjänsterna bestämde att det var dags att vidta åtgärder.

I valet av valet har båda plattformarna tagit några kontroversiella steg i ett försök att bättre övervaka och kurera innehåll. Vad har de gjort? Kommer de att hålla sig till sina nya standarder? Och kommer det att göra Internet till en bättre plats?

Jag bestämde mig för att fråga några människor som har gjort mycket om att tänka på dessa typer av problem för att se vad de tycker.

Vad gör Facebook och Twitter?

Under valperioden cyklade användarna många falska nyhetsberättelser på Facebook. Efterval har kommentatorer diskuterat huruvida dessa berättelser kan ha påverkat resultaten. Självklart är det folk som kränker på båda sidor. Men resultatet av denna kamp är att Facebook har åtagit sig att identifiera falska nyhetsposter och vidta åtgärder mot dem.

Vi har ännu inte hört detaljerna om vad Facebook planerar att göra. Det är sannolikt att en ny algoritm kommer att ta hänsyn till en rad faktorer, inklusive användarrapporter och information om faktacheckningsplatser. De 5 bästa oförutsedda faktakontrollplatserna för att hitta sanningen. De 5 bästa oförutsedda faktacheckningsplatserna för att hitta sanningen är åldern för missinformation och falska nyheter. Här är de bästa faktokontrollwebbsidorna så att du kan hitta sanningen. Läs mer . Vi vet ännu inte hur det kommer att hantera grader av sanning, fördom, sensationalism och andra svåra frågor. Några konservativa nyhetssajter är nervösa att Facebook kommer att censurera sina åsikter, åtminstone delvis eftersom Facebook har en vänster lutande historia. Det är ett komplicerat åtagande, och det är extremt svårt att minimera bias.

Twitter har å andra sidan nyligen förbjudit konton som det står i strid med användarvillkoren. Plattformens användaravtal förbjuder trakasserier och hatfullt beteende, men Twitter har inget bra rykte. Tweeting While Female: trakasserier och hur Twitter kan fixa det Tweeting While Female: trakasserier och hur Twitter kan fixa det Twitter-missbruksproblemet är riktigt. Här är några exempel, tillsammans med expertutlåtanden om hur Twitter kan lösa detta. Läs mer när det gäller att faktiskt förhindra trakasserier. De har nyligen gått på en förbannad spree, bli av med konton som hör till framstående medlemmar av “alt-höger” rörelse, inklusive Richard Spencer och de organisationer han kör, Pax Dickinson, Ricky Vaughn och John Rivers.

Efter att ha meddelat att de skulle tillhandahålla bättre motmissbruksverktyg och göra klagomål mer allvarligt, tycks Twitter vara att intensifiera sitt spel. Men plattformen har fokuserat sin ire på konton relaterade till en specifik politisk rörelse. På grund av detta tror många att det ser ut som ett politiskt drag, och inte ett motmissbruk. Det är svårt att urvala motivationer här.

Är detta nytt?

När jag frågade Aaron Smith, forskningsdirektör vid Pew Research Center, om denna utveckling, betonade han att dessa problem har en lång historia: “[T] han måste polisens "negativa" innehåll av olika slag (oavsett om det är falska nyheter, missbruk, trolling, spam eller vad har du) är något som online-plattformar och deras ägare / moderatorer har kämpat med sedan internetets gryning.”

Medan media har givit denna fråga mycket uppmärksamhet i det senaste, berättade han för mig, det har funnits i olika former för alltid. Han pekade mig också på en bra artikel från 2011 som heter “Om din webbplats är full av assholes, det är din felaktighet” som sammanfattar en hel del frågor som förekommer i diskussionen.

Bara för att detta har pågått för alltid betyder det inte att vi inte har blivit bättre att hantera det. Twitter, till exempel, var väldigt hands-off under en längre tid. Men det förbjöd nyligen över 100 000 konton relaterade till ISIS. Och antalet personer som tjänsten har förbjudit för trakasserier Online trakasserier är din fel; Här är hur man fixar det Online trakasserier är din fel; Så här fixar du det Vad händer med trakasserier som inte är bra på att interagera med pressen, eller gör eller säger impopulära saker? Läs mer verkar ha stigit före den här senaste tiden. Vissa människor hävdar dock att plattformen har använt sina befogenheter för att oproportionerligt bli av med lutande tweeters.

Facebook: s tidigare upprepningar har upphovsrättsbrott, falsknamnskonton, marihuana dispensationssidor och “alltför främjande” inlägg. Hatar-talgrupper har tidigare haft konsekvenser, men från brottsbekämpning, inte från Facebook. Och Zuckerbergs plattform ser ut som innehåll för att upprätthålla en mer öppen atmosfär.

En av Twitter: s mest anmärkningsvärda förbud var till exempel helt rätt kommentator Milo Yiannopoulos. Twitter bestämde sig för att hans åsikter om feminism, islam och andra frågor höjdes “den riktade missbruket eller trakasserier hos andra.” Han har fortfarande en sida på Facebook, liksom Richard Spencer's National Policy Institute. Trots att många människor tittar på dessa två personligheter som hatliga, är Facebook glada att fortsätta att vara värd för dem.

Varför nu?

Det verkar troligt att båda plattformarna har valt att vidta dessa åtgärder som ett svar på det senaste valet. Varför de inte kände sig skyldiga att göra det innan, är dock mindre tydliga. För att vara rättvis har Facebook tagit några åtgärder tidigare. Till exempel, efter fördömande uppenbarelser som redaktörer artificiellt påverkat politiska nyheter Facebook Avvisar Censureringstendenser, Sök via Panama-dokumentet ... [Tech News Digest] Facebook Avnekar Censureringstendenser, Sökning via Panama-dokumentet ... [Tech News Digest] Facebook förnekar oegentligheter över trendiga ämnen , Panama-dokumenten är nu online, hjälper Apple Music Spotify att lyckas, hjälpa Donald Trump att bygga sin vägg och varje Top 10-listavideo som någonsin spelats in. Läs mer för att undertrycka högra synvinklar framkom 2016, de flyttade till en algoritmisk trending sektion. Men det gjorde att falska nyheter kunde sprida sig ytterligare.

Buzzfeeds Craig Silverman fann att engagemanget med falska nyhetsberättelser faktiskt överträffade det av verkliga historier nära USA: s presidentval. Kan dessa historier ha påverkat valresultatet? Det verkar verkligen möjligt. I kölvattnet av ett val som har mycket av de vanliga medierna som överväger sitt beteende och framtid verkar Facebook noga tänka på sitt ansvar. (Och om du är kynisk, förmodligen dess politiska motivationer.)

Twitter har alltid haft en tumultig relation med sin egen mästare av yttrandefrihet. Men jag tror att det äntligen blev trött på att folk säger att det är en giftig miljö. Plattformen ser en enorm stor mängd trakasserier, och folk har pratat om det under lång tid.

Många användare har lämnat Twitter Vad händer när du avslutar sociala medier? 6 saker jag lärde mig vad som händer när du avslutar sociala medier? 6 saker jag lärde mig Om du planerar att sluta med sociala medier kanske du har frågor om vad som kommer nästa. Här är vad du kan förvänta dig. Läs mer som ett resultat av trakasserierna de fått. Och rapporter om trakasserier har bara ökat sedan valet. Det, i kombination med rapporterade intäkter problem, har sannolikt Twitter bekymrad. Att vidta åtgärder för att städa upp nätverket kan bidra till att öka användarbasen. Och därmed intäkter.

Naturligtvis finns det alltid möjlighet att de bara bestämde sig en dag att de vill vara uppstående medborgare på internet.

Inte bara falska nyheter

Så snart jag hört talas om dessa nedbrytningar började jag undra. Kommer de att arbeta? Kommer dessa nya policyer att göra Internet till ett bättre ställe? Kan de hjälpa människor att få bättre information online och minska trakasserier? Jag trodde jag skulle fråga några människor som har lagt ämnet mycket tankar.

Först fick jag kontakt med Rick Webb, författaren till den fantastiska artikeln “Jag är ledsen Mr Zuckerberg, men du är fel“. I detta stycke är Webb oense med Zuckerbergs påstående att falsk nyhetsspridning på Facebook inte påverkade resultatet av valet. Jag frågade Webb om han trodde att nedslagningen på falska nyheter skulle få effekt, och han gjorde:

De två plattformarna är särskilt väl lämpade för utbredning av falska nyheter på ett sätt som andra plattformar inte är, och det skulle bli mycket svårare för falska nyheter att sprida om de entusiastiskt knäckt ner. När det gäller den större effekt som hade på vårt samhälle, skulle det vara svårt att känna, men med tiden tror jag det skulle ha lite effekt, ja. - Rick Webb

Han var dock snabbt påpekad att det inte bara är falska nyheter som orsakar problem. Det är också att Facebook “förvärrar trenderna i nyheter för att skriva hyped artiklar för att locka trafik.” Utgivare belönas för att få klick och delar - två saker som clickbait är bra för att generera 10 Sure Tecken Du har fallit för Click Bait 10 Sure Tecken Du har fallit för Click Bait With Onions nya satiriska publikation, Clickhole, de sociala banorna har äntligen en bra titt i spegeln. Om du var medvetslös att klicka på agn, är det dags att du vaknade. Läs mer . “Folk delade falska nyheter innan Facebook och de kommer fortsätta att efter,” han säger, “men Facebook sprider det långt bortom sina överkvarter: till användare som inte redan är i en konspirationstänkande.”

Facebook legitimerar också falska, skevda och överhypade nyheter med sitt varumärke, säger Webb. Att associera Facebook-märket med en nyhetshistoria ger den en ökad trovärdighet. Detta gäller sensationella, hyperpartisiska och falska nyheter lika mycket som det gör för kvalitetsjournalistik. Facebook skulle göra det bra för att hålla dessa problem i åtanke i sina ansträngningar att stämpla bort felinformation.

En smal fokus

Jag kom också i kontakt med Sophie Bjork-James, en postdoktor i Antropologiska institutionen vid Vanderbilt University. Hon har studerat vita nationalistiska rörelser, rasrelationer och konservativa evangeliska politiska liv. Hon tog upp en intressant punkt när jag frågade henne om nya policyändringar på Facebook och Twitter: att för att den ska fungera måste den ha rätt mål i åtanke.

Trots det faktum att den rasistiska rätten representerar en större närvaro på sociala medier än ISIS har man fått mycket mer uppmärksamhet åt att begränsa social mediaanvändning av ISIS. Detta är ett problem med tanke på att den rasistiska rätten är kopplad till mer dödliga attacker i USA än islamisk terrorism. - Sophie Bjork-James

Om sociala plattformar kommer att göra en positiv skillnad genom att polisera innehållet, kommer de att behöva göra det på ett principiellt sätt. Adressera skurken du jour kanske inte tillräckligt. Men då finns det frågor om tolkning. Vad är hatspråk? Vad bör skyddas av yttrandefrihet? Det här är mycket svåra frågor, och någons svar kan bero på deras politiska lutningar.

Ändå tror Bjork-James att dessa ansträngningar kan få positiva effekter. Hon gav det hypotetiska exemplet på Twitter förbud mot antisemitiska konton, vilket resulterade i mindre trakasserier riktad mot judiska journalister, en trend som blir alltmer utbredd. Även om de människor som blir förbjudna på andra sociala nätverk, så många Twitter-kommentatorer har flyttat till Gab, blir Twitter ett bättre socialt utrymme för alla.

De människor som jag pratade med alla verkade överens om att det var bra att ta itu med hattspråk, och det skulle troligtvis ha en positiv effekt. Men de trodde också att dessa politik inte räcker för att lösa de problem som ligger till grund för hattspråk. Racism, sexism, främlingsfientlighet och andra diskriminerande tankar är djupt ställda och kräver en stor kulturell kraft för att ta itu med.

Men om dessa tre experter är hoppfulla att Facebook och Twitter förändringar kan göra skillnad, det är orsaken att vara optimistisk.

Ser fram emot

Facebook och Twitter har inte börjat polisera sitt innehåll på allvar än. Facebook arbetar med algoritmer för att identifiera falska nyhetsberättelser. Twitter har börjat förbjuda vissa konton och har använt bättre verktyg för att rapportera missbruk. Vi ska se om deras planer kommer att vara effektiva. Det kommer sannolikt att komma ner till just hur ivrig de är i att uppfylla dessa mål.

Jag håller med Webb när han säger att han är “skeptisk att deras ansträngningar kommer att vara [super] entusiastiska.” Med det rykte som båda sidorna har att vara ganska hands-off, är det svårt att föreställa sig att de plötsligt byter växlar och gör allt de kan för att få missbruk och vilseledande information utanför sina webbplatser. Å andra sidan är mycket av Silicon Valley upprörd över det senaste presidentvalet, och politiskt missnöje är bra för galvaniserande förändringar.

Men uppgifterna om någon form av kampanj så här kommer alltid att bli svåra. Vem bestämmer vilka konton som ska förbjudas? Hur styr tjänsten för bias? Vem söker efter missbruk av systemet? Vad är felaktig information? (Det här är en särskilt svår fråga.) Hur många personer är Facebook och Twitter villiga att anställa och betala till polisinnehåll? Att köra ett effektivt anti-misinformation eller anti-trakasseringsprogram är tidskrävande och dyrt.

Personligen är jag försiktig optimistisk. Jag tror att ansträngningarna för att städa upp internet är värda det. Det är aldrig en lätt eller särskilt transparent process, men det är ett försök som är värt att göra.

Vad tror du? Skulle sociala nätverk göra ett försök att polisera innehållet som delas på sina plattformar? Eller gör talespråkstrumma alla? Jag står i konflikt med mig själv, och jag skulle gärna höra från dig. Låt oss ha det ut i kommentarerna.

Bildkrediter: Ollyy / Shutterstock

Utforska mer om: Facebook, Twitter.