Hur massiv övervakning möjliggör mjuk censur: exemplet Facebook

Följande inlägg är skrivet av Kristoffer (krl) och postades först på ett annat forum, men förtjänar en större läsekrets och ett kommentarsfält.

# # #

Vill skriva lite om en grej som jag tror piratbyrån var tidiga att prata om i termer av övervakning och kontroll. Nämligen ett bra sätt att tänka kring dessa ämnen.

När man tänker på t.ex Facebook och vad de gör med den massiva databas av allas privata kommunikationer och kontaktnät, så är det viktiga aldrig vad de har rätt att göra, eller ens vad de gör. Det viktiga är vad de kan göra.

Ett exempel är din så kallade FB-wall, där dyker det upp händelser från vänner och vänners vänner. Hur urvalet sker är höljt i dunkel. Alla som använder facebook utvecklar egna teorier och modeller, och man kan ha en känsla för ungefär hur det funkar, men man kan aldrig veta. Algoritmerna för urval ändras även ständigt.

Här är ett exempel på vad Facebook kan göra med detta.

När Facebook, eller någon med inflytande över Facebook, vill censurera en länk, en nyhetsstory eller vad som helst, så har de en väldigt stor spännvidd på möjlig censur och repression. Här är lite exempel:

1.
En sorts modulering som redan är inbyggd i själva like-systemet är att de artiklar/länkar som får mest likes är de som sprids.

Detta leder (antagligen) till att feelgood/positiva nyheter får större spridning än saker som är viktiga men oroande.

Om man tänker sig en uppsättning tidningsartiklar, som får sorteras utefter hur många likes de får, vs. samma uppsättning sorterat t.ex efter “detta tycker jag är viktigt” så får man helt klart två helt olika urval.

2.
En aktiv men mjuk censur är helt enkelt att vissa nyhetskällor helt enkelt inte sprids till andras väggar, eller sprids mycket mindre.

3.
Möjligheten att analysera dina sociala nätverk, och använda dina vänners vänner emot dig.

En artikel som Facebook vill undertrycka som du delar på din wall, kan helt enkelt visas endast för de i ditt nätverk som Facebook antar kommer att kommentarskriga emot den. Helt plötsligt har du vänners-vänner som samstämmigt fördömer det du postat, och det blir inflammerad skitkastning av alltihop.

4.
Den hårdaste, men också i mångt om mycket inte mest läskiga formen av censur är helt enkelt att de inte låter dig posta länken. Detta har hänt med The Pirate Bay-länkar t.ex.

Det viktiga är inte här vad facebook får göra (de får antagligen lagligt göra allt detta), eller vad de gör (mycket av detta görs dock redan helt klart), utan just vad de kan göra. Och den politiska kritiken måste utgå från att begränsa vad de kan göra, inte att ändra lagar eller privacy-inställningar.

Detta kommer antagligen att göra massövervakningssystem som facebook omöjliga, och det är något vi borde sträva mot.

11 kommentarer ↓

#1 Christopher Kullenberg on 12 June 2014 at 11:18 am

Ett mycket intressant inlägg av krl.

Nyckelbegreppet är, som ovan nämnt, modulationer. Begreppet kan utvidgas till en hel ‘syntetisk filosofi’ (Se kap. 1837: Of the Refrain, i A Thousand Plateaus).

De 1.5 miljarder människor som använder facebook skapar superstora mängder data och metadata (ex. en like). I sin kvantitet skapar de en frekvens (oscillation), som facebook utsätter för en (algori(y)tmisk) modulation (likes, delningar etc. enligt vissa mönster ger ökad ‘framtoning’). En modulerad oscillation kräver dock ett bestämt filter (LPF, HPF, etc.) för att stoppa obekväma frekvenser (övertoner, subtoner), exempelvis en länk till TPB eller för mycket naken hud. Detta kräver ännu mer metadata, ex. en filterlista eller att användare “tjallar” på varandras “olämpliga” fotoalbum.

Syntes: Ett ren och städad plats på internet.

Krl avslutar inlägget ovan med en Nietzscheansk skruv. Vi ska koncentrera oss på vad facebook kan göra, deras “might”.

Facebook kan göra allt detta på grund av deras monstruösa sammansättningslogik: De har 1) byggt en gigantisk syntetiserande maskin 2) de har marknadsfört den och fått med sig en femtedel av jordens befolkning 3) de har fått människor att hela tiden fylla på med data/metadata som skapar en ‘oscillation’. Genom alla dessa tre processer, finns det motståndstekniker att utveckla.

#2 Puck on 12 June 2014 at 11:24 am

En jämförelse kan göras med den kinesiska microblogstjänsten Sina Weibo där inlägg på 140 tecken kan postas och spridas på samma sätt som på Twitter. Censuren på sidan är aggressiv men sofistikerad, vad som censureras vid en given tidpunkt kan senare tillåtas och censurens verktyg utvecklas konstant. Alla exemplen på censur i inlägget ovan utövas på Weibo, med vissa variationer. 1/ Feelgood-berättelser har större chans att få en betydande spridning, men inte så mycket på grund av den “hårda” censuren utan på grund av vad andra användare väljer att sprida vidare. 2/ Vissa inlägg visas enbart för den som postat inlägget och ingen annan. Misstankar om att inlägget blockerats väcks därför först när användaren märker att ingen kommenterar eller delar inlägget. 3/ Det s.k. femtioörings-partiet utgörs av individer som anställs för att föra fram ett visst budskap eller att styra diskussioner i en viss riktning. Enligt myten får 50 öre per skrivet inlägg. 4/ Inlägg med vissa politiskt känsliga nyckelord kan raderas eller blockeras med en hänvisning till att inlägget bryter mot lagen. Känsliga sökord blockeras även de med hänvisning till lagen. Vid uppkomst av en potentiellt känslig nyhet kan viss spridning tillåtas medan inlägg med länkar till t.ex. utländska nyhetsmedier blockeras eller raderas. Dessutom kan ens användarkonto blockeras under en viss period (eller helt och hållet tas bort) på grund av skrivandet eller spridandet av ett inlägg. I extremfall kan polisen kopplas in, generellt med hänvisning till “olaga ryktesspridning”. Censuren utövas med hänsyn till den potentiella inverkan av ditt inlägg, en användare med en liten, isolerad följarskara kan skriva i princip vad som helst medan någon med många följare och vars inlägg ofta får en stor spridning censureras hårdare. Den kinesiska internetcensuren är generellt okänslig för kritik och radikala budskap i sig, den riktar istället in sig på opinionsbildande inlägg som kan tänkas möjliggöra eller förstärka kollektiv politisk handling.
För mig är det absolut obehagligaste självcensuren. T.ex. när Weibo-användare “överkompenserar” genom att anpassa sina inlägg efter vad de tror kan censureras, eller när inlägg på Facebook likriktas på grund av vad användaren bedömer vara acceptabelt och inte inom sin vänskapskrets.

#3 Christopher Kullenberg on 12 June 2014 at 11:33 am

2/ Vissa inlägg visas enbart för den som postat inlägget och ingen annan. Misstankar om att inlägget blockerats väcks därför först när användaren märker att ingen kommenterar eller delar inlägget.

Detta är, i sin fullkomliga enkelhet och perfektion, den allra mest sofistikerade formen av censur. Framförallt var det Kafka som påbörjade arbetet med att beskriva detta fenomen, men jag tror att detta är ännu mera relevant idag. Att inte bli tillsagd eller förbjuden, att bara vara utelämnad åt en osäkerhet (om vad som hände och vad som ska hända) gör att censuren fungerar ‘subjektiverande’, det är då som Weibo går från att vara en “tjänst” till att vara en av de främsta bultarna i ett kontrollsamhälle.

#4 Malte on 12 June 2014 at 12:17 pm

Liten sak, men ändå viktig:

1. Facebook-sidan ‘Cop Block’ som samlar historier om polistrakasserier ungefär efter samma metod som mer kända CopWatch, är ett bra exempel på den mjuka censur via like-prämissen. Det mesta de lägger upp är just ikke-like-värdigt. Som sätt att komma runt den problematik är de konsekventa, i många av deras inlägg, att skriva i en parantes: “Remember, pushing the ‘like’ button doesn’t mean you like a particular story about police abuse. Like = Thank You. It’s more of a Thank You for bringing this to our attention”. Det verkar fungera ganska bra. I alla fall får inlägg som “16 year old gymnast shot dead by police for holding a stick, cops seize video material” över 1300 likes.

#5 COPYRIOT | Göteborgsföretag tjänar storkovan på att inskränka yttrandefriheten i Turkiet on 12 June 2014 at 5:24 pm

[…] ← Hur massiv övervakning möjliggör mjuk censur: exemplet Facebook […]

#6 Kristofer on 13 June 2014 at 2:29 pm

Facebook är fascinerade som en brinnande låga. Det är svårt att vända bort blicken. En utmaning rent av. Kanske måste något annat sättas i brand för att bryta hypnosen.

Det är inte heller utan betydelsefulla fördelar också. Jag bedriver själv väl fungerande föreningsverksamhet tack vare facebook och g+. Alternativ finns men är tekniskt mer svårtillgängliga.

#7 Daniel on 17 June 2014 at 7:19 pm

Detta var bra. Har funderat på detta ett bra tag. Just att tänka på vad de KAN göra kanske kan flytta min koncentration. Vågar jag lägga upp en länk till denna sida på FB, Rasmus? Det måste spridas. Jag är helt ärligt skiträdd för vad Facebook kan utvecklas till i framtiden. Man skulle kunna tänka sig ett statligt övertagende. Här är många spindlar som kryper åt olika håll. Och vi får inte glömma att vissa länder (typ Ryssland) har sina egna “Facebooks”. Men i Ryssland så är väl denna tjänst statlig? Alla matar med glädje in information i maskinen. Spindlar överallt.

#8 Mattias on 30 June 2014 at 11:57 pm

Kan inte tänka mig att du inte redan vet om det här, men kom omedelbart att tänka på den här bloggposten när jag läste den här artikeln. Apropå att facebook kan censurera utifrån att välja vilka inlägg som visas.

Facebook bedriver alltså intern forskning av hur negativa känslor sprids genom att välja ut vilken typ av inlägg som ska visas.

http://cir.ca/news/facebook-emotional-contagion-experiment

Möjligt att det inte behöver betyda så mycket och inte vara så märkvärdigt. Men man kan i alla fall tänka sig en del användningsområden som är lite tvivelaktiga och att det kan ligga till grund för vidare forskning som inte är så mysig.

#9 Mattias on 1 July 2014 at 12:04 am

Klart är i alla fall att Facebook (och andra sociala nätverk) inte bara är en neutral plattform som levererar vad vi vill säga till varandra, utan manipulerar nyhetsflödet för att se hur vi reagerar. Märkligt att folk går med på att ha det här som primär kanal för att kommunicera.

#10 COPYRIOT | Vi kan inte längre tala om nätfrihet on 13 August 2014 at 6:24 am

[…] Hur massiv övervakning möjliggör mjuk censur: exemplet Facebook […]

#11 Onsdag 19 november 2014 « VÄRLDENS FOLKRIKASTE LAND on 19 November 2014 at 11:30 am

[…] internet inte kan förstås som antingen fritt eller censurerat (idag gäller det både i Kina och för Facebook att ledsaga informationen). Det råder inga “motsättningar” mellan den tillfälligt […]

Kommentera