Antag att du är en utredare. Eller kanske en tvångsmässig stalker. Eller kanske helt enkelt en annonsör. Du vill ta reda på några personliga egenskaper hos en individ av… skäl. Så du loggar in på Facebook, söker upp dem och skanna deras profil.
Men otur. De har placerat varje viktig information bakom en mur av integritet. I en enkel och tråkig värld borde historien sluta här.
Men vår är en värld av intriger och förundran och du är inte någon som ger upp lätt. Så du gräver lite mer i användarens profil och lyckas faktiskt bekanta dig med några personliga intressen som de öppet har avslöjat på Facebook.
Om du hade deduktiva förmågan hos Sherlock Holmes, kanske det hade räckt för att ta reda på allt du behöver veta om personen i fråga baserat på enbart deras intressen.
Även om ingen av oss är Sherlocks här, är artificiell intelligens en rimlig uppskattning av den store detektivens talanger.
Detta är vad forskare faktiskt lyckades göra med hjälp av en NLP (Natural Language Processing)-algoritm: de förutspådde dolda personliga attribut för Facebook-användare med enbart deras offentligt avslöjade intressen.
Särskilt kunde forskarna förutsäga följande personliga attribut för användare baserat enbart på deras musikintresse:
- Ålder
- Plats
- Kön
- Relationsstatus
Även om uppsatsen där forskarna publicerade sina resultat är lite gammal nu (publicerad 2012), fungerar den som en utmärkt demonstration av hur privat information kan läcka genom sociala medier även när du har gjort i stort sett all data om dig själv osynlig för utomstående.
Du är vad du gillar
Sekretessinställningarna på sociala mediewebbplatser ger idag användare mycket större kontroll över sin informationssynlighet (de otaliga integritetskränkningarna av sociala medienätverk har trots allt haft en viss användning).
Men räcker det verkligen för att förhindra att din dolda information avslöjas? Tyvärr visar forskning från forskare från INRIA Frankrike motsatsen.
Forskarna visade att genom att använda en användares musikaliska preferenser och intressen som avslöjas på Facebook är det möjligt att förutsäga deras ålder, kön, relationsstatus och plats.
Eftersom de flesta användares intressen, gillar och ogillar är allmänt tillgängliga behöver en potentiell stalker inte slita för hårt för att se vad de flesta användare gillar på Facebook. Därifrån är det en fråga om statistisk korrelation och sannolikhet att ta reda på dina mer personliga attribut som relationsstatus och plats.
Så, exakt hur räknar ett AI-program ut personliga detaljer om dig på den förenklade grunden av vad du gillar?
Från musiksmak till personliga detaljer
Anta att ett dolt personligt attribut i din Facebook-profil är din ålder (vilket är vad vi vill dra slutsatsen) och att du har gillat Metallicas officiella sida (som du har bestämt dig för att offentliggöra). Antag vidare för enkelhetens skull att det finns 5 andra offentliga Facebook-profiler som är intresserade av Metallica som också råkar ha öppet avslöjat sin ålder för alla att se. Om 4 av 5 av dessa är i åldersgruppen 18-24, så är ditt dolda attribut (i det här fallet din ålder) sannolikt också 18-24 med majoritetsröstning.
(Detta exempel används endast i illustrativt syfte och överensstämmer inte nödvändigtvis med verkligheten)
Även om tillvägagångssättet verkar för enkelt för att vara effektivt, fick forskarna en slutledningsnoggrannhet på 72,5 % för vissa användarattribut. Detta uppnåddes genom att använda den enda prediktiva faktorn för musikintresse från en mycket större pool av offentligt synliga personliga intressen. Mer sofistikerade modeller som kan ta hänsyn till flera användarintressen kommer inte bara att kunna sluta sig till ett större utbud av personliga attribut, utan de kommer att göra det med ännu bättre noggrannhet.
Och det är en anledning till oro, eftersom integritetskänsliga attribut för användare på sociala medier, även när de är dolda, inte är så säkra som konventionell visdom skulle få oss att tro.
Samtyckesdilemmat
Den mest kraftfulla egenskapen hos denna metod för att förutsäga personliga attribut är att den enbart förlitar sig på Facebook-användares självutlämnade information om musikintressen,
Det finns absolut inget tvivelaktigt inblandat i tillvägagångssättet, såsom användning av skadlig programvara eller påtvingade informationsintrång. Tekniken gör helt enkelt det bästa av det som finns tillgängligt online, och information om våra intressen råkar bara vara något som är rikligt tillgängligt i de sociala mediernas tidsålder.
Detta gör den nämnda tekniken enastående utmanande att hantera med all integritetsskyddslagstiftning, särskilt eftersom användarens samtycke är implicit i information som är allmänt tillgänglig. Lagen kan skydda vår integritet om det finns bevis på intrång eller missbruk av användarinformation, till exempel när din privata information nås av tredje part.
I det aktuella fallet bygger tekniken enbart på sofistikerade gissningar som helt och hållet möjliggörs av allmänt tillgänglig användarinformation, vilket medför det implicita samtycke från allmänhetens tillgänglighet.
Mot detta verkar något juridiskt försvar för mig otänkbart. Du skulle be om att förbjuda bruket av att gissa sig själv för att stämma någon för att exakt förutsäga din relationsstatus utifrån dina musikaliska preferenser, som du glatt avslöjade med din egen vilja.
Ändå kan forskarens modell användas för ändamål som är mer skändliga och juridiskt försvarbara än bara gissningslekar.
Förbereder sig för en sekretessnödsituation
Några av de möjliga missbruken av forskarnas teknik involverar doxning. Med möjligheten att pussla ihop personliga uppgifter om en användare baserat på deras intresse, kommer doxning att bli lättare för angripare, vilket gör att ett större antal användare blir sårbara för potentiella läckage av information och exponering online.
Spammare kan också ha en fältdag med möjligheten att matcha en användares Facebook-profil med sin e-postadress och spam sin inkorg med riktade annonser skulpterade för att vara i linje med en användares förutsedda intressen.
För annonsörer kan dessa förutsägande tekniker vara precis vad de behöver för att effektivt profilera användare för annonsinriktning, medan intressebaserade förutsägelser av enskilda attribut kan bli en avgörande komponent i kommande teknik, med webbläsarcookies på gränsen till att dö ut.
Hur man än ser på det är det användaren som får den korta änden av pinnen då vår integritet reduceras till en löst hängande tråd som kommer att blåsa bort vilken riktning som helst som vinden tar den.
Och därför, precis när du trodde att du inte kunde vara mer pressad att upprätthålla en viss sken av integritet, utsätter våra avancerade tekniska kapaciteter ytterligare ett slag för att säkerställa att vi förblir nakna online.
Vi kommer allt närmare en situation där den enda vägen framåt kan vara att acceptera en värld utan digital integritet; en rättighet vi bytte för att mata vår egen växande teknofili. Sekretess kan mycket väl vara ett nödvändigt offer för ytterligare tekniska framsteg, men hur förberedda är vi på att ta ett steg in i en värld där skuggor bara finns för att skydda angriparen och de invasiva strålkastarna förblir klistrade vid de angripna?