Kultur

Rättvisa i den artificiella intelligensens tidevarv

“The big nine” är utöver titeln till Amy Webbs nyutkomna bok, även namnet på de nio företag som dominerar produktionen av AI, som i detta nu aktivt håller på att förändra framtiden. Skribenten Karl Gauffin har läst en bok som identifierar sprickorna i den nya tekniken, och konsekvenserna av den.

Illustration: Hanna Stenman

För fem år sedan uppmärksammades New Yorks pridefirande på Googles högkvarter på Manhattan genom att o:na i den enorma loggan ovanför huvudentrén hade regnbågsfärgats. Googles högkvarter ligger mitt i stadsdelen Chelsea, ett västerländskt epicentrum för det som den politiska teoretikern Nancy Fraser kallar för ”progressiv nyliberalism”. Området är både känt som en stadsdel med en hög andel HBTQ-människor och som en plats där gentrifieringen har nått något slags slutstation. Ingen annan än höginkomsttagare kan numera bosätta sig i området, vilket förstås sätter sin prägel på gatulivet. På uteserveringarna sitter vackra, vita, homosexuella män med blekta tandrader, dyra drinkar och framavlade husdjur. Det är dessa män som den regnbågsfärgade Google-loggan har utsikt över från sin plats på högkvarterets fasad. Den mångfald som Google säger sig värna om genom sina regnbågskampanjer känns mycket långt borta.

Diskussionen kring pinkwashing och näringslivets vara eller inte vara i kampen för HBTQ-personers lika rättigheter är något som återkommer varje sommar. Nu är det snart dags igen, och även om Google knappast var det första företaget som började använda Pride i byggandet av sitt varumärke, är bilden av hur de två regnbågsfärgade o:na tittar ner på gatulivet på åttonde avenyn, som en övervakande storebror, något som återkommer till mig när jag läser boken ”The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity” av den amerikanska futurologen Amy Webb. I denna bok spelar Google en av huvudrollerna. Tillsammans med fem amerikanska och tre kinesiska företag (Microsoft, Amazon, Facebook, IBM, och Amazon samt de kinesiska jättarna Baidu, Alibaba och Tencent) utgör Google ”The Big Nine”, de nio giganterna som står för all väsentlig kommersiell utveckling av artificiell intelligens. Boken kom ut nu i mars 2019 och var välbehövlig för mig som trots ett medelstort intresse aldrig riktigt fattat vad artificiell intelligens egentligen handlar om och vilka utmaningar vi nu står inför.

Under sitt examensarbete på MIT Media Lab upptäckte den ghanansk-amerikanska datavetaren Joy Buolamwini att mjukvaran för ansiktsigenkänning inte fungerade för henne, såvida hon inte bar en vit mask.

Ett centralt problem är exempelvis frågan kring representation och det bistra faktum att de största företagen låtit det stanna vid grälla reklamkampanjer i sitt inkluderingsarbete. Om vi tycker att våra folkvalda parlament världen över är snedfördelade är de ändå ett under av mångfald om vi jämför med de ledande företagen i Silicon Valley. En stor del av den artificiella intelligens vi använder idag har ett ursprung i forskargrupper från dessa företag och vi kan redan se vad det får för konsekvenser när den absoluta lejonparten av amerikansk, kommersiell AI-kod stammar från en mycket homogen grupp av vita, välbeställda män.

Under sitt examensarbete på MIT Media Lab upptäckte den ghanansk-amerikanska datavetaren Joy Buolamwini att mjukvaran för ansiktsigenkänning inte fungerade för henne, såvida hon inte bar en vit mask. Buolamwini driver nu ett upplysningsarbete kring algoritmers inbyggda fördomar och gör en rad viktiga distinktioner: det är av betydelse vem som kodar artificiell intelligens, det är viktigt hur den kodas och till vilket syfte. Det absolut centrala i den artificiella intelligensens möjlighet att duga något till är tillgången till data. Medan den mjukvara som det renommerade och svindyra privata universitetet MIT använde för ansiktsigenkänning inte hade blivit programmerad med bilder av svarta kvinnor, och således inte kunde känna igen Joy Buolamwini om hon inte höll en vit mask framför ansiktet, finns det exempel på ansiktsigenkänningsprogram och annan artificiell intelligens som kodats i andra syften.

Amy Webb beskriver hur ett av polisens AI-program klassificerat två tonårstjejer i Florida som troliga återfallsförbrytare efter att de tagit en sparkcykel och en barncykel från en trädgård, lekt med dessa på gatan och sedan blivit gripna efter att ägaren kommit på dem och ringt polisen. Sommaren dessförinnan hade samma program bedömt att återfallsrisken för en man, som upprepade gånger gripits för stöld och väpnat rån, var låg. Det skulle visa sig att AI-systemet gjort helt fel; tjejerna blev aldrig mer brottsmisstänkta medan mannen numera sitter i fängelse, dömd för grov stöld. Tjejerna var svarta medan mannen var vit och när sambandet undersöktes närmare visade det sig att det var dubbelt så sannolikt att systemet skulle felklassificera svarta personer som gripits av polisen som troliga återfallsförbrytare. Liknande situationer uppstår när AI-program ska gallra i jobbansökningar eller identifiera kvalificerade kandidater för banklån. Dagligen spär våra AI-program på den diskriminering som redan utsatta grupper upplever, istället för att vara behjälplig för oss alla. Bokens starkaste del är dock inte redogörelsen för den artificiella intelligensens historia och nutid, utan det är när Amy Webb får spänna sina muskler som framtidsforskare som berättelsen verkligen tar fart. I tre scenarier tecknar hon upp hur utvecklingen av AI kommer kunna prägla våra liv de närmaste 70 åren. Vi får ta del av ett optimistiskt, ett pragmatiskt och ett katastrofalt scenario och det är framförallt de två senare som känns gripande.

Dagligen spär våra AI-program på den diskriminering som redan utsatta grupper upplever, istället för att vara behjälplig för oss alla.

Amy Webb målar upp en rad fullkomligt mardrömslika bilder när hon beskriver hur framtiden (hon gör tre nedslag: 2029, 2049 och 2069) kommer att kunna se ut. Webb beskriver ett stenhårt klassamhälle där ekonomiska förutsättningar helt avgör medborgarnas möjligheter, friheter och skyldigheter. Ständigt övervakade av teknikjättarnas artificiella intelligens och dess klumpigt och oåterkalleligt kodade algoritmer kommer vi snabbt att utveckla en egen version av det omskrivna sociala poängsystem som redan nu håller på att implementeras i Kina. På helt nya sätt kommer individens beteende, interaktioner, livsstil och ekonomiska välstånd att sätta ramen för det levda livet. Vi irriterar oss idag på överförmynderi och begränsningar angående vår personliga livsföring och hälsa? Vänta bara tills det intelligenta kylskåpet slår larm vid ett registrerat kaloriöverflöd, när våra medicinska journaler skvallrar för läkaren att vi tjuvrökt eller när AI-programmen i våra pulsarmband bestraffar oss för att vi inte har tränat på ett sätt som harmonierar med algoritmen om ett hälsosamt liv, vilken med viss sannolikhet har sitt ursprung i den föreställning en yogaskadad programmerare från 2010-talets San Francisco hade om ett optimalt leverne.

Klassamhället och den konkurrensdrivna marknadsekonomin kommer att skapa vattentäta skott mellan de olika AI-företagen. Amy Webb föreställer sig att Apple kommer att rikta in sig på en ekonomiskt priviligierad, något äldre målgrupp som kommer att kunna betala dyra pengar för stilrena, reklamfria produkter, klara att använda direkt vid leverans. Google kommer däremot att genom olika prisnivåer kunna rikta in sig mot bredare grupper där de billigare alternativen innebär mindre flexibilitet, färre alternativ och mer reklam inbyggd i produkterna. Längst ner i hierarkin befinner sig Amazon-hushållen vars teknik används för att förse hemmet med mat, dagligvaruartiklar och andra produkter från just och enbart Amazon och där den artificiella intelligensen går långt i sin övervakning och aggressiva marknadsföring gentemot hushållets medlemmar. De tre företagen har skapat ett kastsamhälle där det blir svårt att inleda relationer och flytta samman med personer som inte tillhör den egna gruppen.

Vänta bara tills det intelligenta kylskåpet slår larm vid ett registrerat kaloriöverflöd, när våra medicinska journaler skvallrar för läkaren att vi tjuvrökt eller när AI-programmen i våra pulsarmband bestraffar oss för att vi inte har tränat på ett sätt som harmonierar med algoritmen om ett hälsosamt liv

På grund av felaktiga och snedvridna algoritmer, som nu är svåra att komma till rätta med, frodas en helt osminkad rasism bland artificiella intelligenta agenter. Det är en orolig och våldsam framtid som tecknas upp och övervakningen av individer i det offentliga rummet kommer i säkerhetens och trygghetens namn att gå över alla tidigare gränser. På offentliga platser kommer icke-vita människor att jagas och trakasseras av skällande säkerhetsrobotar som på grund av sin rasistiskt präglade kod kommer att uppfatta oskyldiga människor som misstänkta för lagöverträdelser.

Som om allt detta inte vore nog kopplar Amy Webb även ihop denna tillvaro med det helvete som kommer att utgöras av klimatkrisens konsekvenser. För min del hade hon gärna kunnat utveckla resonemanget och göra fler kopplingar till denna mänsklighetens ödesfråga, men sambanden begränsar sig till ett antal hårresande detaljer ur det utsatta liv i en värld präglad av värmeslag och kommersiell terror från nödvändiga smarta produkter. Vad sägs om de smarta fönster som på vissa platser kommer att behöva installeras i varje hem för att utestänga den värsta värmestrålningen från solen och som samtidigt kommer att spela mördande reklam utan möjlighet att stänga av?

På offentliga platser kommer icke-vita människor att jagas och trakasseras av skällande säkerhetsrobotar som på grund av sin rasistiskt präglade kod kommer att uppfatta oskyldiga människor som misstänkta för lagöverträdelser.

Allt handlar inte om klass, rasism och rättvisa i Amy Webbs bok om den artificiella intelligensens framtid, men jag drabbas ändå hårdast av beskrivningarna av hur den artificiella intelligensen kommer att kunna fördjupa de orättvisor som redan idag håller på att slita sönder våra samhällen. Amy Webb beskriver träffande hur mångfaldsbegreppet sedan länge ingår i de amerikanska AI-jättarnas mantran och marknadsföringsstrategier, men att substansen därbakom skiner med sin frånvaro. Antingen är det just bara tomma ord, eller så riktar de inkluderande strategierna in sig mot väldigt små, väldigt privilegierade grupper inom exempelvis sexuella minoriteter. Google-loggan ser människorna som rör sig på de dyra restaurangerna och kaféerna på åttonde avenyn, men inte många fler. Detta är naturligtvis obeskrivligt sorgligt, då den artificiella intelligensen har en oerhörd potential att verka både jämlikhets- och demokratifrämjande. Amy Webb nämner det bara i förbifarten, men det är av yttersta vikt att vi omdefinierar artificiell intelligens från att vara en kommersiell produkt till att vara en kollektiv nytta. En kollektiv nytta kännetecknas av att tillgången inte påverkas av att andra människor tar del av den samt att ingen kan exkluderas från användandet av den.

Gatubelysning, brandkåren, fyrtorn och internet är populära exempel. Förutsättningen är förstås en väl tilltagen gemensam finansiering, men jag vågar gissa att om någon inte var övertygad om att artificiell intelligens borde vara en sådan prioritering, så kommer Amy Webbs bok att få vederbörande att ändra uppfattning.


The Big Nine- How the tech titans & their thinking machines could warp humanity
Amy Webb
PublicAffairs, US


Fortsätt läsa

sliter/vindstilla landskap

Læs mere

Förlustens början

Författaren Balsam Karam skriver om att förlora ett hem, ett barn och ett tillhörande. När och hur börjar förlusten och vad kan uppstå ur den?

Læs mere

Var tog alla emos vägen?

Var tog emo-kulturen vägen? Ni vet dom där ungarna i helsvart, randiga tröjor, rufsiga frisyrer och svart kajal som hängde runt i klasar? Journalisten Linnéa K. Jönsson har hittat…

Læs mere