Den inbyggda automatiseringen i systemen som analyserar och optimerar annonserna gör reklamen svår att bevaka och öppnar för oförutsedda konsekvenser, vilket förvärras av faktumet att det ofta är barn och unga som sitter på andra sidan skärmen. Facebook har till exempel avslöjat för annonsörer att de har förmågan att identifiera när tonåringar känner sig ”osäkra”, ”värdelösa” eller ”behöver en självförtroende-boost”. Reklam som på automatiserad väg riktas baserat på sådana uppgifter leder lätt till skadliga konsekvenser.
Digital marknadsföring kan till och med utnyttja konsumenters sårbarheter utan att direkt observera sårbarheterna i fråga. Genom så kallade ”lookalike audiences” (på svenska ”anpassade målgrupper”) kan annonsörer ladda upp listor på konsumenter med vissa kända egenskaper och låta systemet rikta reklam till andra konsumenter som liknar dem på listan. Uttryckta intressen eller tidigare köp kan till exempel tyda på beroendeproblematik eller skör fysisk eller mental hälsa.
Den övervakningsbaserade reklamen innebär att alla konsumenter i utgångsläget är sårbara. Reklambudskapen kan teoretiskt sett riktas till oss i våra mest sårbara stunder och den aldrig upphörande strömmen av nya annonser bidrar till att bryta ner våra inlärda försvar mot övertalning och manipulation. Situationen är särskilt allvarlig eftersom barn och andra mer mottagliga grupper utsätts för samma påverkansförsök.
Diskriminering
Förutom att ha skapat nya möjligheter att nå rätt personer med rätt budskap, har övervakningsbaserad reklam skapat nya möjligheter till det motsatta – att exkludera och diskriminera enskilda personer och grupper.
Annonsörer kan till exempel välja att visa bostadsannonser bara för personer som passar in i grannskapet och därigenom utesluta personer med oönskade egenskaper, trots att de har råd att betala för boendet. Jobbannonser kan visas för bara män, trots att många kvinnor besitter den nödvändiga kompetensen. Den här typen av diskriminering kan vara både avsiktlig och ett resultat av algoritmer som utan att beakta mångfald och jämställdhet försöker optimera annonsernas genomslag.
Faktum är att alla beslut om att rikta budskap till en viss typ av person eller grupp, med nödvändighet utesluter andra personer och grupper från budskapet. Ett faktum som blir ännu mer problematiskt eftersom det är nästan omöjligt att veta vem som ser vilka annonser.
Traditionell marknadsföring i tidningar, på TV och i radio kan alltid granskas i efterhand. Den övervakningsbaserade reklamen är däremot svår eller omöjlig att granska eftersom annonserna visas bara för särskilda konsumentgrupper vid särskilda tillfällen. Lägg på ett lager av automatisering och det är troligt att inte ens annonsörerna själva kan kontrollera algoritmisk diskriminering.
Även om ett marknadsföringssystem har regler mot att rikta reklam baserat på religiös åskådning, sexuell läggning, etnicitet och andra känsliga personuppgifter är det svårt att stoppa ett automatiserat system från att använda sig av uppgifter som överlappar med de otillåtna. Geodata som visar frekventa besök till en moské, kyrka eller synagoga kan till exempel signalera olika religiösa övertygelser och dejtingappar kan signalera sexuell läggning.
20 september, 2021