Sinan Akdag: "AI ett hot mot konsumenters rättigheter – här och nu"

Chattroboten Chat GPT från Open AI har med sitt till synes mänskliga tilltal, ofta träffsäkra tonalitet och ibland användbara lifehacks trollbundit miljontals användare världen över sedan lanseringen i slutet av 2022. Verktyget används flitigt som exempel både på AI-teknologins stora potential och de allvarliga risker som associeras med densamma. Microsoft gick snabbt all-in med en investering på över 100 miljarder svenska kronor i företaget och har därefter försökt inkludera chattroboten i allt som bär en Microsoft-logga – företrädelsevis söktjänsten Bing. Google svarade direkt med att lansera chattroboten Bard som trots att sök- och annonsjätten haft en ledartröja inom AI, än så länge är lite av en flopp.

För den som ännu inte testat Chat GPT fungerar verktyget genom att du, som namnet antyder, skriver chattmeddelanden som med kort fördröjning besvaras av roboten. Svaren upplevs som om de författats av en människa och en av verktygets större behållningar är hur övertygande det kan härma till exempel kända författare. Det går alldeles utmärkt att bara diskutera vårvädret med chatroboten, men den kan också hjälpa till med att strukturera Excel-dokument, författa CV:n och sammanfatta längre texter.

Men Chat GPT är  inget ofelbart orakel som sitter på sanningen och alla svaren. Tvärtom har verktyget en fallenhet för att ljuga och hitta på. Roboten är en fena på att producera textmassor som upplevs tillförlitliga, men  i själva verket förstår den inte vad den skriver. Genom att ha tränats på enorma mängder data kan verktyget – lite förenklat – förutspå vilka ord som ska användas för att svaret ska passa ihop med den fråga eller uppmaning som riktats till roboten. Svaren sträcker sig därför från användbara eller humoristiska till dumma och kränkande, vilket inte är så konstigt med tanke på att Chat GPT står öppen för i stort sett vilken fråga som helst och eftersom den träningsdata som använts sträcker sig från akademiska texter och skönlitterära verk till foruminlägg, produktrecensioner och sociala medier.

Den snabba utvecklingen på AI-området har väckt liv i den nygamla debatten om automatiseringens fördelar och nackdelar. Och satt fart på dem som hävdar att en form av artificiell superintelligens är ett av de största hoten mot mänsklighetens långsiktiga överlevnad. I ett brev från Future of life institute varnar en rad forskare, Elon Musk, Steve Wozniak och svenske Max Tegmark för att vi så småningom kan bli ersatta av maskiner om utvecklingen inte pausas och underställs striktare tillsyn.

Det brevet har i sin tur väckt kritik eftersom det slätar över de skadliga konsekvenser som redan är uppenbara med dagens mer begränsade automatiserade system. Det handlar om exploatering av persondata och billig arbetskraft för träningssyften; energianvändning, snedvridna data som återskapar diskriminering och en förskjutning av ännu mer makt till teknikjättarna. Andra forskare inom AI-fältet som Timnit Gebru och Emily M. Bender har i flera år varnat för just detta, utan att få något riktigt gehör.

Att det så snart som möjligt behövs striktare tillsyn och tydligare reglering av chatrobotar (och AI mer generellt) håller konsumentrörelsen med om. Den europeiska konsumentorganisationen BEUC, där Sveriges Konsumenter är medlemmar, skickade nyligen ett brev till EU-kommissionen i vilket vi uppmanade till en skyndsam utredning av hur utvecklingen redan i dag påverkar konsumentskyddet. Om det kräver att AI-utvecklingen sätts på paus är något som fortfarande hålls öppet, bland annat eftersom EU:s föreslagna regelverk för AI är flera år bort från implementering och verkar bli långt ifrån heltäckande.

Chatrobotar är det nya svarta och företagen står förstås på kö för att få bygga in Chat GPT i sina egna tjänster och produkter. Klarna har redan börjat använda verktyget för en mer personanpassad ”shoppingupplevelse” medan resebyrån Expedia vill erbjuda dialogstyrd reseplanering.

Utan att veta detaljerna kring deras implementeringar väcks en rad frågor om transparens, otillåten manipulering och ansvarsutkrävande. Varför en viss butik rekommenderas framför en annan, hur roboten framställer olika alternativ och vem som bär ansvaret när en 15-åring handlar kläder på kredit för 30 000 kronor – eller blir strandad i Phuket utan något sätt att ta sig hem – är frågor som måste utredas.

Problematiken som beskrivs här ovanför är inte helt ny och det finns goda skäl att tro att redan existerande lagstiftning kan användas för att komma åt vissa aspekter av den, men allra minst krävs nya riktlinjer kring otillbörliga affärsmetoder och marknadsföring.

Vissa kanske uppfattar det som trångsynt navelskådning att prata om simpla konsumenträttigheter samtidigt som Max Tegmark och Elon Musk varnar för världsutplånande superintelligenser. Men det finns, precis som Timnit Gebru och Emily M. Bender påpekar, problem som måste tas itu med här och nu. Maktobalansen mellan företaget som kör en AI-tjänst och den enskilda människan som använder den, är ett större problem än det hypotetiska scenariot att AI-tjänsten blir självmedveten.

Sveriges Konsumenter kommer därför tillsammans med den bredare konsumentrörelsen att fortsätta arbeta för att du som konsument ska ha tydliga rättigheter i relation till AI-system och företagen som använder sig av dem.