Varning för den framväxande övervakningsekonomin

Det var en affärsnotis med symbolkraft. I förra veckan kom nyheten att nyss avgångne vd:n för biltillverkaren Ford Alan Mulally – dessförinnan i ledande position hos flygplanstillverkaren Boeing – istället för pensionering väljer att gå in i en styrelsefunktion hos Google.

Det är ingen nätt men substanslös reträttpost för ett par fototillfällen och lite gammelindustriglans som Google ordnar åt en sliten styrelsehäst, utan en position med strategisk tanke.

Ett av Googles mest uppmärksammade projekt på senare år har varit utvecklingen av teknik för en förarlös bilmodell, där Googles egen mjukvarukompetens på sikt ska strömma in i och revolutionera transportsektorn.

Silicon Valley kan, som näringslivsjournalisten Karl-Heinz Büschemann konstaterar i Süddeutsche Zeitung, ”investera summor i den mobila framtiden som de genom pris- och kostnadstryck plågade bilkoncernerna bara kan drömma om”. Även i ett världstäckande system av småskaliga satelliter har Google börjat investera tungt.

Alan Mulallys erfarenheter från Ford och Boeing + fordonstrafik, luft- och rymdfart + kan alltså komma till stor nytta när Google, liksom flera andra jättar inom den nya digitala ekonomin, börjar använda sina enorma kassakistor för att expandera på nya områden.

Rekryterings- och investeringsvägar kan avslöja mycket om när maktförhållanden börjat rubbas reellt och på allvar.

Beskedet förra året att näthandelskoncernen Amazons grundare Jeff Bezos köper anrika tidningen Washington Post fick det att svindla lite för ögonen hos traditionella medier. Omstridda Amazon, redan övermäktig konkurrens till många fysiska bokhandlar, ligger samtidigt i infekterad strid med en rad stora bokförlag om villkor, priser och ytterst makten över bokbranschen.

Här förändras de ekonomiska spelreglerna för affärsmodeller och arbetsvillkor i tidigare ganska lugna, fridfulla branscher radikalt och för lång tid framåt.

Bygg-, inrednings-, vitvaru- och bobranschen väntas stå inför en liknande revolution, där mjukvara och nätverkslösningar för smidighet, individuell anpassning och bekvämlighet blir allt viktigare. Många branscher – även inom hälsa, sjukvård, utbildning, riskbedömning, rekryteringar, miljö, rådgivning o.s.v.- tumlar in i en ny tid.

Gemensamt för de flesta framtidsspaningar är grundkombinationen av uppkoppling, nätverk, övervakning och bearbetning av insamlad information; spanandet på, registrerandet av och kvalificerade gissningar om människors beteenden, rörelser, åsikter, kontakter och preferenser.

Det mesta i syfte att göra oss säkrare, lyckligare, friskare och mindre plågade av sånt som stör, motsäger, avviker från normer, tyder på svaghet eller krånglar till livet.

Vid en första och slarvig anblick kan allt detta tyckas helt oproblematiskt. Innovationer och nya aktörer skapar, med hjälp av big data + den enorma mängden information, ofta frivilligt levererad av människor själva genom sociala och kommersiella aktiviteter + bekvämare, träffsäkrare lösningar för konsumenterna. Vilka buttra spelfördärvare, kan ha invändningar mot det?

Det finns mycket goda skäl att lyssna till spelfördärvarna i det här fallet. För hos många av de framsteg som presenteras finns en allvarlig baksida som diskuteras alldeles för lite. I den storskaliga sammansmältning som pågår av den nya digitala ekonomin, big data, gamla industrier och politiska registreringsyror ligger en underskattad fara:

Fusionerna kan i förlängningen skapa en total övervakningsekonomi som inte bara krymper privatsfären radikalt, utan förändrar vilken människosyn som överhuvudtaget är utgångspunkt för demokrati och samhällsliv. Det är ett större hot än separata övervakningsapparater som går att identifiera och avslöja. I övervakningsekonomin är vi alla medaktörer genom att överhuvudtaget finnas till.

Den hotfulla framtiden ser ut ungefär så här: Genom övervakning, algoritmer och oöverblickbara databanker beräknas digitala identiteter fram, som tillåts väga tyngre i allt fler sammanhang än människors naturliga identiteter.

Redan den distinktionen är i lätt upplösning. Du är din av systemen sammanställda digitala existens, vare sig du vill eller inte, inklusive förutsägelser om dina framtida handlingar. Förutsägelser som i en övervakningsekonomi lätt blir till självuppfyllande profetior, alltså inte bara analyser, utan ekonomiska och politiska styrmedel.

Den beräknade digitala profilen kommer att bli allt viktigare som utgångspunkt för hur människor värderas, vilka chanser de ges och vilken frihet de får.

Ska du få jobb, försäkring, utbildningsplats, lån, biljett, medlemskap, asyl, adoptionsrätt + framöver kommer fler exempel att uppstå där människor förvägras saker på grundval av framberäknade digitala identiteter de inte själva vet om eller känner igen sig i. Och makten över den digitala profilen kommer inte att ligga hos individerna själva + utan förborgad i komplexa algoritmer och databanker, omöjliga att ställa till svars.

Här skapas en ny människosyn, underordnad tekniska övervakningssystem som vi själva är med och göder, för att det är roligast och smidigast så.

Men inte ens att helt ställa sig vid sidan om, inte bjuda ut information om sig själv, lämna alla forum, hjälper. Det framberäknade digitala jaget kommer att sammanställas ändå, och vara det politiker, medier, företag och andra utgår ifrån när de fattar beslut. Frånvaro av synliga spår, svagt informationsunderlag om en person, ökar felprocenten i bedömningarna, men ger inte frisedel.

I värsta fall kommer öppen hyperaktivitet att vara det bästa sättet att behålla kontrollen över den egna digitala identiteten. Så har fällan slagit igen. En i upplysning och liberala demokrati-, frihets- och rättighetsideal grundad människosyn ersätts av något annat.

Så här illa behöver det förstås inte gå. Den tekniska utvecklingen, fantastisk i de möjligheter den ger – demokratiskt och humanistiskt – är inte dömd att skapa monster. Men risken för att det ska gå snett minskar, ju ärligare vi är om de faror som finns. Och vågar säga nej ibland, i väntan på att etiska, ideologiska överväganden ska mogna.

Ändå finns risk att många, på sina respektive fält, kommer att lockas av de ideologiska eller kommersiella möjligheter som övervakning och big data skapar för dem. Att de bara ser sina egna små steg, men inte helheten av tyranni. Vårdpolitiker, miljöpolitiker, serviceföretag, försvarsmakter, poliskårer, industrier, medier, forskare, försäkringsbolag + alla kommer att frestas.

Tyske kulturjournalisten Frank Schirrmacher (FAZ), alldeles för tidigt avliden i sommar, hör till de i Europa som gjort mest för att väcka debatt om den nya digitala ekonomin. Han betonade två saker: (1) det här är redan delvis verklighet, hotet existerar, men (2) ingenting är oundvikligt.

Att formulera hotet uttrycker inte pessimism, utan optimism om att det går att undvika. Vi har fortfarande makten att styra utvecklingen. Inte att avbryta, den, men att ge den en ram av etik och värderingar.