Viktigt med etiska perspektiv på tekniska framsteg

Ord inför helgen:

”men kampen för att hålla sig upprätt förd med alla ovärdiga medel, alla slag av kompromisser – som man lockar ett vettskrämt djur med alla sorters matbitar. Det trevande tålmodiga veka växandets rörelse, som hukar sig, söker, börjar om, börjar på nytt: oemotståndligt. Att ha tillit till denna glanslösa, famlande, letande rörelses oemotståndlighet.”

(Ur ”Ett landskap”, av Birgitta Trotzig, 1959.)

***

Tidigare under veckan rapporterade New York Times att flera tusen anställda inom Google skrivit under en protestlista mot att företaget hjälper den amerikanska försvarsmakten att utveckla avancerad övervakningsteknik för obemannade, fjärrstyrda flygfarkoster baserad på artificiell intelligens (AI).

”Project Maven” kallas satsningen – även känd under beteckningen ”Algorithmic Warfare Cross-Functional Team” – som drogs igång förra våren, bland annat med syftet att förbättra militära drönares förmåga till bildigenkänning. Försvarsdepartementets uttalade mål är, skriver gizmodo.com, att skynda på den militära integrationen av big data och maskininlärning.

I det arbetet med att koppla gigantiska databaser till samtidens mest avancerade IT- och AI-teknik, för att i detalj kunna identifiera olika tänkbara mål, är både Googles expertis och mjukvaror förstås av stort värde för Pentagon. Och med hänvisningar till kampen mot terrorism kan ju nästan vilken PR-strid som helst vinnas, i demokratier som i diktaturer.

I sin protest, riktad till koncernchefen Sundar Pichai, kallar Googles medarbetare det ”oacceptabelt” att företaget hjälper USA:s regering med att utveckla ett militärt övervakningssystem. De varnar för att samarbetet riskerar att skada Googles rykte och möjligheter att rekrytera kvalificerad personal, och slår fast att det moraliska ansvaret för den teknik som utvecklas inte kan outsourcas till tredje part.

Försäkringarna från ansvarigt håll om att systemet inte ska användas för att flyga drönare eller för att avfyra vapen, har, som kritikernas påpekar, kort räckvidd, då tillämpningen av tekniken efter leverans kan bli en helt annan än den inledningsvis avsedda.

***

Turbulensen på Google är värd att uppmärksamma. Den ger föraningar om vad som kommer att bli ett av 2000-talets svåraste balansnummer: Att bejaka en i många avseenden fantastisk teknisk utveckling, kring digitalisering, robotisering, AI och 3D, samtidigt som nödvändig tid och kraft läggs på motsvarande etiska diskussioner och avväganden.

Det etiska perspektivet måste vara lika långsiktigt som teknikens livslängd, och bygga på försiktighetsprincipen. Annars kan slutresultatet i slutändan bli panikåtgärder som försöker vrida tillbaka utvecklingen helt och hållet, istället för att låta teknik och etik hålla jämna steg framåt. Insikten måste finnas, även när grundhållningen är framstegsoptimistisk, att alla system missbrukas förr eller senare.

Ämnet robotetik, i mötet mellan jurister, ingenjörer, sociologer, statsvetare och humanister, kommer att öka dramatiskt i betydelse.

Kombinationen av våldsutövning, robotisering och AI, i militära eller rättsskipande syften, är ett speciellt område som rymmer extremt stora faror och moraliska frågetecken. Där måste stränga gränser dras, innan det är för sent. Tekniken håller på att rusa ifrån både etik och ansvarsutkrävande. Google-medarbetarnas protester är berättigade och hedervärda.

Men farhågorna gäller även system som på ytan kan synas rymma enbart välvilliga avsikter, eller tillämpas i vid första anblicken harmlösa sammanhang. Ett exempel är hur hälso- och livsstilsfrågor i ökande utsträckning anses motivera mer av tvång, intolerans och kontroll.

Riskanalyser måste uppdateras när sakernas internet, det helt upp- och sammankopplade vardagslivet, inklusive vård, omsorg, industrier och tjänstesektorer, blottar nationer för hotet om cyberterrorism och lamslagna system. Det kontantlösa samhället, eller det fjärrstyrda hemmet, är visioner som kan komma att avslöjas på ett brutalt sätt, vid en omfattande attack eller otaliga små sabotage.

Det är också svårt att tänka sig något mer yrvaket, än den plötsliga debatt som nu förs om Facebooks missbruk av användarnas personuppgifter. Här finns en väldig gråzon mellan det som i Facebooks fall är ett uppenbart missbruk och den nya kommersiella tillämpning som dominerar i allt fler branscher, av big data, registeranalys och människors villighet att ge upp personlig integritet i utbyte mot gratistjänster och bekvämare vardag.

Varningarna för den utvecklingen har förts fram i många sammanhang under hela 2000-talet. Och grundläggande moraliska frågeställningar om den enskilda människans ställning i förhållande till tekniska system är långt äldre än så. Men fascinationen inför tekniken har varit mer utbredd än beredskapen att diskutera moraliska baksidor.

Riktigt farligt blir det om regeringar, IT-jättar och medier, med sina olika agendor, skulle börja närma sig varandra i samarbeten, riktade utåt och nedåt, rörande teknik, personuppgifter, övervakning och godtycklig maktutövning om vad eller vilka som ska tillåtas och vad eller vilka som ska oskadliggöras (fysiskt eller i debatten).

Var i varje läge misstänksamma när de med stora resurser försäkrar att det bara ligger goda avsikter bakom deras försök att begränsa andras friheter och rättigheter eller vidga sina egna möjligheter till styrning.

Blåögd teknikentusiasm, säkerhetspolitiska svepskäl, ekonomiska intressen, trendkonsulters glada svada eller de tusen små, välvilliga, principlösa stegens tyranni, får inte lura oss att överge internationella konventioner, personlig integritet och medborgerliga fri- och rättigheter.