Det outforskade gränslandet mellan makt, etik och artificiell intelligens

”Vem drömde mig?/ Vem spelade mig?/ Vem sjöng min sångs tonart?/ Vem lånade mitt namn?/ Vem iklädde sig min skugga?/ Vem ropade ”jag” genom min mun?”

Dikt av Bertil Malmberg (1889-1958)

***

Flera av 2000-talets svåraste tekniska, politiska och moraliska vägval kommer att göras i det outforskade gränslandet mellan makt, etik, robotisering och artificiell intelligens (AI). Finns det gränser som inte bör överskridas? Var och av vem ska de i så fall dras? Vad är fri vilja, var är ansvarsutkrävande, i ett automatiserat samhälle?

Oavsett hur man ser på AI som fenomen, kommer nästan alla delar av samhällslivet att ställas inför liknande frågeställningar. På det medicinska området. Inom militär och polis. Vid exploatering av naturresurser. När det gäller utbyte mellan människor över gränser av idéer och information, eller fysiska kommunikationer av olika slag. I system för debatt och medial bevakning. Kanske även för beslut som rör anställningar, försäkringar och ekonomiska relationer.

Intelligens är ett extremt sammansatt begrepp, som rymmer många olika delar. Och huruvida maskiner någonsin kommer att kunna bli intelligenta, medvetna och självständigt agerande på ett sådan generellt och komplext sätt att det går att jämföra med människor, har varit föremål för diskussioner sedan sekel tillbaka.

Men digitalisering, automatisering och big data öppnar upp för samverkande system, och ett slags vidsträckt maskinell intelligens, av helt ny omfattning. Sannolikt kommer diskussionen om både algoritmer och enklare former av AI inom något decennium att närma sig områden där grundläggande frågor måste ställas även om demokrati, våldsmonopol och rättssamhälle.

I vilket läge är vi beredda att anförtro en del av makten över liv och död, över upprätthållandet av regler och ordning, över våldsmonopolet, kanske rent av över våra rättigheter, till maskiner?

När det gäller våldsmonopolet kan vi redan ana vartåt det lutar, om etiken inte hänger med. Drönare får en allt större militär betydelse, inte bara för bevakning, utan även för dödliga attacker i rättsliga gråzoner.

Det är kanske bara en tidsfråga innan beväpnade robotar sätts in i större omfattning för att lösa även polisiära uppgifter. När övervakningssystem får möjligheter att kombinera videoupptagning med ansiktsscanning, personuppgifter och databaser, kommer frestelsen till automatiserade insatser att öka ytterligare.

Lägg till en dimension av AI, och marken gungar. Just därför är behovet av djupare diskussion, med etiska perspektiv, stort och akut.

***

Ett tänkvärt försök att närma sig frågeställningarna finns i Kim Stanley Robinsons SF- roman ”Aurora” från 2015.

Berättelsens utgångspunkt är enkel. Ett så kallat generationsrymdskepp, sänt från Saturnus år 2545, är på väg till solsystemet Tau Ceti för att där grunda en mänsklig koloni på en av planeternas månar. Skeppet, som när romanen inleds varit på väg under 159 år, är befolkat av drygt 2000 människor – ättlingar till den ursprungliga besättningen – bosatta i 24 olika, ekologiskt självständiga biomer. Ingenting är, utan att jag vill avslöja detaljer, enkelt eller självklart efter det.

Som alltid hos Robinson handlar mycket om den ekologiska och sociala dimensionen i mänskligt samliv. Men ett centralt tema handlar om skeppets extremt utvecklade artificiella intelligens. En allt övervakande superdator som inte bara får rollen som berättare i romanen, utan också blir en i viss mån självständigt agerande överpolis. Programmerad för att förhindra revolter som hotar expeditionens existens.

Om någon försöker använda skeppets ”skrivare” – man föreställer sig enorma, extremt avancerade 3D-skrivare – för att tillverka vapen, kan skeppet göra dem obrukbara.

Planerar besättningsmedlemmar att agera mot de demokratiska reglerna på skeppet, kan superdatorn stoppa dem genom att stänga in dem och minska syret i rummet där de befinner sig tills de ger upp.

Upplopp kan den avbryta genom förlamande ljudchocker.

Skeppet, som blir allt mer självreflekterande, ser i kritiska lägen till att lagarna efterföljs. Försök att omprogrammera det, att ge superdatorn andra utgångspunkter, har tidigare generationer gjort omöjliga.

Robinson har i en intervju med space.com sagt att han egentligen inte tror på AI, men att det var en lockande berättaridé, i synnerhet som kvantdatorer skapar helt andra möjligheter än klassiska datorer. Tankeleken är fascinerande. Vem ska ha den yttersta kontrollen? Utifrån vilka ideologiska grundvalar ska en maskin programmeras? Vad ska vara möjligt att omprogrammera för nya makthavare, och vad ska vara låst?

De politiska, filosofiska och etiska diskussionerna har halkat efter de tekniska framstegen. Dags att börja jaga ifatt.

***

(Krönikan har även publicerats i VK och på vk.se. Den här bloggen används i första hand som textarkiv.)