ARTIKEL | Athena

Kanske ska AI vara Athena

AI blir intressant på riktigt när den inte bara gör mer, utan hjälper människor att förstå, välja och bli mer kapabla.

KÄRNIDÉ
Bra AI-stöd bör öka människans kompetens och handlingsförmåga utan att smyga bort ansvar, omdöme eller möjligheten att korrigera systemet.

Jag tror att vi ibland har lite för bråttom att göra AI till Odysseus.

AI ska skriva, analysera, prioritera, besluta och genomföra.

Och i många fall är det precis vad den bör göra.

Men om målet också är att människor ska förstå, lära och kunna agera bättre kanske AI ibland behöver ha en annan roll.

Det är där Athena blir intressant.

AI:s förmågor utvecklas snabbt. Men oavsett hur kapabla modellerna blir kvarstår designfrågan: vad ska AI göra, vad behöver människan förstå och kunna, och vem ska bära ansvaret när något går fel?

Athena är kraftfull, men hon är inte Odysseus

I Odysséen hjälper Athena både Odysseus och Telemachos. Hon vägleder, varnar, öppnar möjligheter och påverkar situationer som människorna själva inte kan kontrollera.

Men berättelsen fungerar inte därför att Athena gör allt.

Odysseus måste fortfarande bedöma situationer, ta risker, välja och leva med konsekvenserna. Telemachos måste själv växa in i en annan roll.

Det är där jag tycker att Athena blir en användbar bild för AI.

Inte som en exakt modell. Gudar och produktarkitektur bör hållas på behörigt avstånd från varandra.

Men som en fråga:

Är AI huvudpersonen, eller är AI det stöd som gör huvudpersonen bättre rustad att agera?

Effektivitet är bara ett av målen

I många processer är full automation helt rätt. Om något är repetitivt, regelstyrt och kan göras säkrare eller snabbare utan mänsklig handpåläggning finns ingen poäng med att romantisera manuellt arbete.

Men lärande, förändring, professionellt omdöme och komplexa kundsituationer fungerar annorlunda.

Om AI alltid tar över den svåra delen kan människan bli snabbare på kort sikt. Men det finns också en risk att den egna förmågan utvecklas mindre över tid.

Det är ungefär som en GPS som alltid hittar vägen. Fantastiskt tills du står utan täckning och inser att du inte längre vet vilket håll som är norr.

Det betyder inte att vi ska använda sämre teknik. Det betyder att vi behöver veta vilket mål vi optimerar för.

Self-Determination Theory ger ett ganska hårt test

Self-Determination Theory, utvecklad av Edward Deci och Richard Ryan och senare vidareutvecklad i omfattande forskning, lyfter tre grundläggande psykologiska behov: autonomi, kompetens och samhörighet.

Autonomi. Förstår jag varför något ska göras och upplever jag ett rimligt handlingsutrymme, även när vissa ramar är givna?

Kompetens. Hjälper stödet mig att klara mer, förstå bättre och se att jag utvecklas?

Samhörighet. Finns människor, relationer och ett socialt sammanhang när det faktiskt behövs?

Det här blir en ganska obekväm checklista för AI.

• Hjälper AI mig att förstå, eller gömmer den bara processen?
• Gör den mig mer kompetent, eller bara mer beroende?
• Ger den verkligt handlingsutrymme, eller presenterar den ett enda svar som om det vore facit?
• Vet jag när jag bör lita på rekommendationen, när jag bör ifrågasätta den och när en annan människa behöver kopplas in?

Bra AI borde kunna säga: jag kan ha fel

Stuart Russell driver i Human Compatible ett viktigt resonemang: ett AI-system bör inte bete sig som om det redan känner människans verkliga mål perfekt.

Det är mer radikalt än det låter.

Om systemet är osäkert på vad vi faktiskt vill kan osäkerheten bli en säkerhetsmekanism. AI:n behöver fråga, visa sina antaganden, ta emot korrigering och kunna avstå från att agera när konsekvensen är hög.

Det är en mycket bättre grund för stöd än den tvärsäkra digitala kollegan som aldrig tycks ha träffat ett undantag.

En bra AI kan därför säga:

• Jag tror att detta är ditt bästa nästa steg, eftersom...
• Jag ser två rimliga vägar. Vill du prioritera snabbhet eller kvalitet?
• Jag saknar information om X. Ska jag fråga innan jag går vidare?
• Det här verkar avvika från standardfallet. Vill du koppla in en människa?
• Du har korrigerat mig. Jag tar hänsyn till den korrigeringen i nästa steg.

När AI kan göra mer blir frågan om omdöme ännu viktigare

AI kan i dag göra betydligt mer än att klassificera och förutsäga. Den kan generera, analysera, föreslå, planera och i ökande grad genomföra delar av en process.

Men det tar inte bort frågan om omdöme.

Någon behöver fortfarande avgöra vad som är viktigt, vilka mål som väger tyngst, vilka konsekvenser som är acceptabla och vad som ska hända när olika mål krockar.

Det är särskilt tydligt i organisationer.

Ledningen kan vilja ha effektivitet. Användaren vill ha enkelhet. Juridiken vill minska risk. Chefen vill ha kontroll. Kunden vill ha flexibilitet.

Det finns sällan ett enda perfekt mål som AI bara kan maximera.

I Power and Prediction utvecklar Agrawal, Gans och Goldfarb sitt tidigare resonemang och flyttar fokus mot hur AI påverkar beslut och hela system av sammanhängande beslut.

Det tycker jag gör frågan ännu mer relevant:

När AI kan göra allt fler delar av arbetet, vilka delar av förståelsen, omdömet och ansvaret behöver fortfarande finnas hos människan?

Vad det betyder för digitala flöden

För mig leder det till en ganska enkel princip:

AI bör automatisera där uppgiften bör försvinna och förstärka människan där förmågan fortfarande spelar roll.

Det kan betyda att AI sammanfattar material men låter användaren fatta beslutet.

Att den föreslår nästa steg men visar varför.

Att den upptäcker att någon fastnat men inte automatiskt antar orsaken.

Att den kan coacha, förklara, översätta, jämföra alternativ och synliggöra risker.

Att den vet när det är dags att sluta vara hjälpsam och eskalera till en människa.

Hur vi tänker på det i Bizpart

I Bizpart blir AI därför mest intressant när den kopplas till en tydlig kontext: roll, mål, tidigare aktivitet, relevant kunskap, regler, data och ett verkligt nästa steg.

En fristående chatbot kan vara användbar. Men den stora potentialen uppstår när AI får rätt kontext om var i en process personen befinner sig och kan anpassa stödet därefter.

Samtidigt behöver stödet gå att förklara, korrigera, pausa och följa upp.

Det är kanske mindre spektakulärt än maximal automation.

Men i många verksamheter är det betydligt mer användbart.

Athena är inte en perfekt förebild

Det finns också skäl att inte romantisera metaforen.

Athena är en gudinna med enorm makt och egna intressen. Hon påverkar människor och situationer på sätt som inte är en manual för modern AI-governance.

Poängen är alltså inte att bygga en digital gudinna.

Poängen är den enklare kontrasten: stöd kan vara kraftfullt utan att människan försvinner ur berättelsen.

Den kanske viktigaste AI-frågan är därför inte bara: Vad kan systemet göra? Utan: Vad kan människan förstå och göra bättre efter att systemet har hjälpt?

En bra Athena borde kanske göra sig själv lite mindre nödvändig över tid.

Det är möjligen en dålig slogan för ett AI-bolag. Men en ganska bra designprincip.

Underlag och avgränsning

Artikeln använder Odysséen för att göra ett designproblem minnesvärt. Resonemangen bygger på Self-Determination Theory, Stuart Russells perspektiv på mänskliga mål och korrigerbarhet, Agrawal, Gans och Goldfarbs arbete om AI och beslutsfattande samt Bizparts befintliga AI-underlag.

Artikeln argumenterar inte mot automation. Avgränsningen är att olika typer av processer kräver olika grad av mänskligt ansvar och omdöme.

Källor

• Ryan, R. M. och Deci, E. L. (2017). Self-Determination Theory. Guilford Press.
• Russell, S. (2019). Human Compatible. Viking.
• Agrawal, A., Gans, J. och Goldfarb, A. (2022). Power and Prediction: The Disruptive Economics of Artificial Intelligence. Harvard Business Review Press.
• Homeros. Odysséen. Athena används här som berättelsebild.