Rådgivarens tips: AI är ett verktyg – kompetensen avgör resultatet

Vems fel är det egentligen när AI gör fel?

När en AI levererar felaktigheter eller skevheter beskrivs det gärna som ett misslyckande för tekniken. Men AI är ingen självständig aktör. Den fattar inga beslut, tar inget ansvar och har inga konsekvenser att leva med. Det är en människa som väljer att acceptera resultatet, skicka det vidare eller ifrågasätta det.

– AI ger förslag, inte sanningar. Det avgörande är vilken kompetens den som tar emot förslaget har, säger Nicklas Karlsson.

Bias är inget nytt men det har blivit svårare att se

Ett vanligt argument mot AI är risken för just bias. Skevheter är dock inget som uppstod med språkmodellerna. De har alltid funnits hos människor, i organisationer, i medier och i forskning. Det nya är att de numera kommer förpackade i ett välformulerat och självsäkert svar.

Tidigare kunde språket avslöja när någon var osäker. Ett trevande resonemang lät trevande. Nu låter allt lika säkert oavsett om det stämmer.

– Det är därför granskning har blivit en kompetensfråga på ett helt annat sätt än förut. Publiceras en AI-genererad text utan granskning eller används den som beslutsunderlag utan reflektion, då är det inte tekniken som har brustit, säger Nicklas.

Ta ansvar för ditt tänkande och din kompetens

Kanske ligger den verkliga risken inte i tekniken utan i hur lätt vi lämnar över vårt kritiska tänkande till en källa vi uppfattar som kompetent. Det är inget nytt mönster. Vi har gjort samma sak med experter, institutioner, medier och sökmotorer. AI är bara den senaste i raden.

– Ju mer vi litar på en källa, desto större ansvar har vi att förhålla oss kritiska till den. Inget AI-svar är ett problem så länge du vet att det kan innehålla fel. Varje AI-svar kan bli ett problem om du inte vet det, menar Nicklas.

AI som faktamaskin kräver mänsklig kompetens

Används AI för informationsinhämtning, analys eller beslutsstöd krävs något tekniken själv saknar. Källkritik, känsla för rimlighet och förståelse för sammanhang. Det är kompetenser som går att utveckla men de kommer inte av sig själva bara för att verktygen finns på plats.

– AI förstärker den som kan granska och avslöjar den som inte kan. Det är alltså inte tekniken som avgör kvaliteten på utfallet, utan användarens kompetens. Tekniken kan göra fel men det är inte teknikens fel om du väljer att tro eller agera på det du får från AI. Det ansvaret ligger alltid hos människan, säger Nicklas.

Vad betyder det här för er organisation?

• För organisationer som använder eller funderar på att börja använda AI kan det vara värdefullt att redan nu:

• stärka din och medarbetarnas kompetens inom källkritik, reflektion och granskning

• tydliggöra att det egna ansvaret aldrig kan automatiseras bort

• stärka lärandet genom att prata mer om hur AI används än om att den används

Kompetensutveckling handlar inte bara om att lära sig nya verktyg utan lika mycket om att utveckla omdömet att använda dem.