Under Biblioteksdagarna diskuterade juristen Holli Sargaent från Cambridge University och filosofen Karim Jebari artificiell intelligens och algoritmer som diskriminerar.
Holli Sargeant inledde föredraget med att diskutera hur vi idag använder artificiell intelligens, AI, och vad diskriminering i sammanhanget innebär. Sargeant beskrev att diskriminering i sammanhanget inte nödvändigtvis måste vara negativ, och att det existerar både direkt och indirekt diskriminering.
En anledning till att AI kan vara negativt diskriminerande, enligt Sargeant, är att AI lär sig från data och därmed replikerar historiska fördomar, mänskliga misstag och social ojämlikhet. Riskområden är bland annat när AI används för lånansökningar, anställningar och inom bibliotek. Här har bibliotekarier en viktig roll att spela, menar Sargeant.
– Bibliotekarier har en otrolig kunskap för att förstå och tolka algoritmer, säger Holli Sargeant.
Efter Hollis presentation höll filosofen Karim Jebari i en framtidsspaning.
Karim Jebari menar att om vi vill förstå framtiden måste vi också även förstå teknologin och hur den kommer att påverka vår framtid. Jerabi anser att det är viktigt att förstå vår kultur och vilka föreställningar vi har om AI. Enligt Jerabi ser vi i väst på teknologi som en religion där vi sätter våra förhoppningar om framtiden till teknologisk utveckling snarare än exempelvis politisk ideologi.
– Vi projicerar våra förhoppningar och rädslor på teknologin, säger Karim Jebari.
En annan aspekt som är viktig att ha i åtanke i diskussionen kring AI är vår relation till sci-fi, enligt Jerabi. I sci-fi-klassiker som Blade Runner och Du sköna nya värld framställs AI ofta som en typ av mänsklig intelligens som kan vara både farlig och kraftfull.
Vidare diskuterade Jebari hur den kulturella kontexten påverkar vår syn på AI, och hur den skiljer sig runt om i världen. AI förändrar och förskjuter även maktrelationer på arbetsplatser enligt honom eftersom beslut som fattades av personer nu ofta fattas av de som hanterar algoritmerna.
– Det innebär att kunskap primeras på nytt sätt vilken kanske kan ha både positiva och negativa effekter. Oftast sker inte den diskussionen innan AI implementeras för att vi har sådan tilltro till AI, påpekar Jebari.
Slutligen lyftes frågor från publiken där bland annat naivitet kring AI diskuterades och i vilka områden AI främjar samhället som mest.
– Vissa jobb som är skadliga för människor, exempelvis som jobb som innebär tunga lyft, vore det givande för mänskligheten om AI skulle kunna ersätta de jobben, sa Jebari.
– Jag tror att skapa mer tillgängliga sätt att arbeta är en möjlighet för användningen av AI, avslutar Holli Sargeant.
Holli Sargeants föredrag hölls på engelska.
