Är kreativitet/nyskapande att ta två stilar, blanda, och skaka om för att få något nytt? Om det inte är kreativitet att blanda Star Wars och Wes Anderson, vad saknas? Och, kan en människa verkligen helt frikoppla sig från sina minnen, upplevelser med mera, och vara helt nyskapande? Eller är vi likt AI:n dömda att upprepa och blanda det vi redan sett? Det här är eviga frågor, som nu är intressanta att titta noggrannare på.
Den här bilden startade en fantastisk diskussion när jag visade den för elever i årskurs två på medieprogrammet:
Bildcollaget till vänster är ritat av en människa, Hollie Mengert. Det högra är från en AI som tränats att kopiera hennes stil. (Jag kommer att använda termer lite slarvigt här: AI, neuralt nätverk, deep learning, etcetera. Jag använder “AI” som paraplyterm, och det är inte helt korrekt, så jag ber om förskottsursäkt). Frågan som diskussionen utgick från var “Vad är egentligen kreativitet och nyskapande?”.
Åh nej, nu blir det förändringsarbete igen? Ett område som kommer att påverka skolan extra kraftigt är naturligtvis medie- och informationskunnighet, men det som pratats mest om än så länge är problematiken med upphovsrätt: Har eleven verkligen producerat den här texten själv? Det är ingen ny fråga. Fusk på högskoleprovet, körkortsteorin, bläckpenna på armen i högstadiet, är klassiker när det kommer till att överlista system. Som med andra uppfinningar och nymodigheter är det egentligen tillgängligheten och kvalitetshöjningen på resultatet som tillsammans med nyhetens obehag skapar oro. Just ovanan, tror jag, är viktig att arbeta med, för många saker är svåra och abstrakta tills man börjar testa. Svårigheten med ovanan, tror jag, är en föreställning om att inlärningskurvan är brantare än Mount Everests nordsida och längre än ett maratonlopp. Då är det inte roligt att börja gå uppför. Naturligtvis blir det jobbigare av stress, ökat tempo, mindre hjärterum, “new public management” och vad annat man kan komma på. Jag kan lida av tidig medelåldersdemens, men jag har ett minne av liknande diskussioner när stavnings- och grammatikkontrollen i Word kom på svenska.
Å ena sidan är det sällan fel att ifrågasätta ny teknik, å andra sidan kan AI visa sig vara så viktigt som evangelisterna ropar.
Vi kan ju inte lära eleverna att fuska? Några större frågor som kommer att påverka skolan är hur AI kommer att påverka elevernas framtida yrken, hur kunskapsbehovet på arbetsmarknaden kan se ut, och hur eleverna förbereds av skolan. Yrkesverksamma använder redan Chat-GPT och liknande program för att slippa skriva tråkiga standardtexter, som till exempel produktbeskrivningar för onlineshopping.
Man kan argumentera för ett totalförbud av AI i skolan, i varje fall upp till en viss kunskapsnivå. Ju närmare en elev kommer till att producera texter som är på liknande nivå som Chat-GPT, desto mer blir det ett verktygsanvändande och inte fusk. Varje elev bör få vetskap om att mycket de kommer att läsa, från manus och videorna de ser, till reklambilder de källkritiskt analyserar, kommer att vara producerade helt eller till stor del av icke-mänskliga processer. Helst borde de också få tillfälle att testa och leka med AI-verktyg som Midjourney, DALL-E och Chat-GPT, avdramatiserat och fritt, så att det inte upplevs som något magiskt och obehagligt som eleverna i framtiden inte vågar närma sig.
Reaktionära-ryggrader och techno-profeter. Å ena sidan är det sällan fel att ifrågasätta ny teknik, å andra sidan kan AI visa sig vara så viktigt som evangelisterna ropar. Ett exempel på en medelväg är att elever testar sina texter på Chat-GPT för att få feedback eller idéuppslag. Eller att eleverna får en text producerad av Chat-GPT som de ska skriva om så att den blir så olik som möjligt. Ett av reaktionärernas starkaste argument är att vi inte vet hur AI exakt fungerar och hur den gör sina val. Det förenklade svaret är att det är för komplext för en människa att förstå, det inte så förenklade svaret kan du titta på här.
Pliktskyldig profet. Det finns många med djupare kunskap, analyser och bredare perspektiv än jag, så därför omfamnar jag min närsynthet och fiskar där jag står. Frågan jag just nu tycker är mest spännande är att olika lagstiftare och intressenter letar efter en balans mellan möjligheterna AI för med sig och att skydda arbetstillfällen. Just den frågan är också lätt att följa, speciellt när policydokument nu börjar bli tillgängliga. Det här har beskrivits inom genren science fiction i säkert 30 år, och kanske är det en av orsakerna till mystifierandet av AI.
Skådespelarna och manusförfattarna i Hollywood har med sin strejk fört upp frågan om balansen mellan att skydda arbeten och möjligheterna AI för med sig, men protester mot kraftiga förändringar i livsvillkor genom teknik har en lång historia som sträcker sig från åtminstone den industriella revolutionen. Fler och fler grupper kommer också att vilja skydda sig och sitt arbete mot vilket hot AI nu utgör. Vissa menar att det här är en farlig situation där olika länder (USA, China) eller kluster av länder (EU, BRICS, med flera) inte vågar riskera att hamna efter i en potentiell kapprustning, en form av brinkmanship eller en kylig kvarleva från kalla kriget. Spänningen mellan bevarandet av arbetstillfällen och risken att snubbla innan loppet börjat kan bli en omöjlig fråga. Men i annalkande late stage capitalism-tider kanske en passande formulering ska vara “spänningen mellan frestelsen att personaleffektivisera maximalt och vinna loppet, eller att bara se till att inte förlora”.
Har eleven verkligen producerat den här texten själv? Det är ingen ny fråga. Fusk på högskoleprovet, körkortsteorin, bläckpenna på armen i högstadiet, är klassiker när det kommer till att överlista system.
Garbage in, garbage out. Redan år 2016 publicerade ProPublica en lång analys av hur en tränad algoritm gav förslag till domare på straff för åtalade. (Här är det viktigt med terminologi, en algoritm är till skillnad från AI något en människa kan förstå och tolka). I frågeformuläret som låg till grund för förslagen fanns det frågor om föräldrarna var skilda, hur många av bekantskapskretsen som dömts, hur ofta den dömde flyttat under senaste året, om det fanns brottsoffer i grannskapet och om den dömde blivit avstängd eller utskriven från skolan.
Tanken var att förutspå vilka åtalade som hade hög risk att bli återfallsförbrytare inom två år, och då föreslå längre straff i de fallen. På ytan ser det ut som ganska rimliga frågor. Som amatör tänker man kanske att “Hm, jo, de har säkert statistik på det där och vet att elever som stängts av ofta blir mer kriminella.” Men vad som hände var att svarta bedömdes som mycket mer troliga att bli återfallsförbrytare än vita, nästan dubbelt så många svarta jämfört med vita flaggades av systemet för längre straff. Några gånger när jag använt det här exemplet i klassrum har jag fått kommentarer i stil med “Men gud, vilken hemsk värld det blir om datorn får bestämma!”. Det är alltid lika svårt att svara “Nej, det är redan en hemsk värld, algoritmen har bara fått den beskriven för sig, och nu ser du den klarare”. Algoritmen i det här fallet var helt och hållet designad av människor som hade gott om tid att utvärdera resultaten av den, och som valde att fortsätta använda den. Om vi med flit kan designa den algoritmen så är det klart att en AI, där vi inte vet varför den gör som den gör, är betydligt obehagligare.
Foto: Linda Gredåker.