Checklista för transparens

Checklista för transparens

Digitala tjänster inom utbildning använder i ökande grad AI för att generera innehåll, analysera data, ge rekommendationer eller anpassa lärande och funktioner. AI som kan vara generativ, analytisk eller adaptiv och påverka både undervisning, lärande och verksamhetsprocesser.

För att skapa transparens kring hur AI används i en edtechtjänst och för att underlätta dialog mellan leverantör och huvudman har vi tagit fram en checklista för våra medlemsföretag att använda. Checklistan används än så länge endast inom ramen för Edtechkartan Skola och de leverantörer som finns under området “AI-funktionalitet inom lärande”, och med olika AI-taggar.

Om checklistan

Checklistan är ett frivilligt verktyg som medlemmar i Swedish Edtech kan använda för att beskriva hur AI-funktioner är utformade och hur data hanteras i tjänsten.

Den är inte en kvalitetsbedömning eller juridisk prövning, utan ett underlag för beskrivning och proportionerlig intern genomgång. Det är en självdeklaration som tydliggör hur AI används i en tjänst, med fokus på hur den påverkar beslut som rör användaren och om användardata används för modellträning eller förbättring.

Leverantören ansvarar för att de uppgifter som lämnas är korrekta och aktuella. Huvudman ansvarar för att bedöma tjänsten inom ramen för den egna organisationens ansvar, inklusive eventuella krav på informationsklassning, avtal och konsekvensbedömning. Informationen kan användas som underlag för intern genomgång hos huvudman, till exempel inför införande, upphandling eller dataskyddsbedömning.

AI-kategorier

Några av frågorna i checklistan avgör vilken AI-kategori tjänsten motsvarar. Dessa rör två centrala områden: hur AI påverkar beslut eller rekommendationer som rör användaren och om användardata används för modellträning eller förbättring av AI-modellen. Övriga frågor är fördjupande och påverkar inte kategorin. De tre kategorierna av AI som används är i sig förenliga med användning i utbildningsmiljö, skillnaden ligger i hur integrerad AI är i beslut och datahantering och därmed vilket behov av intern analys som kan finnas. Vid bedömning gäller alltid den högsta tillämpliga kategorin.

🟦 Kategori 1: AI hjälper
AI fungerar som ett stödverktyg.

🟦🟦 Kategori 2: AI föreslår
AI fungerar som beslutsstöd, men en människa fattar alltid det slutliga beslutet.

🟦🟦🟦 Kategori 3: AI avgör
AI påverkar beslut direkt eller använder användardata för generell modellträning enligt leverantörens standardvillkor.

För tillgång till checklistan, se Kontakt i menyn.

Obs! Tolkning pågår
AI-förordningen implementeras just nu och precis som med andra lagar, t.ex. GDPR, sker olika juridiska tolkningar av artiklarna och definitionerna. Det är inte förrän något har prövats juridiskt och en dom, ett vite eller liknande kommit, som vi faktiskt vet hur förordningen ska tolkas. Den här översikten är till för att skapa medvetenhet om AI-förordningen kopplat till utbildning och att det är viktigt att följa och ha koll på hygienfaktorerna, att era rutiner för informationssäkerhetsklassning, granskning och val av digitala tjänster även inkluderar AI-systemen och att ni jobbar med AI-kunnighet – AI-litteracitetet – hos medarbetarna. Följ speciellt rekommendationer och råd från DIGG och IMY. 

19 nov 2025: EU-kommissionen presenterar Digital Omnibus, ett förslag på en digital samlingsförordning som bland annat rör AI-förordningen och t.ex. en flexiblare tidsplan för ikraftträdandet gällande hög-risk-AI.