Kurs 4 · Skjeve data, skjeve svar · Økt 1

Hvem er med i dataene?

Ansiktslåsen som ikke kjente alle igjen

Hva tror du?

Hvis et system skal kjenne igjen ansikter, hva må være med i bildene det lærer av, for at det skal virke for alle?

Skriv svaret på en lapp.

3 til 5 minutter

1 av 5

Systemet lærer av eksemplene det får

Er noen lite med i dataene, får systemet lite øvelse på dem.

2 av 5

Tre kommersielle systemer skulle avgjøre om et ansikt tilhører en kvinne eller en mann.
Menn med lys hud: feil høyst 0,8 prosent.
Kvinner med mørk hud: feil opptil 34,7 prosent.
To mye brukte bildesamlinger hadde 79,6 og 86,2 prosent personer med lys hud.

3 av 5

189 algoritmer fra 99 utviklere ble testet.
De fleste hadde ulik feilrate for ulike grupper.
Forskjellene var for noen typer feil fra 10 til over 100 ganger.
De mest nøyaktige algoritmene hadde minst forskjell.
Mulig årsak: noen grupper er lite med i treningsdataene. Dårlig lys kan også gi feil.

4 av 5

82 av 100 riktige til sammen.

Likevel kan ett system feile nesten annenhver gang for én gruppe.

5 av 5

Tallene er oppdiktet. Ingen skal plassere seg selv i en gruppe.

14 til 18 minutter

Diskusjon

Hvem merker feilen først, og hvem får vite om den?

82 prosent riktige til sammen. Hvorfor kan det være en dårlig målestokk alene?

Hvordan kunne de som laget systemet oppdaget feilen før det ble brukt?

6 til 10 minutter

KI-logg

Hva måtte vært annerledes i dataene for at systemet skulle virke for alle?

3 til 5 minutter · kan flyttes til neste økt

Kilder

Buolamwini og Gebru (2018), Gender Shades. Grother, Ngan og Hanaoka (2019), NISTIR 8280, og NIST FRTE Demographics (2025).

Personer, tall og kort i øvelsene er oppdiktet.