Dette barnet­ finnes ikke

Den teknologiske utviklingen i samfunnet går raskere enn noensinne.

Og det som vi en gang kunne stole på at var sant, er ikke lenger nødvendigvis det.

Bildet du ser i toppen av denne saken ble publisert av den ideelle organisasjonen Dråpen i havet nylig.

I forbindelse med Halloween samlet de inn penger til trengende barn i flyktningleiren Kara Tepe i Hellas.

Men Dråpen i havet tar ikke bilder av de ekte barna som bor i flyktningleiren.

– Selv om vi har tilgang på veldig mange mennesker, er det mennesker i en sårbar situasjon. Og selv om både barn og foreldre gir samtykke til å bli tatt bilde av, gjør vi det ikke, sier generalsekretærer Trude Jacobsen.

Så hvordan kunne de gi publikum et inntrykk av hvordan barna i leiren ser ut, og samtidig opprettholde personvernet deres?

Løsningen ble Gencraft, et gratis dataprogram på nett som bruker kunstig intelligens (KI) til å skape naturtro bilder basert på tekst.

– Jeg skrev bare inn «barn i flyktningleir på Halloween» og dette var et av de første forslagene som kom, forteller Jacobsen, som ble forbløffet av det hun så.

Hun ble sjokkert over hvor naturtro bildet ble, så raskt.

– Jeg kunne fint tatt et helt identisk bilde av en like søt jente i flyktningleiren når som helst, sier Jacobsen.

– Velkommen til fremtiden

Det er omtrent et år siden KI fikk virkelig stor offentlig oppmerksomhet.

Og siden språkmodellen ChatGPT og andre verktøyer ble lansert i fjor høst, har det gått fort.

Forfatter og førsteamanuensis i KI ved NTNU, Inga Strümke, understreker at programmene bare blir bedre og bedre.

Det er ikke lenger en vanskelig oppgave å erstatte ekte ansikter med KI-genererte fjes.

– Velkommen til fremtiden. Dette er bare å venne seg til, sier hun.

Professor i kunstig intelligens ved UiA, Morten Goodwin, mener det samme. Han forteller at utviklingen går svært fort.

– Vi ser det nesten annenhver uke. Noen kommer med noe som er enda bedre enn det forrige.

Dataprogrammene som lager slike bilder er trent opp i å etterligne barn, og alt annet, best mulig.

– De har sett så mange millioner bilder av ting fra den virkelige verden, at de vet hvordan den ser ut, forklarer Strümke.

Bildene dannes helt fra null, og bygger ikke på ekte bilder.

– Programmet begynner med bilde med enormt mange bildepiksler som har helt tilfeldige verdier. Og så gjør det en såkalt «støyfjerning». Det fjerner støy gjennom mange steg, og til slutt står det igjen med et bilde av et barn, forklarer hun.

Strümke er begeistret for grepet som Dråpen i havet har gjort.

– Særlig fordi jeg ikke syns vi skal legge ut bilder av barn i så stor grad som vi gjør, sier hun.

Vår nye minister for digitalisering, Karianne O. Tung, er også positiv til slik bruk av KI-bilder.

– Det er positivt, så lenge det brukes riktig og vi som ser på forstår at det er KI-generert. Det som er problematisk, er når noe uekte villeder oss med å utgi seg for å være virkeligheten, sier hun til TV 2.

– Ikke gitt at alle ser det

Goodwin mener teknologien gir mange muligheter for organisasjoner som Dråpen i havet.

– Men det er bilde av noe som ikke er ekte. Vi ser et barn som ikke finnes, og likevel skal vi få empati med dette uekte mennesket, sier han.

Dråpen i havet legger ikke skjul på at de har brukt KI i denne kampanjen.

– Vi har skrevet det tydelig på bildet. Vi er ikke ute etter å lure noen, sier Jacobsen.

Goodwin mener det likevel ikke er gitt at alle ser denne merkingen.

– Hvis man ser tydelig etter, er merkingen helt klart der. Men når man scroller på Facebook eller TikTok, går det jo veldig fort. Man sveiper og sveiper, og ser kanskje ikke de små tekstene i hjørnet, sier han.

Kan misbrukes

Jacobsen erkjenner at det er utfordringer ved denne teknologien.

– Dette kan jo misbrukes. Det er vi veldig opptatt av ikke å gjøre. Og det er viktig for meg å fremstille ting som de faktisk er.

Hun understreker at KI-barnet på bildet uten problem kunne ha eksistert på ekte.

Strümke mener merkingen har vært god, og avgjørende for at man skal kunne etisk forsvare bruken av bildet.

– Her går Dråpen i havet fram som et godt eksempel, sier hun.

Men ikke alle gjør det.

I vår fikk Amnesty International kritikk for å ha brukt KI-bilder i en kampanje om protester i Columbia. De beklaget og slettet bildene, ifølge The Guardian.

Nylig gikk Sparebank 1 Østlandet ut og beklaget for en reklamekampanje.

De brukte et bilde av det som skulle vise en kunde. Men bildet var generert med KI, og det var det ikke opplyst om.

Saken ble omtalt i flere medier, inkludert Aftenposten og NRK.

Skaper utfordringer

– Jeg tror aldri vi vil kunne gardere oss fullstendig mot KI – akkurat som annen teknologi vil også KI kunne misbrukes. Men vi kan forsøke å ramme inn bruken for å redusere ulempene mest mulig, sier statsråd Tung om utviklingen.

Hun vurderer et påbud om merking av KI-innhold.

Forbrukertilsynet erkjenner at KI skaper utfordringer for dem.

– Markedsføringsloven krever at all reklame der en kropp sin fasong, størrelse eller hud er endret ved retusjering eller annen manipulering, skal merkes med standardmerket «retusjert person – reklame», sier underdirektør Nina Elise Dietzel.

Men om personer som skapt ved hjelp av AI omfattes av merkekravet, er uklart. Dette er ikke direkte omtalt i forarbeidene til denne lovbestemmelsen, ifølge Dietzel.

– Markedsføringsloven har ellers ingen regler som spesifikt angir at bilder laget ved hjelp av KI må merkes. Loven har imidlertid et forbud mot villedende markedsføring. Avhengig av omstendighetene så kan bruken av slike bilder være problematisk etter loven, sier Dietzel.

Hun understreker at fordi KI-bilder blir vanskeligere og vanskeligere å skille fra ekte vare, er det er behov for tydeligere regler.

Datatilsynet opplyser om at de jobber med en strategi for kunstig intelligens, som kommer neste år.

I en tidligere versjon av denne artikkelen skrev vi at Forbrukertilsynet utrede forarbeidene til markedsføringsloven, for å bedre kunne møte utfordringene som KI løfter. Det stemmer ikke. Avsnittet er derfor fjernet.