Kritisk til ukritisk KI-bruk

Den 18. februar skriver journalist Selma Stormyren Larsen om boken «Frøken Snushane og Himmelhuset», som kom ut på Bonnier forlag i forrige uke. Bok nummer to i en bokserie, og har et omslag laget av KI-programmet Midjourney. I motsetning til bok nummer én, som hadde et illustrert av Odin Helgheim.

Forfattere, illustratører, interesseorganisasjoner og ildsjeler reagerer. Foreløpig har forfatteren Unni Lindell selv ikke svart og fordi at hun er opptatt med en krimbok. Illustratøren har heller ikke svart NFFO, men har uttalt i Klassekampen gjennom forlaget TNT at han er «prinsipielt imot å trykke KI-illustrasjoner».

NFFO kontaktet Bonnier

Vi ville stille spørsmål til Bonnier om dette før vi offisielt uttalte oss. I en mail til oss svarer administrerende direktør Alexander Even Henriksen i det som ligner et svar som er publisert i flere medier i dag. Vi har likevel etter beste evne lagt svarene til direktøren under spørsmålene i rekkefølgen av svarene.

– Det er forståelig at bruken av kunstig intelligens i kreative prosesser vekker sterke reaksjoner. Dette er en krevende og viktig debatt for hele bransjen, og vi har stor respekt for at illustratører og oversettere opplever usikkerhet knyttet til utviklingen.

Har Odin Helgheim blitt kompensert for at dere bruker hans første omslag til å generere et nytt et?
– Når det gjelder omslaget til Unni Lindells bok, er det viktig å presisere at dette ikke er basert på Odin Helgheims tidligere illustrasjoner. Omslaget er utviklet med utgangspunkt i forfatterens egne skisser og idégrunnlag.

Hver gang et bilde genereres så henter du jo "inspirasjon" fra et eller annet sted. Hva tenker dere som forlag om opphavsrett på et mer generelt grunnlag ved generering av bilder til kommersielt bruk?
– For oss er det avgjørende å ha tydelige prinsipper for bruk av KI. I Bonnier Norsk Forlag har vi retningslinjer for hvordan teknologien skal anvendes. Helt sentralt i disse er skillet mellom KI som støtteverktøy og KI som selvstendig opphav.

Hvordan sikrer Bonnier at ingen ubrukt materiale fra tidligere verk (inkl. tredjeparts verk) er blitt brukt i KI-treningsdata uten tillatelse?
– Vi publiserer ikke fullt KI-generert kjerneinnhold, som bøker eller omslag, uten vesentlig menneskelig bearbeidelse. Det er viktig at mennesket står som kreativ opphavsperson og tar de avgjørende kunstneriske valgene. Der KI overtar det skapende ansvaret, beveger vi oss inn i et mer problematisk landskap

Det er kjent at dere også bruker KI til å oversette selvhjelpsbøker. Bruker dere KI til flere funksjoner i forlaget?
– Åndsverkloven og opphavsretten er grunnleggende for oss som forlag. Vi har en tydelig praksis om ikke å avlevere rettighetsbelagt materiale til språklærings- eller treningsmodeller. Samtidig må vi som bransje forholde oss til at digitale verktøy utvikler seg raskt. Vårt ansvar er å bruke dem på en måte som ivaretar kvalitet, originalitet og respekt for skapende arbeid.

Skal KI-bruk spesifiseres i kontrakter med illustratører/forfattere?
– Transparens er også et viktig prinsipp. Der KI brukes i prosesser vi har ansvar for, skal dette håndteres åpent og i tråd med våre retningslinjer. Vi må også kontinuerlig tilpasse kontraktspraksis og interne rutiner i takt med den teknologiske utviklingen.

Hvem eier rettighetene ved bruk av KI – kunstneren, Bonnier, KI-plattformen, eller en kombinasjon?
– Debatten om KI reiser større spørsmål om opphav, kvalitet, ansvar og fremtidig regulering. Den diskusjonen mener vi er viktig – og den bør føres med presisjon og nyanser.

Reagerer på svarene

– Dette er så usolidarisk som det går an, sier styreleder i NFFO Marte Blikstad-Balas.

Hun mener forlaget burde vite bedre.

– De vet bedre enn de fleste hvordan det er å være forfatter eller illustratør og skape noe eget, all den tid de tjener pengene sine på å utgi slikt opphavsbeskyttet materiale.

Hva mener du er problemet i løsningen de har valgt?
– Alt. Det er med på å legitimere bruk av KI i bokbransjen som erstatning for menneskeskapte verk, noe vi tar sterk avstand fra. Alle vet at KI-modellene som lager slike bilder er basert på tyveri av andres verk. Dessuten er resultatet elendig: det er påfallende at den unge jenta som ble tegnet av Odin Helgheim til den første boka, har fått både en betydelig trangere genser og sminke i KI-versjon.

Hun syns også at Bonnier bagatelliserer valgene de tar.

– Bonnier har tidligere hevdet at den opprinnelige illustratøren ikke hadde tid til å fortsette å illustrere serien, men det er vel ikke dermed gitt at KI er løsningen? De kunne for eksempel valgt å kontakte en annen illustratør. Det er nesten parodisk at de har godkjent omslaget og at den skal eksistere ute i bokhandlene.

Styrelederen mener det er ekstra viktig å stå solidarisk med illustratørene i denne saken.

– Som forfattere og oversettere er vi på lag med andre skapende mennesker som illustratørene.

Våre retningslinjer

NFFO har selv nylig vedtatt egne interne KI-retningslinjer, der det blant annet tas avstand fra KI-genererte bilder. Grunnen til at bildegenerering er spesielt problematisk er at de er i direkte konkurranse med fotografer og illustratører, og KI-verktøyene som lager disse er systematisk trent på å bryte andres opphavsrett.

– NFFO er opptatt av at all bruk av opphavsbeskyttet materiale i KI-modeller må være basert på samtykke, og bruken må kompenseres. Det er også et avgjørende prinsipp at KI aldri skal brukes som erstatning for menneskers tekster eller bilder. Vi forventer en mer prinsipiell holdning til dette hos alle seriøse aktører, enn det vi ser i dette tilfellet fra Bonnier forlag, sier generalsekretær i NFFO, Cathrine Sandnes.