AI och författaren: Om ChatGPT, Midjourney och OpenAI

Inför en föreläsning om AI skapade jag ett program med hjälp av Chat GPT som en underhållande vinkel, men när jag stod inför publiken kastade jag allt åt sidan. I stället började jag prata med mina elever om den solkiga baksidan av AI. Sedan tidigare var jag medveten om att Open AI bygger på stöld av hundratusentals böcker och konstverk, men också att systemet har tränats av underbetalda arbetare. Under förberedelserna inför kvällen hade jag dock hittat en verklighet som var ännu mer beklämmande än jag hade föreställt mig: en värld där copyright, IT-säkerhet och mänskliga rättigheter sätts ur spel. Ett historiskt EU-avtal om AI har nu tagits fram, men de åtgärder som listas låter som att sätta ett plåster på ett redan infekterat sår.

Men AI kan ju vara till nytta också?

Jag har märkt att det alltid är någon som känner sig tvungen att inflika “men AI kan vara till nytta också” så fort jag tar upp dessa frågor. Det vet jag naturligtvis redan, men jag anser att vi behöver diskutera baksidan av AI med samma självklarhet som vi ifrågasätter kläder och skor framställda genom barnarbete, gruvdrift i naturområden och flygets klimatavtryck. I förbifarten kan vi lika gärna passa på att notera att koldioxidavtrycket för att utveckla AI-tjänster överträffar flygindustrins. Det är mänskligt att vilja hänga med i utvecklingen, för vem vill missa AI-tåget? Det är också lätt att förstå frestelsen i att få se porträtt på sig själv omvandlade till mytologiska varelser eller få fram ett billigt bokomslag. Dock kan du också välja att lägga dig i framkant genom att utbilda dig ännu mer i ämnet.

Samtidigt som jag skriver detta dyker det upp allt fler annonser om AI-tjänster och utbildningar som lovar att varenda arbetsplats kommer att blomstra med hjälp av artificiell intelligens. Marknadsföringen är översvallande redan innan någon ens har hunnit reglera AI-tjänsterna. Kanske med avsikt, så att vi ska bli beroende av tjänsterna innan vi hinner fundera över ålderdomliga begrepp som etik och moral? Taktiken påminner mig om när ett biogasföretag avverkade en uråldrig ekskog utan tillstånd för att det skulle bli lättare att driva igenom bygget av en fabrik precis vid Ältasjön där jag bor. Skogen var ju redan avverkad.

Frågorna kring AI är komplexa och låter sig inte gärna fångas i ett nötskal, men låt oss belysa några viktiga aspekter: vem gör grovarbetet, hur blir det med copyrightskydd för författare och konstnärer, och vad händer när AI hallucinerar?

Vem tjänar pengar – och vem gör grovarbetet?

För att kunna förhålla oss till AI måste vi inleda med att ställa frågan vem som tjänar pengar – och hur det här till synes magiska systemet kom till. Systemet är utvecklat av OpenAI som värderades till 29 miljarder kronor i början av 2023. På börserna råder AI-hysteri. Time Magazine har avslöjat att AI-systemen tränas med hjälp av arbetare från bland annat Kenya för en timlön på (i bästa fall) 20 kronor. Dessa arbetare ska bland annat identifiera och märka upp skadligt innehåll. Arbetare från Venezuela har berättat för Wireds journalist Niamh Rowe att de jobbar 18 timmar per dygn och ofta under osäkerhet kring om de kommer att få några uppdrag eller någon lön över huvud taget.
“Men har du tänkt på att det kan vara positivt för de här fattiga människorna att få en lön?” frågade en författarkollega under ett mingel på Salong Zonen. “De får säkert arbetsträning också.”

Ja, det var en bra fråga, och det visade sig stämma att arbetarna måste genomgå en arbetsträning. Den är dock obetald. Om de begår fel blir de utkastade ur systemet utan förklaring. De här människorna har kallats vår tids algoritmproletärer. Även barn lockas att ta dessa uppdrag: enligt Niamh Rowe använder de vuxnas identiteter för att kunna jobba. Hassan från Pakistan blev som 15-åring värvad via en app till att träna AI. Hassan fick uppdrag som att sortera sexuella bilder på minderåriga, beskrivningar av mord och våldtäktsbilder. Han uppger att arbetet har påverkat hans mentala hälsa och känns som en digital träldom.
Jag tror inte att någon i vår del av världen skulle vilja skicka våra ungdomar på sommarjobb för att träna Open AI, inte ens om lönen var rättvis. Inte heller skulle vi vilja ta bilder på våra småbarn för att träna AI, något som föräldrar i fattiga länder och flyktingläger uppmanas att göra. På senare tid har man även börjat anlita interner från bland annat finska fängelser. De får 1,5 euro per timme för sitt arbete. Den här lösningen har beskrivits som ett rättvisemärkt alternativ till att träna AI i låglöneländer. För mig låter det snarare som om Open AI gör allt för att komma undan så billigt som möjligt.

Utnyttjade författare

Närmare 200.000 författares verk har piratkopierats till databasen Books3, utan att de har fått någon ersättning. Sveriges författarförbund har ställt sig bakom den amerikanska stämningen av OpenAI, företaget bakom ChatGPT. John Grisham, Jonathan Franzen, Jodi Picoult och George R.R. Martin är några av de mer välkända namnen bakom stämningen. Romaner och noveller av Nobelpristagare från hela världen har också utnyttjats. Författarna anklagar OpenAI för att utan tillåtelse utnyttja deras verk till att träna tekniken bakom Chat GPT. Bland de nordiska författare vars verk har använts, kan vi nämna Jonas Jonasson, Camilla Läckberg och Jon Fosse.
“Jag känner mig lite våldtagen. Läs gärna det jag skriver men ät inte upp det och arbeta om det”, säger författaren Jonas Jonasson i en intervju med Kulturnytt från oktober 2023.
I ett samtal med en skrivande kollega fick jag höra argumentet att det här är helt i sin ordning – författare har ju stulit från varandra i alla tider. Det stämmer att vi har inspirerats av varandra genom tiderna, men upphovsrätten kom till just för att skydda författarens rätt till en inkomst. När du använder Chat GPT får författaren just nu inte ett öre (till skillnad från om du lånar böcker, använder streamingtjänster eller köper boken). Med hjälp av The Atlantics sökverktyg kan författare undersöka om deras titlar har använts.

Du arbetar också gratis

Precis som i övriga samhället är det många i den litterära världen som redan använder dessa verktyg, ibland utan att ha en aning om hur de har utvecklats, och ibland för att man bär på mentala skygglappar. Att vi redan översvämmas av produkter som framställs av barn, ökar klimatavtrycket och väcker andra etiska frågor kan få oss att tänka att det ändå inte spelar någon roll. Författare, bibliotek och andra aktörer leker med ChatGPT och postar resultatet i sociala medier som underhållning eller marknadsföring.

Arbetare och utbildare ur alla yrkesgrupper får gå på kurs för att lära sig mer om hur AI kan användas för att bli mer effektiv på jobbet. Jag har träffat flera vänner och bekanta som gått en AI-utbildning, men utan att få någon information om hur AI tränas, eller hur vi själva bidrar till träningen. Alla som använder AI-verktyg sponsrar utvecklingen av teknik baserad på arbete i tredje världen och är dessutom med och tränar tekniken. En av mina kursdeltagare fick leka med Chat GPT på en skrivkurs och upptäckte att verktyget efter en stund kunde skriva en dikt i hennes egen stil.

Bryan Arnott förklarar i en artikel från Forcepoint.com att Chatt GPT sparar information om ditt konto, ditt IP-nummer, din chatthistorik (om du inte vet hur du stänger av funktionen) och all data du förser den med. Inklusive innehåll och filer du laddar upp. Dataforskaren Jiahao Yu har testat över 200 skräddarsydda Chat GPT-system och upptäckte att det är relativt enkelt att få Chat GPT att spotta ut träningsdata och känslig information bara man vet hur. I vissa fall är det så enkelt som att skriva ett kommando på engelska.

Det här innebär en säkerhetsrisk samtidigt som du hjälper till med att träna Chat GPT. Om du inte är försiktig, delar du med dig av DNA:t i de texter du skriver in, de idéer du bollar och de världar du skapar, så att de i sin tur kan omvandlas igen. Det här gör du helt gratis.

Copyright

Om du vill skriva böcker med copyrightskydd bör du definitivt vara försiktig med hur du använder verktyg utvecklade med hjälp av Open AI. En domstol i USA har fällt avgörandet (vid minst tre olika tillfällen) att helt AI-genererad konst inte kan copyrightskyddas. Amazon har bestämt att böcker skrivna helt eller delvis med AI ska märkas upp, eftersom kunderna vill veta om de läser texter av en människa. Redan nu finns verktyg som kan kontrollera om ditt verk är helt eller delvis skapat med hjälp av AI, nämligen Originality.ai. Verktyget kan också kolla om en text är plagierad. Om någon känner sig manad att skriva AI-böcker kan det med andra ord vara smart att vara öppen med detta med en gång.

Bokomslag utan copyrightskydd

Allt fler genererar bokomslag med hjälp av verktyg som Midjourney och Stable Diffusion, framför allt egenutgivare men också vissa bokförlag som vill spara pengar. Med hjälp av AI-verktyg kan du beskriva det omslag eller de karaktärsporträtt du önskar dig och så trollas det fram, gratis eller mot en viss avgift. Det låter ju fiffigt, men journalisten Melissa Heikkilä har lyft hur enskilda konstnärer påverkas i en artikel i Technology Review. Greg Rutkowski är en av tusentals konstnärer som inte uppskattar att hans konst har stulits och använts för att träna AI. Hans namn har utnyttjats 93.000 gånger.

I januari 2024 läckte en lista med namnen på 16.000 konstnärer vars konst har utnyttjats, något som bland annat har uppmärksammats i Aftonbladet. Det rör sig om världskända namn som Yayoi Kusama, Frida Kahlo och Walt Disney. Konstnären Jon Lam har tagit skärmbilder av en chatt där Midjourneys verkställande direktör David Holtz välkomnar utnyttjandet av dessa 16.000 konstnärer. På en annan skärmbild från Jon Lam säger en av de anställda: ”all you have to do is just use those scraped datasets and the [sic] conveniently forget what you used to train the model. Boom legal problems solved forever.” En kommentar som gillades av fyra av medlemmarna i gruppen.

Redan sedan tidigare har konstnärer haft problemet att folk använder deras konst utan tillstånd, men nu ska de också tävla mot AI-genererade verk. Utöver att användare av Midjourney sponsrar konsttjuvar, framställer de bilder som enligt amerikansk lag inte kan copyrightskyddas. Det innebär att vem som helst kan använda sig av exempelvis ett bokomslag utan att be om lov.

Förlag som nyttjar bildbanker kan också råka ut för problem: bokförlaget Blooomsbury har redan råkat använda en AI-genererad bild av misstag. De kände inte till att bilden till ett bokomslag som de valde till författaren Sarah J. Maas var AI-genererad, eftersom de köpte bilden från en bildbank.

När AI hallucinerar

Första gången du testar ChatGPT kommer du kanske att häpna över att den verkar så smart, även om man ibland snarare får sig ett gott skratt över ett besynnerligt svar. Det är lätt hänt att förhärliga dess förmåga att resonera, men den har än så länge ingen urskillningsförmåga. ChatGPT kan till exempel uttrycka sig verbalt och trevligt om vikten av upphovsrätt trots att dess system bygger på intrång i just upphovsrätten. Tekniken tenderar att förstärka fördomar kring kön, ursprung och rättvisa, något som visat sig både vid experiment för att generera bilder, och förslag inom livsavgörande områden som läkarvård.

Källforska … en gång till

Om du använder OpenAI till källforskning blir du tvungen att källforska en gång till. Det beror på att AI aldrig är smartare än den data den förses med, men också ett fenomen som kallas för AI-hallucinationer. Egentligen är AI byggt för att hämta fakta, men Javin West (som är Associate Professor på University of Washington Information School) påpekar att AI ibland kan hitta på källor, alltifrån böcker som inte existerar alls till artiklar med trovärdiga namn från världskända tidningar. En artikel som verkade komma från en journalist hos The Guardian hade en så väl vald titel att journalisten i fråga blev osäker på om hen hade skrivit den. Det krävdes en genomgång av arkiven för att kunna bekräfta att så inte var fallet.

Motsvarande tekniker har redan byggts in i Microsoft Bing, och kommer att byggas in i plattformar som Google. I hela samhället utvecklas just nu verktyg som både har enorm potential och frapperande skavanker. Alla som har de rätta kunskaperna kan sätta i system att sprida felaktig information och utnyttja AI till minsta möjliga kostnad. Det finns potential för valfusk och trollfabriker, men också för att det ska hamna faktafel i böcker. Nyligen upptäcktes att AI-skrivna svampböcker som säljs på Amazon ger livsfarliga råd, som att smaka på svampen.

Redan nu har stora aktörer använt AI för att skapa bilder och material, vilket säkert har sparat pengar men kanske inte stärkt deras trovärdighet. Ett av de märkligaste är omslaget till Le Mondes specialutgåva om de nordiska gudarna som innehåller ett antal uppseendeväckande fel. Hornen kanske är det mest uppenbara, men vad är det egentligen för fartyg i fjärran? Varför har vikingen sex fingrar och hur hänger detaljerna på bröstet ihop?

Förgiftad information

Det har dessutom visat sig möjligt att ”förgifta” AI genom att tillhandahålla falsk information, precis som i andra medier, både när det gäller förmågan att tolka bilder och generera texter. Bland konstnärer finns flera initiativ för att skydda konst, till exempel Nightshade – en teknik som manipulerar konst så att den AI som dammsuger i sig bilderna blir sämre på att tolka bilder. En kattbild kan förvandlas till ett våffeljärn, en handväska till en hund. Det räcker med 50 förgiftade bilder för att systemet ska glömma hur en riktig katt eller handväska ser ut.

Organisationen NewsGuard har hittat hundratals webbsidor som skapar “opålitliga AI-genererade nyheter och AI-genererad information” – sidor med namn som låter trovärdiga men som berättar om saker som inte har hänt i verkligheten. Tekniken kan också användas för att förvanska historia och fakta, till exempel fabricera “bevis” för att månlandningen aldrig ägde rum. Detta på ett allt mer övertygande sätt. Virala AI-generade bilder och nyheter har redan varit i omlopp. Den som betraktar bilderna med lupp kan än så länge hitta detaljer som visar att det rör sig om AI-generat stoff, men det är mest en tidsfråga innan de blir mer sofistikerade.

För sent att stoppa tillbaka anden?

Det är förmodligen många som anser att det redan är för sent att stoppa tillbaka anden i flaskan. Dock finns det också individer som väljer bort nya kläder på grund av barnarbete, som åker tåg hellre än flyger, och som varje dag gör en hel rad etiska val utan att tveka. Att vrida klockan tillbaka låter sig inte göras, men det är aldrig för sent att vara medveten om de problem som finns, protestera mot oegentligheter och göra mer medvetna val. En gång i tiden ansåg en majoritet att slaveriet i Sydstaterna var ”ett nödvändigt ont” och ett effektivt ekonomiskt system.

Att skriva med HI

Den som egentligen vill slippa skriva eller söker genvägar till att producera text kan säkert ha någon sorts nytta av AI, men inte den som skriver för att det är ett kreativt behov. Att erbjuda AI-tjänster till en författare är som att fråga en fisk om den behöver simfötter. För mig är ChatGPT ointressant som kreativt bollplank, dels för att jag har en egen hjärna, och dels för att jag hellre pratar med människor med ett unikt sätt att tänka. Om jag överlåter delar av den kreativa processen till AI blir det mindre kvar till mig.* Ungefär som att googla för att klara av att lösa ett klurigt korsord. Något AI inte förmår är att låta dig uppleva processen att skapa en roman, och den kan inte heller framkalla det flow som uppstår under skrivandet. Lösningen för alla som är intresserade av både etik och kreativitet är att skriva med HI i stället för med AI – det vill säga med hjälp av Human Intelligence.

Alla som försörjer sig på att vara kreativa kan dock vänta sig ett förändrat landskap och det är inte första gången. Spotify ritade om världen för alla musiker och innebär att det är svårare än någonsin att försörja sig på sin musik, trots att den kan spridas över hela jorden i en blinkning. Strömmade ljudböcker har inneburit sämre intäkter för författare, inte för att det är fel på själva tekniken utan för att pengarna hamnar i plånböcker högre upp i näringskedjan. Vi kommer inte att försvinna nu heller, utan snarare hitta nya sätt att verka. I nuet påverkar jag det jag kan, delar skrivandets magi med kollegor och elever i författarkonst och skriver vidare på nästa roman.

KÄLLOR

Renee Cho, AI’s Growing Carbon Footprint, Columbia Climate School 9 juni 2023.
https://news.climate.columbia.edu/2023/06/09/ais-growing-carbon-footprint/

*Marcin Frąckiewicz, ‘How does AI affect our brains?’, TS2, 15 oktober 2023.
https://ts2.space/en/how-does-ai-affect-our-brains/

Oscar Gonzales, ‘AI misinformation: How it works and ways to spot it’, CNET 8 november 2023.
https://www.cnet.com/news/misinformation/ai-misinformation-how-it-works-and-ways-to-spot-it/

Förlag ovetande om AI-genererad bild på bokomslag
https://nischad.se/100ord/forlag-ovetande-om-ai-genererad-bild-pa-bokomslag/

Melissa Heikkilä, ‘This artist is dominating AI generated art and he’s not happy about it’, Technology Review, 16 september 2022.
https://www.technologyreview.com/2022/09/16/1059598/this-artist-is-dominating-ai-generated-art-and-hes-not-happy-about-it/

Konstnären Jon Lamms skärmbilder av en diskussion om MidJourney.
https://twitter.com/JonLamArt/status/1741545927435784424 

‘Svenska författares verk utnyttjas av AI’, Författarförbundet.se
https://forfattarforbundet.se/svenska-forfattares-verk-utnyttjas-av-ai/

Bryan Arnott, ‘Yes, ChatGPT Saves Your Data. Here’s How to Keep It Secure’, Forcepoint 13 september 2023
https://www.forcepoint.com/blog/insights/does-chatgpt-save-data

Originality.ai – ett verktyg för att identifiera AI-genererade texter och plagiat
https://originality.ai

The Atlantics sökverktyg – har dina titlar använts för att träna AI?
https://www.theatlantic.com/technology/archive/2023/09/books3-database-generative-ai-training-copyright-infringement/675363/

Seth Kugel, Stephen Hiltner, ‘A new frontier for travel scammers’, New York Times, 5 augusti 2023.
https://www.nytimes.com/2023/08/05/travel/amazon-guidebooks-artificial-intelligence

Linus Larsson, ‘AI-träningen är i full gång på finländska fängelser’, DN, 31 oktober 2023.
https://www.dn.se/kultur/linus-larsson-ai-traningen-ar-i-full-gang-pa-finlandska-fangelser/

Chris Moran, ‘ChatGPT is making up fake Guardian articles’, The Guardian 6 april 2023.
https://www.theguardian.com/commentisfree/2023/apr/06/ai-chatgpt-guardian-technology-risks-fake-article

Billy Perigo, ‘OpenAI used Kenyan workers on less than $2 per hour to make ChatGPT less toxic’, 18 januari 2023.
https://time.com/6247678/openai-chatgpt-kenya-workers/

Niamh Rowe, ‘OpenAI used Kenyan workers on less than $2 per hour to make ChatGPT less toxic’, 18 januari 2023.
https://www.wired.com/story/millions-of-workers-are-training-ai-models-for-pennies/

Niamh Rowe, ‘Underage workers are training AI’, 15 november 2023.
https://www.wired.co.uk/article/artificial-intelligence-data-labeling-children

Lea Asmelash, ‘These books are being used to train AI. No one told the authors‘, CNN 8 oktober 2023.
https://edition.cnn.com/2023/10/08/style/ai-books3-authors-nora-roberts-cec/index.html

Ebba Sörhag, ‘Granskning: Svenska författares verk utnyttjas av AI’, SR 11 oktober 2023.
https://sverigesradio.se/artikel/kartlaggning-svenska-forfattares-verk-utnyttjas-av-ai

‘Why AI bias can hurt your business’, Wired 15 juni 2023.
https://www.wired.co.uk/bc/article/why-ai-bias-can-hurt-your-business-ey

Ginevra Chilli ‘Lab take on a kids’ game reveals biases in ChatGPT’, Nature 23 november 2023.
https://www.nature.com/articles/d43978-023-00176-8

Matt Burgess, ‘OpenAI’s Custom Chatbots Are Leaking Their Secrets’, Wired 29 november 2023.
https://www.wired.co.uk/article/openai-custom-chatbots-gpts-prompt-injection-attacks#intcid=_wired-uk-bottom-recirc_713de634-62c3-4755-adc2-d73370b15d95_text2vec1

Chloe Xiang, ‘People are creating records of fake historical events using AI’, Vice 27 mars 2023.
https://www.vice.com/en/article/k7zqdw/people-are-creating-records-of-fake-historical-events-using-ai

ChatGPT AI, ‘What AI says on its impact on human mind and intelligence?’, Failwise 20 januari 2023.
https://failwise.co/articles/v/what-ai-says-on-its-impact-on-human-mind-and-intelligence

__________
Artikelförfattare: Jorun Modén, författare och medlem i Sveriges författarförbund samt Författarcentrum.