Hva jeg som prosjektleder er opptatt av når vi bruker generativ AI

Photo by Glen Carrie on Unsplash

I den vanlige, voksenjobben min, er jeg prosjektleder for en nasjonal DPIA hvor vi gjør en personvernkonsekvensvurdering av skoleeiers bruk av M365 i skolen. Du kan lese mer om dette arbeidet her: https://www.ks.no/fagomrader/digitalisering/skolesec/nasjonal-dpia-for-microsoft-3652/

Her jobber jeg sammen med en rekke dyktige folk som driver med teknisk konfigurering av M365 på kommunalt nivå, har jobbet med informasjonssikkerhet eller personvern hos skoleeiere eller har pedagogisk bakgrunn og kjenner hvordan disse verktøyene blir brukt i klasserommet.

Det er ikke å stikke under en stol at en STOR del av jobben er å produsere tekst. Vi skal tross alt skrive en DPIA og ferdigstille den i 80% slik at skoleeiere så kan ta den fra 80 til 100%.

Og fordi generativ AI nå eksisterer, og folk både har tilgang til store språkmodeller privat og via jobb, vil de også bruke dette verktøyet.

Som prosjektleder må jeg ta inn over meg dette. Og la meg dele de føringene som jeg har per nå for bruk av generativ AI og hvorfor akkurat disse er viktige for meg.

Jeg forventer at du forteller meg om hvilke avsnitt eller deler av teksten du har generert med AI

Når jeg er prosjektleder, har jeg det øverste ansvaret for at den DPIAen vi lager er bra, det vil si at den vil hjelpe skoleeiere å faktisk vurdere risiko når de bruker M365 i skolen. Da må jeg lese igjennom mye tekst.

Og når jeg skal lese en tekst skrevet av deg som prosjektmedarbeider, VIL jeg vite om du brukt AI til å skrive teksten.

Den største grunnen til det, er at vi som publiserer tekst «with the purpose of informning the public on matters of public interest» skal opplyse om det når teksten er AI-generert. Dette er ikke formelt et krav enda, men vil bli et krav, jf. AI Act artikkel 50(4) andre avsnitt.

Og selv om den bestemmelsen kanskje først og fremst er ment å gjelde media, mener jeg at den også gjelder oss.

Så en rettslig forpliktelse er altså hovedgrunnen. Men den mer personlige grunnen, er at jeg hater virkelig inne i sjela mi å lese en tekst som ÅPENBART er AI-generert og ikke bli opplyst om det.

Du har kanskje kjent på det selv. For meg er dette en slags kombinasjon av en følelse av å bli lurt, men kanskje mer enn det: en følelse av å bli ekstremt indignert på grunn av mangelen på åpenhet.

Denne følelsen blir sterkere når teksten er sånn dårlig, masseprodusert AI-skvip som er helt fullstendig intetsigende.

For da sitter jeg VIRKELIG igjen med en følelse av å kaste bort min dyrebare, verdifulle og hardt arbeidet frem menneskelige intelligens, på noe ræl som du har brukt 2 min på å genere.

Og DET er skikkelig irriterende.

Jeg forventer at du forteller meg om det hvis du bruker generativ AI til å finne kilder

Det andre jeg er opptatt av, er du som prosjektmedarbeider skal fortelle meg om du har brukt generativ AI til å finne kilder.

Denne er SPESIELT viktig, og handler om teknologien bak generativ AI. Med generativ AI mener jeg her en stor språkmodell. Den er trent på veldig store mengder tekst, og har ikke noe forhold til sannhet.

Det er heller en sannsynlighetsmaskin som vil generer et tekstsvar basert på en «prompt» fra deg, og det tekstsvaret er ikke sant, det er det mest sannsynlige «svaret». Det vil si at den gir deg ord i den rekkefølgen som er et sannsynlig svar på det du har instruert den om å svare ut.

Jeg er jurist, og kan ikke mye matte. Men selv jeg vet at sannsynlighet aldri vil bli 100%. Det betyr at generativ AI vil ta feil. Vi sier at den «hallusinerer».

Når du har brukt generativ AI til å finne kilder, betyr dette at den VIL finne på kilder. Ikke hele tiden, og kanskje i mindre grad når den også kan gjøre søk på internett. Men det er viktig å forstå teknologien bak for den forklarer hvorfor dette VIL skje, den VIL finne på kilder.

Det vil i så fall være alvorlig. Derfor er jeg så veldig opptatt av at når jeg er prosjektleder, og nettopp har det øverste ansvaret for at det vi lager skal være bra, MÅ jeg få vite om du har brukt generativ AI på denne måten.

For da forventer jeg at du har trippelsjekket kildene. Og så kommer jeg også til å trippelsjekke kildene.

La oss koke dette ned til to tydelige forventninger

Oppsummert har jeg to forventninger:

1.       Fortell meg om når du har brukt AI til å genere teksten jeg skal lese fra deg. Vi trenger nemlig å opplyse om det med en type «disclaimer» i den endelige teksten. Og

2.       Fortell meg om det når du har brukt generativ AI til å finne kilder. Disse forventer jeg at du har trippelsjekket om faktisk eksisterer, og jeg vil gjøre det samme!  

Har du noen erfaringer med dette som gjør at dere har implementert andre regler i din virksomhet? Akkurat her er jeg sikker på at vi kommer til å finne ut av mange flere ting etter hvert som vi bruker disse verktøyene! 

Denne bloggposten er basert på nyhetsbrevet mitt om personvern. Driver du med personvern og kunne tenke deg støtte i form av et ukentlig nyhetsbrev? Meld deg på her!

Disclaimer: No AI Training Use

All content on this blog, including text, images, and other materials, is the intellectual property of the author unless otherwise stated. This content may not be used, copied, stored, or processed in any way for the purpose of training artificial intelligence or machine learning models, including but not limited to large language models (LLMs), without explicit, written permission from the author.