KUNSTIG INTELLIGENS
Finansforbundet slår alarm om bruk av KI i rekruttering
Kunstig intelligens implementeres nå i store deler av finanssektoren, men noen viktige reguleringer har ennå ikke kommet på plass, ifølge Finansforbundet.
Publisert
Sist oppdatert
Kunstig intelligens (KI) bidrar til effektivitet og innovasjon i finanssektoren, men bekymringene vokser rundt personvern og arbeidstakerrettigheter. Finansforbundet melder nå om behovet for målrettet regulering, og tar selv grep for å sikre at de ansattes stemmer blir hørt i den teknologiske utviklingen.
– Vi ønsker primært å synliggjøre utfordringene med bruk av kunstig intelligens i arbeidslivet, sier Maria Østli, advokat og KI-ekspert i Finansforbundet.
– Utviklingen kommer, den er på mange måter allerede her. Da er det viktig at vi rigger oss på en god måte, både for å ivareta den norske modellen og samarbeidet mellom partene. Fokuspunktene våre er personvern, retten til ikke å bli diskriminert, og et godt arbeidsmiljø.
Finansforbundet var tidlig på plass i diskusjonen om KI. Allerede i august 2022 publiserte de rapporten Brytningstid; en studie av kunstig intelligens i norske banker og forsikringsselskap, og senere samme høst lanserte de podcasten KI på Arbeidsplassen sammen med Digital Norway, Negotia og NITO.
«Rivende utvikling»
– Vi har sett en rivende utvikling siden vårt første dypdykk i tematikken i 2022, sier Vigdis Mathisen, leder i Finansforbundet.
Nå implementeres KI i på mange forskjellige måter i finanssektoren:
- På tampen av fjoråret startet Finanstilsynet med et testprosjekt hvor de bruker KI til risikovurdering av mindre banker.
- Noen banker, som Sparebank 1 SR-Bank, har tatt i bruk en chat GPT-variant for å effektivisere kundedialogene sine rundt rådgivning.
- Forsikringsselskaper har begynt å eksperimentere med bruk av KI for å effektivisere prosessen med skadeutbetalinger, som kan omfatte alt fra vurdering av skadekrav til fastsettelse av utbetalingsbeløp.
- KI hjelper bankene med innsikter fra store datamengder, noe som kan omfatte kundeadferd, markedsutvikling og interne prosesser.
- Bankene bruker KI for å forhindre hvitvasking av penger.
- Flere aktører har inngått samarbeid med fintech-bedrifter for å fremme innovasjon og utvikle nye tjenester.
- KI brukes i rekrutteringsprosesser, for eksempel for å filtrere CV-er eller analysere jobbsøkeres kompetanse.
Det er særlig det siste punktet, bruken av KI til rekruttering, som bekymrer Finansforbundet.
Forslag om regulering avvist
Dette kan være utfordrende med tanke på diskriminering, og det kan påvirke mulighetene for ansattes karriereutvikling innad i organisasjonen.
– Her er det jo store muligheter for å gå rett i fella. Og det er det nok mulig at noen har gjort, sier Mathisen.
Finansforbundet mener at det ikke blir stilt nok kritiske spørsmål til implementeringen av disse systemene, og at man ikke vet nok om hvilke datagrunnlag de er laget og testet på.
– Det er for lite fokus på konsekvensene for arbeidslivet, ansatte og personvern når det kommer til implementering av KI. Dette er jo noe vi er veldig opptatt av som fagforening, sier Østli.
– Vi tar i bruk systemer fra store teknologigiganter og programmer som ofte er utviklet i USA, med en annen lovgivning og tradisjoner enn det vi har. Vi har ikke tilstrekkelig forståelse og innsikt i hvordan systemene fungerer og konsekvensene de kan ha for arbeidslivet.
Tidligere i år gikk Finansforbundet i forhandlinger med Finans Norge for å få på plass reguleringer for bruk av KI i finansnæringen inn i hovedavtalen for 2024-2027.
- I årets hovedavtaleforhandlinger med Finans Norge, fremmet vi et krav om å regulere bruken av KI og algoritmer i bedriftene, men arbeidsgiverne avviste dette, sier Mathisen.
Det ble isteden satt opp et såkalt samarbeidsforum mellom Finans Norge og Finansforbundet. Dette forumet skal se på de ulike problemstillingene for bruken av KI innen finansnæringen, og de hadde sitt første møte rett før påske.
GPDR beskytter ikke arbeidstakerne
Finansforbundet er spesielt bekymret for en type programvare som kalles sjefsvare, eller bossware, som er spesialutviklet for å samle inn, analysere og tilgjengeliggjøre data om enkelte ansatte. Dette kan lederne ta ut som statistikker, og det er ikke definert hvordan dette skal reguleres i forhold til GDPR (EUs personvernforordning, General Data Protection Regulation).
– Bruk av KI krever store mengder data, og mye er personopplysninger. Ansattes personvern er ikke ivaretatt godt nok gjennom dagens lovgivning med personopplysningsloven og personvernforordningen (GDPR). GDPR er krevende å forholde seg til både for ansatte og arbeidsgivere. Med KI oppstår det nye utfordringer, og da trenger vi en tilpasset regulering, sier Østli.
Hun forklarer at den kommende 'KI-loven' fra EU (KI-forordningen) i utgangspunktet handler om produktregulering og ikke forholdet mellom partene i arbeidslivet. Forordningen forventes å bli formelt vedtatt i EU i løpet av våren. Forbundet mener regulering av KI på europeisk nivå må suppleres med nasjonale lover og regler i tillegg til regulering i tariffavtaler.
– Vi prøver jo stadig å dytte borti regjeringsapparatet, sier Mathisen.
– For å få dem til å tenke at dette er et område de bør konsentrere seg om.
I følge GDPR har man en hel del rettigheter både som forbruker og ansatt, hvis avgjørelser som blir tatt er helautomatiserte.
Utfordringen med den utstrakte og varierte bruken av KI, er at mange prosessene nå er delvis automatiserte, men at ingen utenfra vet hvilke deler som gjøres av maskiner og hvilke som gjøres av mennesker. Halvautomatiserte avgjørelser utløser per i dag ikke rettighetene som er fastsatt i GDPR.
Et eksempel på dette, er potensialet for ubevisst diskriminering i rekrutteringsprosesser. Her kan KI forsterke eksisterende fordommer ved å trenes på data med samme profil som eksisterende ansatte i bedriften.
– Da ender du opp med kun å ta inn akkurat samme type folk som du allerede har i bedriften, sier Vigdis Mathisen.
– Og det er vel ikke en utvikling noen ønsker seg?
