Kunstig intelligens og etik: Sådan navigerer virksomheder i det komplekse nye landskab

Kunstig intelligens (AI) skaber masser af nye muligheder for at optimere alverdens forretningsgange. Det er i sandhed en teknologi med superkræfter. Men med store kræfter følger også et stort ansvar. Hvordan sikrer vi, at vores brug af AI ikke kompromitterer etiske grundprincipper og risikerer at gøre mere skade end gavn?

Tech-analytiker og ekspert i etik og kunstig intelligens, Thomas Telving, understreger, at tillid til AI afhænger af, at systemerne er både lovlige, etiske og robuste. Siden han begyndte at beskæftige sig med teknologien i 2016 er han blevet en af landets mest populære foredragsholdere om kunstig intelligens.

“På nogle områder gælder præcis de samme principper for AI som for andre teknologier. Det er selvsagt vigtigt med omtanke og solide business-cases, før man investerer. Men fordi der er tale om en teknologi, der kan gøre alt fra at træffe beslutninger til at skabe nye tekster, ny computerkode og nye analyser, stiller brugen etiske krav, vi ikke er vant til,” siger Thomas Telving. Han peger bl.a. på ting som gennemsigtighed, retfærdighed og sikkerhed som væsentlige for at sikre både troværdighed og konkurrenceevne.

”Der er mange vinkler på etisk brug af kunstig intelligens, og det kræver et grundigt analysearbejde at nå hele vejen rundt. Men heldigvis er området langt fra ubeskrevet. EU udgav f.eks. en række principper helt tilbage i 2019, som stadig er gyldige,” siger Thomas Telving. De handlede blandt andet om at sikre, at der bruges data, som ikke diskriminerer, at der er gennemsigtighed i, hvordan en AI-model når frem til en given beslutning, og at der trods en høj grad af automatisering stadig er menneskelig kontrol over vigtige beslutninger.

”Selvom retningslinjerne stadig er gangbare, er der sket betydelige fremskridt inden for AI-regulering i Europa siden,” siger Thomas Telving og peger på EU’s AI Act, som trådte i kraft i august 2024.

AI Act er verdens første omfattende lovgivning, der regulerer kunstig intelligens. Loven indfører en risikobaseret tilgang, hvor AI-systemer klassificeres efter risikoniveauer: minimal, begrænset, høj og uacceptabel risiko. For eksempel er AI-systemer, der anvendes til kritisk infrastruktur, uddannelse og beskæftigelse, klassificeret som højrisiko og underlagt særligt strenge krav til gennemsigtighed, sikkerhed og ansvarlighed.

”For danske virksomheder betyder AI Act, at der nu er klare juridiske rammer for udvikling og implementering af AI-systemer. Det er afgørende at sikre, at AI-løsninger overholder de fastsatte krav. Både for at undgå potentielle sanktioner og for opretholde tilliden hos kunder og samarbejdspartnere,” siger Thomas Telving og understreger vigtigheden af at integrere de nye lovgivningsmæssige krav i virksomheders AI-strategi. Han understreger dog samtidig, at det meget ofte kan være forretningsmæssigt gavnligt at gå et skridt videre.

”Som eksempel kan det være fristende at overlade en meget stor del af virksomhedens kommunikation til chatbots, men jeg vil anbefale at gå varsomt til teknologien,” siger han. Ikke kun, fordi den kan lave faktuelle fejl, men også fordi den kan risikere at klemme sig ind som et ekstra led mellem f.eks. sælger og kunde.

”Hvis en sælger i en B2B-virksomhed sidder og sender mails, der er skrevet af ChatGPT til en kunde, og kunden også svarer ved hjælp af en chatbot, bliver det ikke en dialog, der opdyrker solide relationer og skaber tillid. Det kan i sidste ende skade både salg og loyalitet, og det er kun et eksempel af mange på, at der godt kan ligge skjulte snubletråde i den ellers meget forførende teknologi,” siger Thomas Telving.

Han anbefaler, at alle virksomheder laver en gennemgang af både teknologivalg og teknologianvendelse, som går kritisk til værks og sikre, at fordelene høstes, uden at virksomheden, måske uden at opdage det, får slagsiderne med i posen.