AI Act: Bliv klar til nye regler om kunstig intelligens

Denne artikel er sponsoreret af Computerworld

Din virksomheds AI-løsninger skal snart leve op til nye EU-krav – ellers risikerer I både bøder og sager, der skader kundernes tillid til jer. Læs her, hvordan du når i mål.

EU’s AI Act sætter helt nye rammer for, hvordan kunstig intelligens må anvendes i virksomheder over hele Europa. Med regelsættet følger konkrete krav, som både store koncerner, mindre og mellemstore virksomheder skal forholde sig til – uanset om din virksomhed selv udvikler AI-løsninger eller benytter tredjepartsprodukter.

Mange tror, at AI Act mest handler om store techgiganter, men det er ikke sandt. Bruger din virksomhed AI i mere afgrænsede processer som kundeservice, rekruttering eller automatisk sagsbehandling, så er I også omfattet af reglerne.

Ja, faktisk kan en chatbot, der vejleder kunder online, eller et system, der automatisk prioriterer opgaver, være nok til at falde ind under den nye lovgivning.

Regler, risici og ansvar: Det kræver AI Act af dig

AI Act er dels sat i verden for at fremme sikker, gennemsigtig og etisk brug af kunstig intelligens. Dels for at beskytte borgerne mod diskrimination, uigennemsigtige beslutninger og urimelig brug af data.

Nogle typer AI-anvendelse er helt forbudt. Det gælder:

·Social scoring: AI, der klassificerer personer efter adfærd eller status.

·Manipulation: AI, der påvirker adfærd via sårbarheder eller subliminale teknikker.

·Biometrisk kategorisering: AI, der grupperer personer efter følsomme data som religion eller seksualitet.

·Realtids biometrisk overvågning: AI, der identificerer personer i offentlige rum via f.eks. ansigtsgenkendelse (med få undtagelser).

I den helt anden grøft finder vi AI-systemer i lavrisikokategorien; det gælder f.eks. oversættelsesløsninger, basal markedsføring eller simple chatbots, hvor reglerne er relativt lempelige.

Der, hvor de fleste vil stifte bekendtskab med den nye AI-lovgivning, er omkring såkaldt højrisiko-anvendelse indenfor bl.a. følgende området:

·Kreditvurdering: AI, der afgør låneadgang eller -betingelser.

·Rekruttering: AI, der screener eller udvælger kandidater til jobs.

·Uddannelse: AI, der bedømmer elever eller træffer afgørelser om adgang.

·Offentlig sagsbehandling: AI brugt i tildeling af ydelser eller rettigheder.

·Retshåndhævelse: AI, der understøtter politiarbejde og efterforskning.

·Migration og grænsekontrol: AI brugt til visum- og asylbehandling.

·Retssystemet: AI, der assisterer i fortolkning af love eller afgørelser.

·Kritisk infrastruktur: AI, der styrer transport, energi eller vandforsyning.

Her stilles blandt andet skærpede krav om risikovurdering, menneskelig overvågning og løbende rapportering.

For mange organisationer kan det virke både teknisk og administrativt krævende. Men det er nødvendigt at komme i gang – og det kan give en konkurrencefordel at være blandt dem, der håndterer reguleringen professionelt fra start. Her kan det være en rigtig god begyndelse at tage et AI kursus eller en egentlig AI Act workshop, der giver dig sikker viden om, hvordan du konkret og effektivt håndterer AI Act i din organisation.

AI Act rammer bredere end de fleste tror

Den nye AI-regulering i Europa handler således ikke kun om særligt avancerede AI-systemer. Loven omfatter mange af de løsninger, som danske virksomheder bruger i det daglige. Herunder også en del IT-løsninger, vi måske ikke umiddelbart forbinder med kunstig intelligens.

Fælles for de løsninger, der betegnes som højrisiko af AI Act er, at de i en eller anden grad træffer beslutninger eller understøtter processer, der har indflydelse på enkelte mennesker. Hvem går videre til samtale som ny Key Account Manager og hvem sorteres fra? Hvem får lov at låne penge – og hvad skal det koste? Bare for at nævne to helt oplagte eksempler.

Manglende compliance kan blive dyrt

Ignorerer virksomheder kravene, risikerer de ikke kun bøder, som ifølge lovteksten kan løbe op i op til svimlende 35 millioner euro eller 7 procent af den globale omsætning for særligt grove overtrædelser.

Men uforsvarlig omgang med AI risikerer også at sætte virksomhedens troværdighed og omdømme på spil. For eksempel kan en AI-løsning, der diskriminerer jobansøgere, giver fejlagtige anbefalinger til kunder eller svarer fornærmende på spørgsmål, meget nemt skabe negativ omtale og føre til tab af både tillid og markedsandele.

Derfor vælger stadig flere offentlige og private organisationer at opkvalificere deres nøglemedarbejdere, så de får konkret indsigt i AI Act og kan omsætte den viden til konkret handling.

Det handler ikke kun om jura og IT, men om at sikre, at hele organisationen er rustet til at arbejde ansvarligt med kunstig intelligens.

Sådan kommer din virksomhed godt i gang

Med AI Act og hele den samlede pakke af europæisk lovgivning om kunstig intelligens har din organisation en konkret og praktisk opgave foran sig, der allerede nu bør finde vej til direktionsgang, udviklingsafdeling og compliance-team.

Første skridt er at få overblik over, hvilke AI-systemer jeres virksomhed allerede bruger og hvordan de passer ind i lovens risikokategorier. Her bliver mange overraskede over, hvor meget der faktisk tæller som AI i lovens forstand – også selvom det måske ”bare” er et automatiseret værktøj til mailsortering eller kundesegmentering.

Når overblikket er på plads, skal I analysere risici, vurdere graden af menneskelig overvågning og sikre, at systemerne kan dokumenteres og forklares. Det kan også være nødvendigt at tilpasse eksisterende løsninger eller etablere nye interne processer for datadokumentation, ansvar og kvalitetssikring.

Investér i viden og undgå dyre fejl

Din organisation bør altså ikke kun prioritere at blive compliant med AI Act for at undgå bøder. Men også for at I kan stille skarpt på, hvordan AI anvendes forsvarligt og værdiskabende i forretningen.

Derfor er praktisk forståelse af AI-lovgivning ved at blive en konkurrenceparameter og navnlig i brancher hvor automatisering og dataanvendelse er afgørende.

Det er baggrunden for, at Computerworld Kurser har valgt at tilbyde en praktisk workshop i AI Act. Her får du og de andre deltagere en konkret gennemgang af kravene i AI Act, hjælp til risikoklassificering og værktøjer til at implementere compliance i praksis – uanset om du beskæftiger dig med IT, jura eller forretningsudvikling.

Tre ting du kan gøre allerede i dag

AI Act er vedtaget, og lovgivningen om udvikling og anvendelse af kunstig intelligens er trådt delvist i kraft. Resten af lovgivningskomplekset implementeres gradvist frem mod 2027, og det er bestemt ikke for tidligt at forberede sig på at blive fuldt compliant.

For jo før du får styr på jeres brug af AI, des nemmere bliver det at sikre compliance og undgå dyre overraskelser senere. Her er tre konkrete skridt, du kan tage allerede nu:

·Kortlæg dine AI-systemer: Få overblik over, hvor I anvender AI i dag, og vurdér om de falder ind under AI Act. Husk, at det både gælder interne værktøjer og eksterne løsninger leveret af tredjepart.

·Vurder risici og påvirkning: Hvilken indflydelse har jeres AI-systemer på mennesker, kunder eller medarbejdere? Jo større konsekvens, jo højere bliver kravene til dokumentation og kontrol.

·Sæt viden i system: Identificer medarbejdere, der skal forstå og arbejde med AI Act – og sørg for, at de har den nødvendige viden til at håndtere opgaven. Overvej at sende dem på et kursus med fokus på konkret implementering.

Det vil stille din virksomhed stærkere i forhold til både AI-lovgivning og compliance, men også når det gælder kundetillid, innovation og forretningsudvikling.

Denne artikel er sponsoreret af Computerworld