Sikker brug af kunstig intelligens

Flere og flere virksomheder benytter løsninger baseret på kunstig intelligens (AI). Når man som virksomhed benytter disse løsninger, er det vigtigt at have fokus på digital sikkerhed, da kunstig intelligens ofte er baseret på store mængder data, som kan give nye angrebsflader.

Hvis din virksomhed anvender eller overvejer at anvende løsninger baseret på kunstig intelligens enten in-house eller fra en leverandør, er det en god ide at tage stilling til, om I har styr på sikkerheden omkring disse løsninger. Brugen af kunstig kan nemlig introducere nye sårbarheder og øge antallet af angrebsflader. Dette kan ændre virksomhedens overordnede risikoprofil, og bør derfor afspejles i jeres risikovurderinger af projekter, hvor der indgår løsninger baseret på kunstig intelligens.

Hvad er kunstig intelligens?

Kunstig intelligens systemer er baseret på algoritmer, dvs. matematiske formler, der ved at analysere og finde mønstre i data kan identificere den mest hensigtsmæssige løsning. Langt de fleste systemer varetager specifikke opgaver på afgrænsede områder til fx kontrol, forudsigelse og vejledning. Teknologien kan udformes til at tilpasse sin adfærd ved at observere, hvordan omgivelserne påvirkes af tidligere handlinger.

Når I tager stilling til sikkerheden i jeres brug af kunstig intelligens, er der et par vigtige spørgsmål, som I bør stille jer selv:

  • Har vi udarbejdet løsningsspecifikke risikovurderinger for alle de projekter, hvor vi anvender løsninger baseret på kunstig intellige
  • Har vi i vores risikovurderinger taget højde for nye typer af angreb rettet mod vores løsninger baseret på kunstig intelligens (fx forgiftning af data)?
  • Har eventuelle leverandører af løsninger baseret på kunstig intelligens været inddraget ifm. udarbejdelsen af risikovurderinger?
  • Har vi en form for kvalitetskontrol af output fra vores algoritmer, vores brug af kunstig intelligens bygger på?
  • Har vi en plan B i tilfælde af, at vores løsning baseret på kunstig intelligens pludselig ikke skulle være tilgængelig?

Brug vejledningen om sikker brug af kunstig intelligens i virksomheder

Få hjælp til, hvordan din virksomhed kan afdække og besvare disse spørgsmål ved at læse vejledningen om sikker brug af kunstig intelligens. Denne vejledning sætter fokus på, hvordan man som virksomhed selv kan styrke sikkerheden ved brug af kunstig intelligens og indeholder 16 konkrete tiltag. En del af tiltagene er specifikke for brugen af kunstig intelligens, mens en række af tiltagene viser, hvordan brugen af kunstig intelligens skal tænkes ind i sikkerhedstiltag fra mere grundlæggende rammeværktøjer og vejledninger om informationssikkerhed. Vejledningen skal tænkes ind som supplement til det eksisterende arbejde med informationssikkerhed:

Download vejledning: 'Tiltag til at sikre brugen af kunstig intelligens' 

 

Hvis du er interesseret I at læse mere om, hvordan din og andres brug af kunstig intelligens både kan udfordre og bidrage til din digitale sikkerhed, kan du læse mere i analysen af kunstig intelligens i et sikkerhedsperspektiv:

Læs analyse af kunstig intelligens i et sikkerhedsperspektiv