AI-modeller brukar vara svarta lådor
AI-modeller brukar vara svarta lådor eftersom de ofta använder djupinlärning för att utveckla modellen. Därmed behandlas stora mängder information, vilket inte är möjligt för en fysisk person att överblicka. Med andra ord, är det svårt för en människa att överblicka hur modellen kommer fram till sina resultat. Om användaren av AI-modellen enbart känner till indata och utdata, utgör AI-modellen en så kallad svart låda.
AI-modeller för att fatta beslut om individer
Det är svårt att beskriva hur en AI-modell fungerar när den fattar automatiserade beslut om enskilda personer. Därmed är det svårare att uppfylla kraven gällande informationsskyldighet gentemot de berörda registrerade. Enligt huvudregeln i GDPR är det förbjudet att behandla personuppgifter genom automatiserat individuellt beslutsfattande. Däremot finns det undantag från denna huvudregel.
Vad innebär automatiserat individuellt beslutsfattande enligt GDPR?
Om det sker ett automatiserat beslutsfattande om en individ, utan att någon fysisk person är involverad i beslutsfattandet, är det en fråga om automatiserat individuellt beslutsfattande enligt GDPR. Dessutom ska det också vara en fråga om antingen rättsliga eller andra liknande betungande konsekvenser som beslutsfattandet innebär för den registrerade. Dock definieras inte rättsliga konsekvenser i GDPR.
Ett exempel på automatiserat beslutsfattande är när en person skickar in en kreditansökan online till ett kreditföretag, och ett beslut i ärendet fattas automatiserat efter att en kreditprövning genomförs av en data och algoritmer för att bedöma sökandens kreditvärdighet.
När är det tillåtet att använda automatiserat individuellt beslutsfattande?
Det är tillåtet att använda automatiserat individuellt beslutsfattande om:
- det är nödvändigt för att fullgöra ett avtal mellan den personuppgiftsansvarige och registrerade.
- det framgår i lag som fastställer lämpliga skyddsåtgärder.
- den registrerade har givit sitt samtycke. Observera att det ska vara ett uttryckligt samtycke.
