Künst­li­che Intel­li­genz und Datenschutz

Künst­li­che Intel­li­genz und Datenschutz

Künst­li­che Intel­li­genz (KI) ist längst kein Zukunfts­the­ma mehr, son­dern eine Tech­no­lo­gie, die unser täg­li­ches Leben auf viel­fäl­ti­ge Wei­se beein­flusst – von per­so­na­li­sier­ten Emp­feh­lun­gen in Online-Shops über auto­no­me Fahr­zeu­ge bis hin zu kom­ple­xen medi­zi­ni­schen Dia­gno­sen. Doch mit den zuneh­men­den Ein­satz­mög­lich­kei­ten von KI wach­sen auch die daten­schutz­recht­li­chen Her­aus­for­de­run­gen, ins­be­son­de­re in der Euro­päi­schen Uni­on (EU) und den USA.

KI und Daten­schutz: Eine kom­ple­xe Beziehung

Eine der zen­tra­len Fra­gen, die sich in Bezug auf KI stellt, betrifft die Ver­ar­bei­tung per­so­nen­be­zo­ge­ner Daten. KI-Sys­te­me sind oft auf gro­ße Daten­men­gen ange­wie­sen, um Mus­ter zu erken­nen und Ent­schei­dun­gen zu tref­fen. Die­se Daten sind nicht sel­ten per­so­nen­be­zo­gen oder leicht zu per­so­nen­be­zo­ge­nen Daten rück­führ­bar, was sie beson­ders sen­si­bel macht. Laut der DSGVO sind Unter­neh­men dazu ver­pflich­tet, per­so­nen­be­zo­ge­ne Daten nur dann zu ver­ar­bei­ten, wenn es eine kla­re Rechts­grund­la­ge dafür gibt. Hier kol­li­die­ren oft die Anfor­de­run­gen der DSGVO mit den Bedürf­nis­sen der KI-Sys­te­me, die auf umfang­rei­che Daten­men­gen und oft auch auf Daten, die nicht unmit­tel­bar dem jewei­li­gen Zweck zuzu­ord­nen sind, ange­wie­sen sind.

KI und DSGVO: Recht­li­che Her­aus­for­de­run­gen in der EU

In der EU wird die Debat­te um KI stark von der Daten­schutz-Grund­ver­ord­nung (DSGVO) geprägt.

  • So gibt z​.​B. Art. 22 DSGVO den Betrof­fe­nen das Recht, kei­ner aus­schließ­lich auf einer auto­ma­ti­sier­ten Ver­ar­bei­tung – ein­schließ­lich Pro­fil­ing – beru­hen­den Ent­schei­dung unter­wor­fen zu wer­den, die erheb­li­che Aus­wir­kun­gen auf sie hat. Dies gilt ins­be­son­de­re für Ent­schei­dun­gen, die recht­li­che Kon­se­quen­zen haben oder das Leben einer Per­son maß­geb­lich beein­flus­sen, wie zum Bei­spiel Kre­dit­an­trä­ge oder Versicherungspolicen.
  • Ein wei­te­rer wich­ti­ger Aspekt ist die Trans­pa­renz (vergl. Art. 5 Abs. 1 DSGVO). Die DSGVO schreibt vor, dass die betrof­fe­ne Per­son über die Art und Wei­se, wie ihre Daten ver­ar­bei­tet wer­den, infor­miert wer­den muss (vergl. Art. 12 ff. DSGVO).
  • Wer­den per­so­nen­be­zo­ge­ne Daten durch die KI ver­ar­bei­tet muss ggf. ein Auf­trags­ver­ar­bei­tungs­ver­trag pp. geschlos­sen werden.

Bei kom­ple­xen KI-Sys­te­men kann dies pro­ble­ma­tisch sein, da die Algo­rith­men der KI oft als „Black Box“ fun­gie­ren und Ent­schei­dun­gen der KI für Außen­ste­hen­de kaum nach­voll­zieh­bar sind. Unter­neh­men, die KI ein­set­zen, müs­sen daher sicher­stel­len, dass sie die Erklär­bar­keit und Nach­voll­zieh­bar­keit ihrer KI-Ent­schei­dun­gen gewähr­leis­ten, was tech­nisch und recht­lich aber sicher­lich anspruchs­voll ist.

Der AI-Act der EU

Der euro­päi­sche AI Acttrat am 1. August 2024 in Kraft, und die meis­ten Bestim­mun­gen wer­den nach einer Über­gangs­frist ab August 2026 ver­bind­lich. Der AI Act setzt auf einen risi­ko­ba­sier­ten Ansatz und teilt KI-Sys­te­me in vier Risi­koklas­sen ein:

  1. Unan­nehm­ba­res Risi­ko: Bestimm­te KI-Prak­ti­ken, die die Grund­rech­te gefähr­den, wie etwa Social Scoring durch Behör­den, sind voll­stän­dig verboten.
  2. Hohes Risi­ko: KI-Sys­te­me, die in sen­si­blen Berei­chen wie Medi­zin, Ver­kehr oder Straf­ver­fol­gung zum Ein­satz kom­men, unter­lie­gen stren­gen Anfor­de­run­gen in Bezug auf Trans­pa­renz, Sicher­heit und Überwachung.
  3. Begrenz­tes Risi­ko: KI-Anwen­dun­gen, die direkt mit Per­so­nen inter­agie­ren, wie Chat­bots, müs­sen offen­ge­legt wer­den, sodass Nut­zer über den Ein­satz von KI infor­miert sind.
  4. Mini­ma­les oder kein Risi­ko: Sys­te­me mit gerin­gem Risi­ko unter­lie­gen kei­nen spe­zi­fi­schen Anforderungen.

Die­se Über­gangs­pha­se gibt Unter­neh­men Zeit, ihre KI-Anwen­dun­gen zu über­prü­fen und, falls not­wen­dig, den neu­en Anfor­de­run­gen anzu­pas­sen, um ab 2026 voll­stän­dig kon­form zu sein.

Daten­schutz in den USA: Frag­men­tier­te Regulierung

Im Gegen­satz zur EU gibt es in den USA kein ein­heit­li­ches Daten­schutz­ge­setz, das den Ein­satz von KI regelt. Statt­des­sen exis­tiert eine Viel­zahl von Geset­zen auf Bun­des- und Lan­des­ebe­ne, die oft nur spe­zi­fi­sche Bran­chen oder Daten­ty­pen abde­cken. Das wohl bekann­tes­te ist der Cali­for­nia Con­su­mer Pri­va­cy Act (CCPA), das Ver­brau­chern in Kali­for­ni­en Rech­te über ihre Daten gewährt, ein­schließ­lich des Rechts, Infor­ma­tio­nen über die Samm­lung und Ver­ar­bei­tung ihrer Daten zu erhalten.

Die feh­len­de Kohä­renz in den USA erschwert es Unter­neh­men, die in meh­re­ren Staa­ten tätig sind, ein­heit­li­che Daten­schutz­stan­dards ein­zu­hal­ten. Den­noch gewinnt das The­ma KI und Daten­schutz auch in den USA zuneh­mend an Bedeu­tung. Auf Bun­des­ebe­ne gibt es Initia­ti­ven, die dar­auf abzie­len, ver­bind­li­che Rah­men­be­din­gun­gen für den Ein­satz von KI zu schaf­fen, doch die­se ste­cken der­zeit noch in den Kin­der­schu­hen. Das White House Office of Sci­ence and Tech­no­lo­gy Poli­cyver­öf­fent­lich­te 2022 einen Leit­fa­den für die Ent­wick­lung, Nut­zung und den Ein­satz auto­ma­ti­sier­ter Systeme.

Eini­ge US-Bun­des­staa­ten haben eige­ne Geset­ze zur Regu­lie­rung von KI erlassen:

  • Colo­ra­do AI Act(Mai 2024):Colo­ra­do ver­ab­schie­de­te das ers­te umfas­sen­de KI-Gesetz in den USA, das am 1. Febru­ar 2026 in Kraft tritt. Es ver­langt von Ent­wick­lern und Betrei­bern von Hoch­ri­si­ko-KI-Sys­te­men, algo­rith­mi­sche Dis­kri­mi­nie­rung zu ver­mei­den, und schreibt die Mel­dung aller Fäl­le von Dis­kri­mi­nie­rung an die Gene­ral­staats­an­walt­schaft von Colo­ra­do vor.
  • Cali­for­nia Con­su­mer Pri­va­cy Act(CCPA, seit 2018):Der CCPA ent­hält Bestim­mun­gen über die Ver­wen­dung auto­ma­ti­sier­ter Ent­schei­dungs­fin­dungs­sys­te­me und räumt Ver­brau­chern ein Wider­spruchs­recht in Bezug auf die Ver­wen­dung sol­cher Tech­no­lo­gien durch Unter­neh­men ein.

Her­aus­for­de­run­gen für Unternehmen

Für Unter­neh­men, die KI-Tech­no­lo­gien ein­set­zen, erge­ben sich somit zahl­rei­che Her­aus­for­de­run­gen. Sie müs­sen nicht nur sicher­stel­len, dass sie die gel­ten­den Daten­schutz­ge­set­ze ein­hal­ten, son­dern auch, dass ihre Sys­te­me so trans­pa­rent wie mög­lich sind und die Pri­vat­sphä­re der Nut­zer schüt­zen. Dar­über hin­aus müs­sen sie Mecha­nis­men imple­men­tie­ren, die es Nut­zern ermög­li­chen, ihre Rech­te wahr­zu­neh­men, ins­be­son­de­re das Recht auf Aus­kunft und Löschung ihrer Daten.

Ein wei­te­res Pro­blem ist die Fra­ge der Ver­ant­wor­tung: Wer haf­tet, wenn ein KI-Sys­tem eine fal­sche Ent­schei­dung trifft oder per­so­nen­be­zo­ge­ne Daten miss­bräuch­lich ver­wen­det? Die­se Fra­gen sind recht­lich noch nicht abschlie­ßend geklärt und wer­den in Zukunft sicher­lich ver­stärkt dis­ku­tiert werden.

Der rich­ti­ge Umgang mit KI im Datenschutz

Die wach­sen­de Bedeu­tung von KI stellt Unter­neh­men welt­weit vor gro­ße Her­aus­for­de­run­gen im Hin­blick auf den Daten­schutz. Wäh­rend die EU mit der DSGVO und dem „AI Act“ bereits stren­ge­re Vor­schrif­ten erlas­sen hat, sind die USA noch dabei, ihre Regu­lie­run­gen zu har­mo­ni­sie­ren. Für Unter­neh­men, die inter­na­tio­nal tätig sind, ist es daher essen­zi­ell, die ver­schie­de­nen Rechts­vor­schrif­ten genau zu ken­nen und ihre KI-Sys­te­me ent­spre­chend anzu­pas­sen. Nur so kön­nen sie sicher­stel­len, dass sie sowohl daten­schutz­recht­lich als auch ethisch auf der siche­ren Sei­te sind.

Der Umgang mit KI und Daten­schutz bleibt ein dyna­mi­sches und her­aus­for­dern­des Feld, das in den kom­men­den Jah­ren wei­ter an Kom­ple­xi­tät gewin­nen wird. Unter­neh­men soll­ten daher in die Ent­wick­lung von Daten­schutz­stra­te­gien inves­tie­ren, die auch zukünf­ti­gen gesetz­li­chen Anfor­de­run­gen gerecht werden.

Ver­ein­ba­ren Sie noch heu­te Ihren Beratungstermin!

Unse­re Exper­ten ste­hen Ihnen zur Ver­fü­gung, um alle Ihre Fra­gen zu beant­wor­ten. Nut­zen Sie die Gele­gen­heit für eine per­sön­li­che Beratung.

Jetzt Ter­min buchen

Nur begrenz­te Ter­mi­ne ver­füg­bar – sichern Sie sich Ihren Platz!