Trus­ted Flagger

„Trus­ted Flag­ger“ im Kon­text des AI Act: Eine kri­ti­sche Betrach­tung von Zen­sur, Mei­nungs­frei­heit und gericht­li­cher Kontrolle

Die zuneh­men­de Rol­le von Trus­ted Flag­gernin der Inhalts­mo­de­ra­ti­on, gepaart mit der wach­sen­den Nut­zung von künst­li­cher Intel­li­genz (KI), wirft ernst­haf­te Fra­gen zur Wah­rung der Mei­nungs­frei­heit und zur mög­li­chen Zen­sur auf. Der EU AI Actund das Netz­werk­durch­set­zungs­ge­setz (NetzDG)sind zwei bedeu­ten­de gesetz­li­che Regel­wer­ke, die eng mit die­sem The­ma ver­knüpft sind. Bei­de Regu­la­ri­en zie­len dar­auf ab, ille­ga­le Inhal­te online effek­ti­ver zu bekämp­fen, brin­gen aber gleich­zei­tig Risi­ken für die freie Mei­nungs­äu­ße­rung mit sich.

Was sind Trus­ted Flagger?

Trus­ted Flag­ger sind spe­zi­ell akkre­di­tier­te Orga­ni­sa­tio­nen oder Insti­tu­tio­nen, die von Platt­for­men bevor­zugt behan­delt wer­den, wenn sie Inhal­te mel­den, die ihrer Ansicht nach gegen Geset­ze oder Richt­li­ni­en ver­sto­ßen. Der Sta­tus als Trus­ted Flag­ger wird nach den Bestim­mun­gen des Digi­tal Ser­vices Act (DSA)der EU ver­ge­ben. Hier­bei han­delt es sich nicht um Ein­zel­per­so­nen, son­dern um Orga­ni­sa­tio­nen wie NGOs oder staat­li­che Insti­tu­tio­nen, die beson­de­re Exper­ti­se im Erken­nen ille­ga­ler Inhal­te haben und unab­hän­gig von Platt­for­men agie­ren sol­len. Die­se Flag­ger genie­ßen eine pri­vi­le­gier­te Stel­lung und ihre Mel­dun­gen wer­den von Platt­for­men schnel­ler und prio­ri­tär bearbeitet.

Chan­cen des Systems

• Effi­zi­en­te­re Inhalts­mo­de­ra­ti­on: Trus­ted Flag­ger kön­nen Platt­for­men unter­stüt­zen, pro­ble­ma­ti­sche Inhal­te wie Hass­re­de, Des­in­for­ma­ti­on oder Ter­ror­pro­pa­gan­da schnel­ler zu iden­ti­fi­zie­ren und zu entfernen.
• Schutz vor ille­ga­len Inhal­ten: Durch den Ein­satz von Trus­ted Flag­gern in Ver­bin­dung mit KI-gestütz­ten Mode­ra­ti­ons­tools kann die Ver­brei­tung ille­ga­ler Inhal­te effek­ti­ver ver­hin­dert werden.

Der AI Act und sei­ne Aus­wir­kun­gen auf Trus­ted Flagger

Der AI Act sieht vor, dass KI-Sys­te­me, die zur Inhalts­mo­de­ra­ti­on ein­ge­setzt wer­den, streng regu­liert und als „Hoch­ri­si­ko-Anwen­dun­gen“ behan­delt wer­den. Im Zusam­men­spiel mit Trus­ted Flag­gern könn­ten KI-gestütz­te Mode­ra­ti­ons­tools dazu füh­ren, dass Inhal­te auto­ma­ti­siert ent­fernt wer­den, ohne mensch­li­che Über­prü­fung. Die­se auto­ma­ti­sier­te Zen­sur birgt das Risi­ko, dass legi­ti­me Mei­nungs­äu­ße­run­gen unter­drückt wer­den, ins­be­son­de­re wenn KI-Algo­rith­men nicht in der Lage sind, den Kon­text oder die Nuan­cen von Inhal­ten kor­rekt zu bewerten.

Zen­sur und Meinungsfreiheit

Die Ver­knüp­fung von Trus­ted Flag­gern und KI bringt ernst­haf­te Gefah­ren für die Mei­nungs­frei­heit mit sich. Falsch­po­si­ti­ve Mel­dun­gen, bei denen harm­lo­se Inhal­te fälsch­li­cher­wei­se als ille­gal ein­ge­stuft und ent­fernt wer­den, sind eine bekann­te Schwach­stel­le. So wur­de z. B. ein­rein edu­ka­ti­ves Video, das his­to­ri­sche Ereig­nis­se ana­ly­sier­te, fälsch­li­cher Wei­se als “Has­se­re­de” eingestuft.

Wie sich in der Samm­lung der Bei­spie­le der Bun­des­netz­agen­tur(sie­he unten) zeigt, sind auch Tat­be­stän­de auf­ge­nom­men, die ent­we­der einer wei­te­ren, unter Umstän­den umfang­rei­chen juris­ti­schen Wer­tung bedür­fen (z. B. “Patent­ver­let­zung”) oder als Defi­ni­ti­on wenig nüt­zen (z. B. “Ande­re”, “Nicht­ein­hal­tung der sprach­li­chen Anfor­de­run­gen”) und zum Teil auch kei­ne Straf­tat­be­stän­de darstellen.

Dar­über hin­aus könn­te der pri­vi­le­gier­te Zugang der Trus­ted Flag­ger dazu füh­ren, dass bestimm­te poli­ti­sche oder kon­tro­ver­se Per­spek­ti­ven sys­te­ma­tisch gemel­det bzw. unter­drückt wer­den. Laut dem DSA müs­sen Trus­ted Flag­ger trans­pa­rent und unab­hän­gig agie­ren, doch es gibt Beden­ken, dass nicht alle die­ser Akteu­re voll­kom­men unab­hän­gig von den Platt­for­men oder staat­li­chen Ein­flüs­sen sind.

NetzDG und sta­tis­ti­sche Einblicke

Das Netz­werk­durch­set­zungs­ge­setz (NetzDG)ver­langt von Platt­for­men, gemel­de­te Inhal­te inner­halb von 24 Stun­den zu prü­fen und gege­be­nen­falls zu ent­fer­nen. Im Jahr 2022 gab es mehr als 1,7 Mil­lio­nen Beschwer­den, von denen etwa 65 %zu Löschun­gen oder Sper­run­gen führ­ten. Zusätz­lich wur­den über 500 Straf­ver­fah­renwegen Ver­stö­ßen gegen das NetzDG ein­ge­lei­tet. Die­se Zah­len ver­deut­li­chen, dass die Aus­wir­kun­gen von Inhalts­mo­de­ra­ti­on bereits spür­bar sind, und dass erheb­li­che Ein­grif­fe in die Mei­nungs­frei­heit stattfinden.

Gericht­li­che Kon­trol­le und Transparenz

Um sicher­zu­stel­len, dass die Inhal­te fair und ver­hält­nis­mä­ßig mode­riert wer­den, ist eine gericht­li­che Kon­trol­leuner­läss­lich. Der AI Actfor­dert Mecha­nis­men, um Ent­schei­dun­gen, die durch KI-Mode­ra­ti­on oder Trus­ted Flag­ger getrof­fen wur­den, recht­lich über­prü­fen zu kön­nen. Gerich­te soll­ten die Mög­lich­keit haben, unfai­re oder vor­ei­li­ge Löschun­gen rück­gän­gig zu machen und dafür zu sor­gen, dass die Grund­rech­te, ins­be­son­de­re die Mei­nungs­frei­heit, geschützt bleiben.

Mehr Trans­pa­renz und Kon­trol­le erforderlich

Das Zusam­men­spiel von Trus­ted Flag­gern, KI und dem NetzDG bie­tet eine wirk­sa­me Mög­lich­keit, ille­ga­le Inhal­te zu bekämp­fen, doch es bringt auch erheb­li­che Risi­ken für die freie Mei­nungs­äu­ße­rung und den öffent­li­chen Dis­kurs mit sich. Trans­pa­renz, gericht­li­che Kon­trol­leund eine kla­re Regu­lie­rung des Ein­sat­zes von KI in der Inhalts­mo­de­ra­ti­on sind ent­schei­dend, um sicher­zu­stel­len, dass legi­ti­me Inhal­te nicht unge­recht­fer­tigt zen­siert wer­den. Der Schutz der Grund­rech­te muss dabei im Vor­der­grund stehen.

Durch die Opti­mie­rung des Trus­ted Flag­ger-Sys­tems in Ver­bin­dung mit KI und einer star­ken gericht­li­chen Über­prü­fung könn­te das Gleich­ge­wicht zwi­schen effek­ti­ver Mode­ra­ti­on und der Wah­rung der Mei­nungs­frei­heit gefun­den werden.