Unglaubliche Fortschritte im Bereich der künstlichen Intelligenz haben in den letzten Wochen und Monaten Aufsehen erregt. Durchaus zu Recht. Die Chancen sind gewaltig, die Risiken ebenso.
Mit dem AI-Act möchte die Europäische Union weltweit Vorreiter bei der Schaffung eines Rechtsrahmens für KI-Systeme werden. Ob das gut geht?
Als vor mehr als 200 Jahren das ABGB in Kraft trat, ging dem eine Jahrzehnte lange Entwicklung voraus. Nun soll binnen Monaten eine Technologie, die weitreichenden Einfluss auf unzählige Lebensbereiche hat, nachhaltig reguliert werden. Eine gesunde Skepsis scheint angebracht.
Massenüberwachung durch Behörden
Der derzeitige Entwurf öffnet Tür und Tor für flächendeckende biometrische Überwachung. Diese soll zwar in Echtzeit nur für wenige Ausnahmen zulässig sein – diese Ausnahmen ermöglichen aber die technische Umsetzung. Es wird schwierig kontrollierbar sein, ob diese Überwachungsinfrastruktur auch tatsächlich nur dafür verwendet wird. Das Verbot der Echtzeitüberwachung und die Zulässigkeit der Identifizierung im Nachhinein könnte also Vorratsdatenspeicherung und Massenüberwachung in Europa den Weg ebnen.
Wenig Möglichkeiten für Betroffene sich zu wehren
Betroffene Personen haben nur wenig Möglichkeiten sich gegen unerlaubte KI-Praktiken zur Wehr zu setzen. Ein generelles Recht auf Information über Einsatz und Funktionsweise für natürliche Personen, die KI-Systemen ausgesetzt sind fehlt. Die fehlende Transparenz erschwert es Diskriminierung zu erkennen und entsprechende Rechtsmittel ergreifen zu können.
Verwaschene Formulierungen, viele Öffnungsklauseln
Formulierungen wie „relevant, repräsentativ, vollständig, fehlerfrei“ klingen überzeugend – es fehlen jedoch ein Bewertungsmechanismus wann Daten bspw. als ausreichend repräsentativ gelten.
Die Mitgliedsstaaten haben weiters die Möglichkeit vieles selbst zu bestimmen: Die zuständige Aufsichtsbehörde, ob Bußgelder gegenüber öffentlichen Stellen verhängt werden dürfen, usw. Das birgt das Risiko, dass das tatsächliche Schutzniveau von Staat zu Staat unterschiedlich ausfällt.
Ebenso scheinen die unter „Auswirkungen auf den Haushalt“ umrissenen personellen Ressourcen von 1-25 Mitarbeiter:innen (VZÄ) für Konformitätsbewertung und Marktüberwachung als viel zu niedrig angesetzt um eine effektive Aufsicht sicherzustellen.
„Wir haben das schon in der Vergangenheit erlebt. Digitalkonzerne ziehen sich mit allen möglichen Tricks aus der Affäre. Mitgliedsstaaten spielen sich gegenseitig aus – ein Land straft, das andere sieht weg. Geschädigten bleibt oft nur der kostspielige Weg ihre Ansprüche zivilrechtlich durchzusetzen – ein Himmelfahrtskommando gegen einen Milliardenkonzern. Für KMU und Start-Ups entstehen Rechtsunsicherheiten.“ gibt Andreas Preiml, Digitalisierungssprecher der SJG Kärnten zu bedenken. „Der Entwurf ist in weiten Teilen durchdacht und vielversprechend. Umso ärgerlicher wäre es, wenn man es nun aus unangebrachter Hektik verabsäumt, die praktische Umsetzung zu Ende zu denken. Risiken im Hinblick auf Massenüberwachung müssen ausgeräumt, Betroffenenrechte gestärkt und verwaschene Formulierungen konkretisiert werden. Was hilft es im Recht zu sein, wenn man nicht zu seinem Recht kommt?“
