Stellungnahme zum Entwurf eines Digitalisierungsgesetzes für Schleswig-Holstein

Dem Mehr Demokratie e.V. Schleswig-Holstein wurde die Möglichkeit gegeben, zum Entwurf eines Gesetzes zur Förderung der Digitalisierung und Bereitstellung von offenen Daten und zur Ermöglichung des Einsatzes von datengetrieben Informationstechnologien in der Verwaltung Stellung zu nehmen.

Einleitung

Mehr Demokratie e.V. wurde mit Schreiben vom 29.10.2021 Gelegenheit gegeben, eine Stellungnahme zum vorliegenden Gesetzentwurf der Landesregierung Schleswig-Holstein unter Federführung des Ministeriums für Energiewende, Landwirtschaft, Umwelt, Natur und Digitalisierung abzugeben. Wir bedanken uns für diese Möglichkeit, die wir gern wahrnehmen.

Mehr Demokratie e.V. ist ein gemeinnütziger und überparteilicher Verein, der sich u.a. für eine demokratische Gesellschaft sowie Mitbestimmungs- und Beteiligungsmöglichkeiten einsetzt und dafür politische Arbeit leistet. Als Fachverband für Demokratie-Fragen werden wir uns in den folgenden Ausführungen auf diese Blickwinkel zu den Themen E-Government-Gesetz, Informationszugangsgesetz und OpenData-Gesetz und IT-Eingang konzentrieren.

Dementsprechend begrüßen wir, dass die Landesregierung ihrer Ankündigung aus dem Koalitionsvertrag von 2017 nachkommt und dem Landtag ein Digitalisierungsgesetz vorlegt, dass u.a. die Bereiche Open-Data und den Einsatz und die Regulierung der Künstlichen Intelligenz (KI) umfasst. Damit werden wichtige Lücken in der Gesetzgebung Schleswig-Holsteins geschlossen und teilweise auch Neuland betreten. Gerade die bisher bundesweit einmaligen Regelungen zur KI sind dabei hervorzuheben. Jedoch ist es für uns nicht ersichtlich, weshalb der Bereich (digitale) Bürgerbeteiligung nicht in das Digitalisierungsgesetz einbezogen und auf dem Stand anderer Bundesländer gebracht wurde.

E-Government-Gesetz

Als das E-Government-Gesetz 2009 in Kraft trat, konnte Schleswig-Holstein noch als Vorreiter gelten. In den Jahren danach wurden jedoch auch in anderen Bundesländern und auf Bundesebene ähnliche Gesetze erlassen, die nicht selten einen Schritt weitergehen. Gerade der Bereich des E-Government ist einem schnellen Wandel und ständigen Weiterentwickelungen unterzogen, so dass hier regelmäßige Anpassungen notwendig sind. Dementsprechend sehen wir aus unserer Perspektive vor allem den neuen § 7 „Offene Standards und offene Software; nachhaltige IT“ als sehr wichtig an.

In einer Demokratie sind Offenheit und Transparenz Grundwerte, die es den Bürgern erst ermöglichen am politischen Leben teilzuhaben. In unserer heutigen digitalen Gesellschaft stehen dabei nicht „nur“ die Daten und Informationen der öffentlichen Verwaltung im Fokus, sondern auch die Frage, welche Software zum Einsatz kommt und wie diese die Daten verarbeitet. Da immer mehr Abläufe in Behörden digitalisiert sind, entscheiden Algorithmen mit über die Bewertung von Anträgen und Vergabe von Leistungen. Je stärker Software also in behördliche Abläufe eingebunden ist, desto wichtiger ist es für die Öffentlichkeit, Einblick in die Funktionsweise von Software zu bekommen. Einblick heißt zum einen Kontrolle, aber auch Fortschritt und Aktivierung der Zivilgesellschaft. Denn im Gegensatz zu proprietärer Software ermöglicht es freie Software allen Bürgerinnen und Bürgern innovativ mit dem freien Quellcodes zu arbeiten, diese mit anderen digitalen Anwendungen zu kombinieren und mit Hilfe kollektiver Intelligenz Weiterentwicklungen und optimal angepasste Lösungen zu finden. Zudem wird durch die Offenheit der Software ein Austausch mit anderen Bundesländern und der kommunalen Ebene erleichtert, ohne auf die Anbieter proprietärer Software angewiesen zu sein und diesen vertrauen zu müssen.

So sehr die Initiative der Landesregierung also zu begrüßen ist, den Open-Source-Grundsatz einzuführen, erscheint dieser in der bisherigen Ausführung in §7 Absatz 2 doch etwas schwammig: Es ist nur von einem „Sollen“ die Rede und dies wird zudem noch von den zwei Faktoren „technisch möglich und wirtschaftlich“ aufgeweicht. Es bleibt also zu hoffen, dass die jeweiligen Behörden aus eigenem Antrieb den Open-Source-Ansatz folgen. Eine stärkere Formulierung und eine dementsprechende Kontrollinstanz wären somit wünschenswert.

Obwohl wir also die Erweiterung des E-Government-Gesetzes in diesem Bereich unterstützen, wäre es jedoch ebenso zeitgemäß gewesen, auch einen Ausbau der Bürgerbeteiligung vorzunehmen. Dieser wurde bereits in der E-Government-Strategie adressiert und als eines der zentralen Handlungsfelder definiert:

„Die Beteiligung von Bürgerinnen und Bürgern am politischen Prozess ist zentraler Bestandteil unseres Gemeinwesens. Moderne Informations- und Kommunikationstechnologie schafft neue Möglichkeiten, diese auszubauen und weiterzuentwickeln. So erlaubt ein zeitgemäßes E-Government nicht nur die Verfolgung von politischen Entscheidungen und des Verwaltungshandelns mit Hilfe von Open Government Data. Ein inklusives Open Government ermöglicht darüber hinaus auch die aktive Teilhabe von Bürgerinnen und Bürgern im Rahmen elektronischer Partizipation. Dies stärkt politische Willensbildung und Entscheidungen durch die Nutzung bürgerschaftlicher Expertise und erhöht deren Legitimität und Tragfähigkeit durch die Einbindung relevanter Stakeholder. Zudem erhalten Politik und Verwaltung durch den Austausch mit Bürgerinnen und Bürgern wichtige Einsichten in deren Befinden und aktuelle Problemlagen, was eine entsprechende Prioritätensetzung erlaubt. Schließlich können Bürgerinnen und Bürger in die Bereitstellung öffentlicher Leistungen einbezogen werden, so dass im Rahmen einer Koproduktion bürgerschaftliches Engagement gestärkt und öffentliche Leistungen mit den Mitteln des EGovernment verbessert werden.“1

Dieser treffenden Analyse zum Trotz sind bisher jedoch nicht die notwendigen Schritte eingeleitet worden. Für ein zeitgemäßes und inklusives E-Government wäre ein Bürgerbeteiligungsportal ein wichtiger nächster Schritt – wie es auch im Strategiepapier angekündigt worden ist. Die Plattform Bauleitplanung-Online-Bürgerbeteiligung (BOB-SH) deckt dabei nur einen Teilbereich ab. Notwendig wäre ein umfassendes Beteiligungsportal, welches sowohl Beteiligungsprojekte auf Landesebene ermöglicht und dazu Ideen der Bürgerinnen und Bürger aufnimmt, wie auch die Möglichkeit der partizipative Gesetzgebung bereitstellt. Damit würde Schleswig-Holstein zu anderen Bundesländern aufschließen und könnte sich u.a. an Baden-Württemberg orientieren, das Bürgerinnen und Bürgern und nicht-organisierten Betroffenen ermöglicht, Gesetzesvorhaben zu kommentieren und inhaltlich mit zu entwickeln.

Daher regen wir dringend an, den Ausbau der Bürgerbeteiligung noch in das Digitalisierungsgesetz aufzunehmen.

 

Open-Data-Gesetz

Die Einführung eines Open-Data-Gesetzes in Schleswig-Holstein ist längst überfällig, auch mit Blick auf aktuelle Entwicklungstrends. Dem Gesetzentwurf, der unserer Einschätzung nach viele gute Regelungen zur Datenbereitstellung und -nutzung enthält, können wir dahingehend überwiegend zustimmen. Leider bleibt es aber zu oft bei Kann-Regelungen.

Hervorzuheben ist zwar, dass in § 2 neben den Landesbehörden auch die Kommunen und Kreise als Träger der öffentlichen Verwaltung einbezogen sind. Damit wird die wichtige kommunale Ebene, auf der in der Regel die Erhebung und Sammlung der Offenen Daten geschieht, nicht außen vorgelassen. Dementsprechend verwundert die fehlende Bereitstellungspflicht auf dieser Ebene. Lediglich Landesbehörden sollen Open Data bereitstellen. Somit wird das Gesetz an einer entscheidenden Stelle unnötig abgeschwächt.

Dabei zeigen alle Erfahrungen der letzten Jahre, dass für eine effektive Durchsetzung von Open-Data-Gesetzen und Informationsfreiheitsgesetzen verbindliche Pflichten sowie ein subjektiver Rechtsanspruch auf die Bereitstellung von Open Data unerlässlich sind. Dieser wird im Gesetzentwurf in § 2 Abs. 2 explizit ausgeschlossen.

Weitere Einschränkungen werden in § 2 Abs. 3 formuliert. Zu beachten ist hierbei, dass es sich bei öffentliche Daten um ein Gemeingut handelt, welches der Öffentlichkeit zur Verfügung gestellt werden sollte. Werden Ausnahmen eingeführt, sollten diese deutlich enger gefasst und nur als letzter möglicher Weg eingefügt werden. So könnten Verträge mit Dritten dahingehend geschlossen werden, dass Urheberrechte der Veröffentlichung nicht entgegenstehen. Darüber hinaus ist es wünschenswert, Verträge für steuerlich finanzierte Aufträge öffentlich einsehbar zu machen und als Open Data zur Verfügung zu stellen.

Ebenso zu begrenzt erscheint uns das Mandat der Open-Data-Leitstelle (§ 4), die lediglich Anregungen an Landesbehörden geben kann. Somit könnte ein „unverhältnismäßiger Aufwand“ immer mit beschränkten Personalressourcen begründet werden – und wird sich auch ansonsten in der Praxis relativ leicht vorschieben lassen. Dies begünstigt die Gefahr, dass vor allem Behörden Daten zur Verfügung stellen, bei denen sowieso schon eine entsprechende Kultur vorherrscht.

Die zweite zentrale Position des neuen Gesetzes ist das Open-Data-Portal. Eine benutzerfreundliche Oberfläche und die leichte Auffindbarkeit der Daten werden, neben einer notwendigen Öffentlichkeitskampagne, die entscheidenden Faktoren für die breite Nutzung sein. Unverständlich bleibt daher die Parallelstruktur verschiedener Portale: Open-Data, Transparenz und Umwelt. Ein gemeinsames Portal (zumindest Transparenz und Open-Data), wäre hier deutlich naheliegender und nutzerfreundlicher.

Diese Perspektive der Nutzenden (sowohl der Behörden als auch der Zivilgesellschaft) sollte dann bestenfalls auch in der angedachten wissenschaftlichen Evaluation berücksichtigt und einbezogen werden.

Insgesamt bleibt festzuhalten, dass der Artikel 10 viele gute Ansätze und Regelungen enthält, jedoch an zentralen Stellen den Behörden zu viele Freiheiten lässt. Hier wären strengere Regelungen und Pflichten wünschenswert gewesen. Zumindest bei einer ersten Evaluation sollte hier die Offenheit bestehen bei Bedarf nachzubessern.

IT-Einsatz-Gesetz

Mit dem IT-Einsatz-Gesetz betritt Schleswig-Holstein bundesweites Neuland und schafft die gesetzlichen Grundlagen für die verstärkte Nutzung von Künstlicher Intelligenz (KI). Dabei werden treffend sowohl die Chancen als auch die Gefahren analysiert. Denn KI-Systeme können durchaus strukturelle Ungleichgewichte verschärfen, was am ehesten die Schwächsten in einer Gesellschaft trifft. Dementsprechend sind die Grundprinzipien in § 1 Absatz 2 vollumfänglich zu unterstützen, insbesondere aus unserer Perspektive der Verweis auf die informelle Selbstbestimmung sowie die Aufführung der Prinzipien des Vorrangs des menschlichen Handelns, der menschlichen Aufsicht und Verantwortlichkeit, der Transparenz und der Nicht-Diskriminierung.

Die folgend deklinierten Ausnahmen (§ 2 Absatz 2), in denen datengetriebene Informationstechnologien nicht zulässig sind, sind unserer Ansicht nach jedoch noch durch zwei Punkte zu ergänzen:

  • Verbot der biometrischen Fernidentifizierung (Remote Biometric Identification - RBI), und zwar in der "Echtzeit"- und "Post"-Verwendungen, die gleichermaßen schädlich sein können. Mit der RBI wird eine aus der Ferne erfolgende, skalierbare Identifikation möglich sowie die Verarbeitung ihrer biometrischen Daten. Die von RBI-Systemen ausgehenden Risiken für die Rechte und Freiheiten des Einzelnen, wie z. B. die Live-Gesichtserkennung im öffentlichen Raum, sollten nicht unterschätzt werden. Unter Punkt 4 wird jedoch lediglich einer „massenweisen Identifikation von Personen bei Versammlungen oder Veranstaltungen anhand von biometrischen Merkmalen“ vorgebeugt. Dabei können RBISysteme leicht zu einem allgegenwärtigen und allumfassenden Überwachungskomplex werden, wie durch eine „schleichende Ausweitung der Zweckbestimmung“. So wurden beispielsweise Stimmen laut, die RBI-Systeme oder Teile anderer technischer Infrastrukturen zur Bekämpfung der anhaltenden Pandemie nutzen wollten, beispielsweise zur Kontrolle des Abstandhaltens in Gesellschaft oder des Tragens von Masken oder für Temperaturmessungen (wenn Kameras über integrierte Thermometer verfügen). Derartige Verwendungen von KI und eine schleichende Ausweitung sowie ein derart starker Eingriff in die Privatsphäre des Einzelnen und die damit einhergehenden Möglichkeiten der Überwachung sollte daher ausgeschlossen im Gesetz explizit ausgeschlossen werden. Die Auswirkungen würden nicht nur auf Einzelne einschüchternd wirken, sondern auch allgemein die demokratische Teilhabe einschränken (Chilling-Effect).
  • Zudem sollten bei Punkt 2 „der Erstellung von Prognosen über die Straffälligkeit einzelner Personen oder Personengruppen“ neben Prognosen noch Profile und Risikobewertung aufgenommen werden. Nicht erst die Prognosen ist problematisch, sondern schon die Erstellung des Profils. Dafür werden großer Mengen an Daten zur Erstellung und Verknüpfung, Aktualisierung und Verwendung genutzt, um so ein umfängliches Bild zu erstellen. Algorithmen erstellen dazu Korrelationen, die zu einem fehlerhaften Profil und damit ebensolchen Schlussfolgerungen führen können – gleich ob diese am Ende von KI oder Menschen auf Grundlage dieses Profils gezogen werden.

Die Verantwortlichkeit, inklusive der Überprüfung auf obengenannte Einschränkungen und Ausschlusskriterien der KI sowie deren Einordnung in die jeweilige Automationsstufe wird dabei den einzelnen Landesbehörden überlassen. Sowohl der Kenntnisstand als auch die Motivation einer regelmäßigen kritischen Überprüfung bleibt dabei aber zu Hinterfragen. Denn hat sich ein
derartiges System erst im Verwaltungsablauf eingespielt, ist ein Entfernen auf eigene Initiative eher unwahrscheinlich. Dementsprechend wäre eine übergeordnete Prüfstelle anzuraten, die ggf. ein Risikoregister erstellt und je nach Klassifizierung der KI den Behörden weitere Auflagen erteilt und Aktualisierungsmechanismen im Zuge der technischen Entwicklung bestimmt. Dieser Prüfstelle sollte es somit auch obliegen eine Folgenabschätzung für die in § 2 genannten Kriterien und der Grundrechte durchzuführen. Auch eine Folgeabschätzung nach der DSGVO wäre denkbar, wenn damit die Kategorien von Einzelpersonen und Gruppen benannt werden, die wahrscheinlich von dem System betroffen sind, und die Auswirkungen des Systems auf die Grundrechte, seine Zugänglichkeit für Menschen mit Behinderungen sowie seine Auswirkungen auf die Umwelt und das allgemeine öffentliche Interesse bewertet werden.

An dieser Stelle wäre auch ein Austausch mit anderen Bundesländern und der Zivilgesellschaft anzuraten. Die dafür geforderte Transparenz der Algorithmen kann dafür die Basis bieten. Das hier keine Soll- oder Kann-Formulierungen zu finden ist, bleibt hervorzuheben. Es sollte aber sichergestellt werden, dass neben relevanten Behörden, wie die Datenschutzbehörde und Gleichstellungsstellen, auch Organisationen der Zivilgesellschaft, KMU sowie Umwelt-, Verbraucher- und soziale Interessengruppen bei der Evaluation der KI vertreten sind und in die Lage versetzt werden, sich effektiv zu beteiligen.

Ebenso positiv hervorzuheben ist die Benachrichtigung von Einzelpersonen bei der Kommunikation mit KI und bei Entscheidungen, insbesondere in Form von Verwaltungsakten, bei denen eine teilweise oder vollständige Bearbeitung datengetriebenen Informations-technologien stattgefunden hat. In diesem Zuge ist auch die Möglichkeit der KI-Rüge zu nennen, welche wir sehr begrüßen.

Da die unverhältnismäßigen negativen Auswirkungen von KI-Systemen auf bereits marginalisierte Gruppen (insbesondere Frauen*, rassifizierte Menschen, Migranten, LGBTIQ+-Menschen, Menschen mit Behinderungen, Sexarbeiter, Kinder und Jugendliche, ältere Menschen) immer wieder dokumentiert werden, sollte sichergestellt werden, dass die Kontrollinstanzen mit den notwendigen Ressourcen ausgestattet werden und dass eine regelmäßige Evaluation mit wissenschaftlicher und zivilgesellschaftlicher Begleitung stattfindet.

Haben Sie Fragen oder Anregungen?

Simon Strohmenger
Mehr Demokratie e.V.
Haus der Demokratie und Menschenrechte
Greifswalder Str. 4
10405 Berlin
www.mehr-demokratie.de

  • Positionspapier zum Digitalisierungsgesetz

    Laden Sie das Positionspapier zum Entwurf des Digitalisierungsgesetzes als PDF herunter

    10. Dezember 2021