Bund verabschiedet Leitlinien «Künstliche Intelligenz» (KI) für die Bundesverwaltung

Hintergrund der Leitlinien

Bereits 2018 hat der Bundesrat künstliche Intelligenz (KI) als zentrales Thema der Strategie «Digitale Schweiz» definiert. Als Dachstrategie gibt diese die Grundzüge für staatliches Handeln im Bereich der Digitalisierung vor. Dadurch soll der Strukturwandel durch die digitale Transformation erleichtert, Chancen aktiv genutzt und Risiken adäquat begegnet werden.

Die Anwendungsfälle von künstlicher Intelligenz wurden in den letzten Jahren stark weiterentwickelt, sodass zahlreiche neue Anwendungsfelder erschlossen bzw. ausgebaut worden sind. Als Grundlagentechnologie ist KI ein wesentlicher Bestandteil der Digitalisierungsstrategie von Staat, Wirtschaft und Gesellschaft und birgt ein grosses Innovations- und Wachstumspotential. Deshalb erachtet der Bundesrat KI für die digitale Transformation als sehr bedeutend. Umso wichtiger sind gute Rahmenbedingungen, um auch den spezifischen Herausforderungen von KI angemessen Rechnung zu tragen. Dazu gehören z.B. das Risiko von datenbasierter Diskriminierung bei KI-Entscheidungen, die Nachvollziehbarkeit von Ergebnissen aber auch der Schutz der Privatsphäre. Es geht somit nicht zuletzt auch um ethische Fragen, welche durch rechtliche Bestimmungen ergänzt werden.

Vor diesem Hintergrund hat der Bundesrat, unter der Leitung des Staatsekretariats für Bildung, Forschung und Innovation (SBFI), im Herbst 2018 die interdepartementale Arbeitsgruppe «künstliche Intelligenz» ins Leben gerufen. In ihrem Bericht «Herausforderungen der künstlichen Intelligenz» nahm die Arbeitsgruppe eine Auslegeordnung der relevanten Rahmenbedingungen (z.B. Medien, Gesundheistwesen oder Immaterialgüterrecht) vor und diskutierte möglichen Anpassungsbedarf auf Bundesebene (vgl. dazu bereits MLL-News 30.7.2020). Auf der Grundlage dieses Berichts hat der Bundesrat die Arbeitsgruppe beauftragt, strategische Leitlinien für den Umgang mit den Herausforderungen der künstlichen Intelligenz (KI) auf Ebene des Bundes zu erarbeiten.

Sinn und Zweck der Leitlinien

Ziel der Leitlinien «Künstliche Intelligenz», welche sieben Punkte (im Sinne von Grundsätzen) umfassen, ist es einen allgemeinen Rahmen für den Umgang mit KI in der Bundesverwaltung und für Träger von Verwaltungsaufgaben zu schaffen. So soll eine kohärente KI-relevante Politik gewährleistet werden. Die Leitlinien sollen zudem bei der Einführung oder Anpassung von spezifischer Regulierung in allen von KI betroffenen sektoralen Anwendungsbereichen als Orientierungshilfe dienen. Dies gilt auch für die Entwicklung und den Einsatz von KI-Systemen in Arbeitsbereichen des Bundes sowie bei der Mitgestaltung des Bundes im Zusammenhang mit internationalen Regelwerken zu KI. Die Leitlinien orientieren sich deshalb eng an der breit geführten Diskussion auf nationaler und internationaler Ebene.

Die sieben Leitlinien für den Umgang mit KI

Für den Umgang mit KI sind neben der für die Schweiz geltende nationale und internationale Rechtsordnung insbesondere die Bundesverfassung und die Normen der Europäischen Konvention zum Schutze der Menschenrechte und Grundfreiheiten (EMRK) massgebend. Vor diesem Hintergrund werden im Dokument die folgenden sieben Leitlinien definiert:

1. Den Menschen in den Mittelpunkt stellen

Bei der Entwicklung und dem Einsatz von KI stehen Würde und Wohl des Menschen sowie das Gemeinwohl an vorderster Stelle. Das heisst, dass die Selbstbestimmung stets gewahrt werden muss, indem sich Menschen eigenverantwortlich und in autonomer Weise im politischen und gesellschaftlichen Leben einbringen können. Der Einsatz von KI soll die Chancengleichheit der Menschen unterstützen und deren Zugang zu Bildung, Gütern, Dienstleistungen und Technologie fördern und erleichtern. Besondere Bedeutung beim Einsatz von KI kommt dem Schutz der Grundrechte zu, weshalb in die Gestaltung und Anwendung grundrechtliche und ethische Überlegungen einfliessen müssen (sog. «ethics by design»). Wo Grundrechte wahrscheinlich tangiert werden, insbesondere bei selbstlernenden Systemen, soll eine Folgenabschätzung durchgeführt und durch die fortlaufende Beobachtung angemessene Schutzmassnahmen und Kontrollen implementiert werden. Dies soll helfen, Betroffene vor Diskriminierung und Stigmatisierung zu schützen. Auch der Schutz der Privatsphäre soll durch die Einhaltung von Datenschutzbestimmungen sichergestellt werden.

2. Rahmenbedingungen für die Entwicklung und Anwendung von KI

Der Bund gewährleistet weiterhin bestmögliche Rahmenbedingungen, so dass die Chancen der KI zur Stärkung von Wertschöpfung und nachhaltiger Entwicklung genutzt werden können. Die Schweiz soll sich zu einem führenden Standort für Forschung und Anwendung sowie einem attraktiven Standort für Unternehmen im Bereich KI weiterentwickeln. Dazu soll der Ansatz einer technologieneutralen Regulierung durch den Bund fortgesetzt werden, welche Spielraum für Innovation zulässt, aber auch eine demokratisch legitimierte und verantwortungsvolle Anwendung neuer Technologien sicherstellt. Die Wahl spezifischer Technologien soll den Akteuren in Wirtschaft und Wissenschaft überlassen werden. Innovationen sind im Rahmen der etablierten Organe, der Innovationsförderung und unter Verwendung des bewährten Prinzips des «bottom-up» zu unterstützen. Die Rahmenbedingungen sollen eine optimale Nutzung des potenziellen wirtschaftlichen Wachstums und der Beschäftigung, aber auch die Reduzierung des ökologischen Fussabdrucks und des Energieverbrauchs ermöglichen.

3. Transparenz, Nachvollziehbarkeit und Erklärbarkeit

Auf KI gestützte Entscheidungsprozesse sollten so gestaltet sein, dass sie überprüf- und nachvollziehbar sind. Die Interaktion mit KI-Systemen sowie eine auf KI gestützte Entscheidungsfindung müssen als solche klar erkennbar sein. Die Funktionsweise von KI und deren Zweck soll in verantwortungsvoller und rechtskonformer Weise offengelegt werden. Dies gilt insbesondere für Prozesse, die zu ethisch bedenklichen KI-Entscheidungen führen könnten. Es muss also eine ausbalancierte Datenpolitik zwischen der Nutzung von Daten und dem Schutz der Persönlichkeit angestrebt werden.

4. Verantwortlichkeit

Um im Falle eines Schadens, eines Unfalls oder einer Gesetzeswidrigkeit die Verantwortlichkeiten klären zu können, muss beim Einsatz von KI die Haftung klar definiert sein. Die Verantwortlichkeit darf nicht an Maschinen delegiert werden können.

5. Sicherheit

KI-Systeme müssen sicher, robust und resilient konzipiert sein, um eine positive Wirkung auf die Menschen und die Umwelt zu entfalten und nicht anfällig für Missbrauch oder Fehlanwendungen zu sein. Wo es sinnvoll ist, sollen dezentral vernetzte KI-Systeme verwendet werden. Eine angemessene Verfolgung und Beurteilung des Einsatzes von KI ist unverzichtbar, um Risiken für den Einzelnen, die Gesellschaft, die Wirtschaft und die Umwelt frühzeitig zu erkennen, auszuschliessen oder minimieren zu können.

6. Aktive Mitgestaltung der Governance von KI

Die Schweiz soll die globale Governance von KI aktiv mitgestalten und bei der Erarbeitung von globalen Standards und Normen ihre Interessen und Werte einbringen. Erhöhte Aufmerksamkeit muss ferner den auf internationaler Ebene bestehenden Verpflichtungen und Standards, wie z.B. in den Bereichen Menschenrechte und verantwortungsvoller Unternehmensführung, geschenkt werden.

7. Einbezug aller betroffenen nationalen und internationalen Akteure

Die Schweiz soll sich dafür einsetzen, dass in den Debatten um die Governance von KI alle relevanten Anspruchsgruppen aus aller Welt, insbesondere auch aus Entwicklungsländern, in die politischen Entscheidungsprozesse einbezogen werden. Im Einklang mit ihren aussenpolitischen Prioritäten fördert die Schweiz dabei u.a. die Vernetzung sowie die sektorübergreifende Zusammenarbeit der unterschiedlichen Akteure im Bereich KI.

Spezifische Leitlinien für den Politikbereich Bildung, Forschung und Innovation

Die Kompetenzen in der Bildung, Forschung und Innovation zählen zu den wesentlichen Rahmenbedingungen für eine erfolgreiche Nutzung von KI. Der Forschung kommt nicht bloss bei der Weiterentwicklung von KI-Technologien eine zentrale Bedeutung zu, sondern auch bei der Erforschung von Möglichkeiten, um KI zur Bewältigung grosser gesellschaftlicher Herausforderungen zielführend einzusetzen. In diesem Zusammenhang müssen die nachfolgenden Grundsätze der Technologie- und Innovationspolitik des Bundes beachtet werden, die sich bislang im Kontext der dynamischen technologischen Entwicklung von KI bewährt haben:

• Grundsätzlich technologieneutraler Ansatz
  Der Bund macht bezüglich der Auswahl oder Nutzung spezifischer Technologien grundsätzlich keine Vorgaben. Diese Entscheidung soll den verschiedenen Akteuren in Wirtschaft und Wissenschaft überlassen werden. Offene Systeme sollen, wenn möglich, bevorzugt werden, um die Transparenz, Nachvollziehbarkeit und Erklärbarkeit zu fördern.
• «Bottom-Up» Ansatz
  Es ist Aufgabe der Politik, den beteiligten Akteuren die erforderlichen Freiräume und Voraussetzungen zu schaffen. Die Autonomie der Akteure sowie der Wettbewerb zwischen diesen soll dazu beitragen, dass sie ihre Verantwortung wahrnehmen können.
• Ethische, rechtliche und gesellschaftliche Normen und Werte
  Die Wissenschaft muss bei ihrer Forschung gesellschaftliche und ökologische Auswirkungen berücksichtigen, um den rechtlichen und ethischen Normen sowie den gesellschaftlichen Ansprüchen gerecht zu werden.
• Zusammenarbeit von Mensch und KI
  KI kann Lehr- und Lernprozesse stark verbessern, erfordert aber auch die nötigen Kompetenzen der Bürgerinnen und Bürger, um diese nutzen zu können. Die Wissenschaft und die Bildung sollten deshalb das Verständnis für eine KI verbessern.
• Akzeptanz von KI
  Durch den aktiven Dialog mit der Gesellschaft und der Stärkung der Kompetenzen (insbesondere im Bereich der Data Literacy) soll die Wissenschaft das Verständnis für KI, sowie für die mit der Anwendung von KI einhergehenden Chancen und Risiken fördern.

Zentrale Rolle des revidierten Datenschutzgesetzes im KI-Bereich

Die Datenschutzgesetzgebung, vor allem aber die Revision des Schweizer Datenschutzgesetzes (vgl. dazu MLL-News vom 19.10.2020), welche im der Herbstsession 2020 vom Parlament angenommen wurde, spielt eine zentrale Rolle im Zusammenhang mit dem Einsatz von KI. Das revidierte DSG führt zu zahlreichen Angleichungen an die EU-Datenschutzgrundverordnung (DSGVO), behält aber weiterhin seine eigene Grundkonzeption und weicht in gewissen Punkten von der DSGVO ab (vgl. dazu DSG Revision: Vergleich zum geltenden Recht und zur EU-DSGVO).

Verschiedene neue Massnahmen des revidierten Datenschutzgesetzes werden sich auf KI-Anwendungen auswirken, so etwa die Regelung zum Profiling (insbesondere bei damit einhergehenden hohen Risiken für die Persönlichkeit der betroffenen Personen). Biometrische und genetische Daten, die eine natürliche Person eindeutig identifizieren, gehören ab Inkrrafttreten des revDSG zum Katalog der besonders schützenswerten Daten. Für KI-Anwendungen, welche solche Daten, z.B. im Zusammenhang mit einer Gesichtserkennung verarbeiten, bringt dies folglich weitergehende Herausforderungen mit sich (z.B. die Ausdrücklichkeit einer ggf. notwendigen Einwilligung). Des Weiteren muss der neu eingeführten Informationspflicht sowie der Pflicht zur Durchführung einer Folgenabschätzung genügend Beachtung beim bzw. vor dem Einsatz von KI geschenkt werden. So ist eine Datenschutz-Folgenabschätzung stets dann durchzuführen, wenn eine geplante Bearbeitung ein hohes Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Personen darstellt.

Nächste Schritte

Da die interdepartementale Arbeitsgruppe künstliche Intelligenz mit der Ausarbeitung der Leitlinien ihre Arbeit vollendet hat, beschloss der Bundesrat, diese aufzulösen. Künftig wird das Bundesamt für Kommunikation (BAKOM) zusammen mit den betroffenen Bundesstellen eine regelmässige Beurteilung hinsichtlich der Anwendung und der Weiterentwicklung der Leitlinien sicherstellen. Die Strategie «Digitale Schweiz» und die Strategie Digitalaussenpolitik 2021–2024 dienen dabei als Referenzrahmen. Auch wenn die Leitlinien «Künstliche Intelligenz» für die Bundesverwaltung verabschiedet wurden, kann die Orientierung an gewissen Prinzipien auch für die Privatwirtschaft hilfreich sein, nicht zuletzt auch darum, weil ein verantwortungsvoller Umgang, Transparenz sowie der diskriminierungsfreie Einsatz von KI-Systemen den nachhaltigen Gebrauch von KI in der Wirtschaft sicherstellen kann.

Zusammenfassung und Fazit

Mit den Leitlinien für den Umgang mit künstlicher Intelligenz für den Bund hat die interdepartementale Arbeitsgruppe eine wertvolle Orientierungshilfe für den Umgang mit KI in der Bundesverwaltung geschaffen. Ausgehend von der Dachstrategie «Digitale Schweiz» soll das erhebliche Innovations- und Wachstumspotential von KI gefördert, aber auch den damit zusammenhängenden Risiken angemessen Rechnung getragen werden. Die Leitlinien sollen zudem bei der Einführung oder Anpassung spezifischer Regulierung in allen von KI betroffenen sektoralen Anwendungsbereichen als Leitfaden dienen.

Die sieben Leitlinien zeigen auf, dass die Menschen im Mittelpunkt stehen und die Selbstbestimmung des Einzelnen gewahrt werden muss. Für die Gestaltung und die Anwendung von KI müssen u.a. grundrechtliche und ethische Überlegungen einfliessen und, wo Grundrechte tangiert werden, besondere Schutzmassnahmen und Kontrollen implementiert werden. Ein weiteres zentrales Element ist die Fortsetzung des technologieneutralen Ansatzes der Regulierung, weshalb im Bereich KI der Einsatz von spezifischen Technologien nicht vorgeschrieben wird. Die Transparenz und die Nachvollziehbarkeit müssen beim Einsatz von KI ebenfalls gewährleistet werden. Die Interaktion mit KI-Systemen sowie eine auf KI gestützte Entscheidungsfindung müssen deshalb als solche klar erkennbar sein. Für die Politikbereiche Bildung, Forschung und Innovation werden darüber hinaus weitere Grundsätze festgehalten, welche sich bislang im Kontext der dynamischen technologischen Entwicklung von KI bewährt haben, sich mit den allgemeinen Leitlinien jedoch teilweise überschneiden. Verschiedene Massnahmen des revidierten Datenschutzgesetzes werden sich ferner nachhaltig auf den Einsatz von KI auswirken, weshalb diese zahlreichen Neuerungen besonders vertieft geprüft und berücksichtigt werden müssen.

Weitere Informationen:

• Strategische Leitlinien für den Umgang mit den Herausforderungen der Künstlichen Intelligenz (KI) auf Ebene des Bundes vom 25.11.2020
• Bericht der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» an den Bundesrat «Herausforderungen der künstlichen Intelligenz» vom 13.12.2019
• MLL-News vom 19.10.2020: «Neues Schweizer Datenschutzrecht: wichtigste Regelungen der DSG-Revision im Überblick»
• Übersicht DSG Revision in Tabellenform