Künstliche Intelligenz (KI) soll angesichts der rapiden Entwicklung stärker reguliert werden. Daher hat US-Präsident Joe Biden ein weiteres Dekret unterzeichnet, das die Verwendung von KI-Tools in der Regierung regeln soll. Unter anderem sollen die Institutionen diverse Sicherheitsvorkehrungen treffen, um die Risiken der Voreingenommenheit solcher Software (AI-Bias) zu reduzieren.
"Ich glaube, dass alle Verantwortlichen aus Regierung, Zivilgesellschaft und Privatwirtschaft die moralische, ethische und gesellschaftliche Pflicht haben, dafür zu sorgen, dass KI in einer Weise eingesetzt und weiterentwickelt wird, die die Öffentlichkeit vor potenziellem Schaden schützt und gleichzeitig sicherstellt, dass jeder in den Genuss ihrer Vorteile kommt", wird Vizepräsidentin Kamala Harris in einem Bericht von "Engadget" zitiert.
Vorausschauende Polizeiarbeit
Die Ämter und Ministerien sollen laut Harris sicherstellen, dass die verwendeten KI-Tools "die Rechte und die Sicherheit des amerikanischen Volks nicht gefährden". Bis 1. Dezember haben sie nun Zeit, entsprechende Sicherheitsvorkehrungen zu treffen. Geschieht dies nicht, wird die Verwendung des KI-Tools verboten – es sei denn, die Verantwortlichen können darlegen, dass ein Verbot eine "inakzeptable" Auswirkung auf kritische Prozesse hat.
Eine mögliche Verletzung der Bürgerrechte ortet man derzeit unter anderem bei der vorausschauenden Polizeiarbeit und der Überwachung sozialer Medien für die Strafverfolgung. Aber auch die Erkennung von Plagiaten in Schulen, das Screening im Rahmen eines Bewerbungsverfahrens und die "Nachbildung des Bildes oder der Stimme einer Person ohne ausdrückliche Zustimmung" sollen darunter fallen.
Konkret in Bezug auf generative KI sieht das Dekret vor, dass die Behörden den potenziellen Nutzen selbst bewerten sowie "angemessene Schutzmaßnahmen und Überwachungsmechanismen einrichten sollen, die den Einsatz generativer KI in der Behörde ermöglichen, ohne ein unangemessenes Risiko darzustellen".
Transparenz
Außerdem gibt es strengere Anforderungen bezüglich der Transparenz der verwendeten KI-Systeme. Die Behörden sollen laut Harris jedes Jahr eine Liste der von ihnen verwendeten KI-Systeme veröffentlichen, inklusive der Bewertung der Risiken und einer Erläuterung, wie diese Risiken gehandhabt werden. Im Rahmen dessen sollen die Behörden auch etwaigen Code, Modelle und Daten, die sich im Besitz der Regierung befinden, offenlegen. Wenn dies aus Sicherheitsgründen nicht möglich ist, müssen zumindest "Metriken" gemeldet werden.
Und schließlich sind die Bundesbehörden verpflichtet, die KI-Nutzung intern durch einen KI-Beauftragten beaufsichtigen zu lassen. Manche Behörden müssen zudem bis 27. Mai KI-Gremien einrichten. (red, 29.3.2024)