Bei OpenAI, dem Hersteller der GPT-Sprachmodelle, des Bildgenerators Dall-E und des Videogenerators Sora, steht womöglich ein Sinneswandel bevor. Bisher waren den Sprachmodellen relativ enge Grenzen gesetzt, wenn es um die Texte und Bilder ging, die den KI-Tools aus eigenem Hause entlockt werden können. Verschiedene als anstößig betrachtete Inhalte konnten ihnen höchstens mit allerlei Tricks entlockt werden. Vorgesehen ist allerdings, dass entsprechende Eingaben zurückgewiesen werden. Offiziell verboten sind unter anderem "Erotik, extreme Gewalt, rassistische Beschimpfungen und unaufgeforderte Profanität".
Das könnte sich in Zukunft ändern, wie aus einem Kommentar im Spezifikationsdokument für die KI-Modelle hervorgeht. "Wir sind der Ansicht, dass Entwickler und Nutzer die Flexibilität haben sollten, unsere Dienste so zu nutzen, wie sie es für richtig halten", heißt es darin. "Wir erörtern, ob wir die Möglichkeit, NSFW-Inhalte ("Not Safe For Work", Anm.) in altersangemessenem Kontext über die Programmierschnittstelle und ChatGPT zu erzeugen, verantwortungsvoll bereitstellen können."
Diskussion
Joanne Jang, die bei OpenAI tätig ist und das Dokument mit ausgearbeitet hat, erklärte gegenüber dem US-Radiosender NPR, dass es darum gehe, eine Diskussion darüber zu führen, ob die Erzeugung von erotischen Texten und Nacktbildern für die KIs der Firma stets verboten sein solle. Aber auch bei einer Freigabe soll es weitere Einschränkungen gemäß den Richtlinien des Unternehmens geben, wonach etwa die Erzeugung von Deepfakes verboten ist. Nutzer sollten "die maximale Kontrolle in einem Rahmen haben, der weder Gesetze noch die Rechte anderer Menschen verletzt".
Nachsatz: "Es bedeutet nicht, dass wir jetzt versuchen, KI-Pornos zu erstellen." Ob man bei einer Lockerung der Regeln manche erzeugte Inhalte als Pornografie einstufe, hänge "von der (persönlichen) Definition" des Begriffs ab, so Jang. Genau darüber wolle man aber eben reden, denn es gebe durchaus "kreative Anwendungsfälle, in denen Sexualität oder Nacktheit wichtig für unsere Nutzer ist".
Kein Vertrauensvorschuss
Gegenüber diesem Vorstoß regt sich bereits Skepsis. Die Regisseurin Beeban Kidron, die sich immer wieder für die Sicherheit von Kindern im Netz einsetzt, zeigt sich etwa enttäuscht. OpenAI würde "sehr schnell seine eigene Mission aushöhlen". Denn eigentlich hat der Konzern das Ziel ausgegeben, KIs zu entwickeln, die für Menschen "sicher und vorteilhaft" sind. Es sei "unendlich enttäuschend, dass sich der Tech-Sektor mit kommerziellen Dingen wie KI-generierter Erotik beschäftigt, statt (...) Verantwortung für den Schaden zu übernehmen, den man anrichtet", so Kidron gegenüber dem "Guardian".
Clare McGlynn, Professorin der Durham University und Expertin für die Regulierung von Pornografie, zeigt sich ebenfalls misstrauisch. Sie erklärt, dass sie das Versprechen jedes Tech-Unternehmens hinterfragen würde, das erklärt, es wolle verantwortungsvoll Erwachseneninhalte produzieren. "Ich bin zutiefst skeptisch darüber, wie man versuchen will, diese Möglichkeiten auf konsensuale, legitime Inhalte einzuschränken", sagt McGlynn. In der Vergangenheit wurden immer wieder etablierte Produkte, die eigentlich mit Beschränkungen versehen sind, erfolgreich für sinistre Zwecke missbraucht. Darunter auch der mit OpenAI-KI ausgestattete "Microsoft Designer", den der Hersteller nachrüsten musste, nachdem damit Deepfakes von bekannten Persönlichkeiten erzeugt worden waren.
Schon jetzt müssen die KI-Modelle mit herausfordernden Anfragen umgehen können. ChatGPT lässt sich aktuell beispielsweise nicht dafür nutzen, erotische Geschichten zu erzeugen. Gleichzeitig soll der Chatbot aber sehr wohl sexualkundliche Auskünfte liefern, wenn er etwa zum Geschlechtsakt befragt wird. (gpi, 10.5.2024)