Link zur Anfrage VIII-F-00911 im Ratsinformationssystem

Anfrage zur Beantwortung in der Ratsversammlung am 19. März 2025

In der heutigen digitalen Welt, in der technologische Innovationen in hohem Tempo voranschreiten, stehen wir vor der gleichsam faszinierenden wie risikobehafteten Herausforderung KI-generierter Inhalte. Diese Inhalte, die von Algorithmen erstellt werden, sind oft nicht von menschlichen Werken zu unterscheiden. KI-generierte Bilder sind oftmals so überzeugend, dass sie von vielen Konsument*innen als echte Fotografien wahrgenommen werden. Diese Verzerrung der Grenze zwischen Realität und Fiktion ist eine Grundsatzfrage und kann weitreichende Konsequenzen haben. Von der Verbreitung von Fehlinformationen über Social Media bis hin zur Manipulation öffentlicher Meinungen und der Beeinflussung des politischen Diskurses – die Einsatzmöglichkeiten sind so vielfältig wie gefährlich. In einer Welt, die ohnehin schon mit der Herausforderung von „Fake News“ und „Deepfakes“ konfrontiert ist, könnten KI-generierte Bilder, die als solche nicht kenntlich gemacht sind, das Vertrauen in visuelle Medien weiter untergraben.

Es ist unerlässlich, sowohl die Chancen als auch die Risiken dieser Technologie zu verstehen und angemessene Maßnahmen zu entwickeln, um negativen Auswirkungen entgegenzutreten. Hier sind insbesondere staatliche Akteure gefragt, mit gutem Beispiel voranzugehen.

Dies versucht die Verwaltung bereits durch ihre KI-Leitlinien (VII-DS-09934). Dort heißt es u.a.: „Bei der Anwendung von KI-Technologien streben wir ein hohes Maß an Transparenz und Erklärbarkeit in den eingesetzten Anwendungen und Systemen an, indem wir Informationen über die verwendeten Algorithmen, Datenquellen und Trainingsmethoden bereitstellen. Arbeitsergebnisse, welche mittels KI erstellt wurden, werden entsprechend gekennzeichnet.“

In der Verwaltungsantwort VIII-F-00282-AW-01 von 21.10.2024 führt die Verwaltung aus: „Für den produktiven Einsatz von KI ist eine entsprechende Kennzeichnung vorgesehen.“

Daher waren wir überrascht, dass die Stadt in der aktuellen Kampagne „Buchstadt Leipzig 2025“ KI-generiertes Bildmaterial verwendet, dies aber nur punktuell kennzeichnet. So ist das Bild auf der Webseite der Stadtverwaltung als KI-generiert gekennzeichnet, auf Plakaten in der Stadt sowie in der Broschüre jedoch nicht. Dies steht im Widerspruch zu dem eigenen Transparenzanspruch.

Dazu fragen wir:

1. Welchen Grundkonsens hat die Stadtverwaltung als Auftraggeberin und das mit der Kampagne beauftragte Unternehmen im Rahmen der Zusammenarbeit im Hinblick auf die Arbeit mit Künstlicher Intelligenz hergestellt? War die Stadtverwaltung während der Auftragsumsetzung in grundsätzliche Überlegungen zum Einsatz von Künstlicher Intelligenz einbezogen?
2. Aus welchen Gründen sind die Bildinhalte auf den Druckerzeugnissen nicht als „KI-generiert“ gekennzeichnet?
3. Welche Erkenntnisse zieht die Stadtverwaltung für die künftige Arbeit mit Künstlicher Intelligenz aus diesem Vorgang?
4. Wie wird sichergestellt, dass entsprechende Vorschriften und Leitlinien zukünftig in allen (beauftragten) Veröffentlichungen der Stadt eingehalten werden?

Antwort vom 19. März 2025

1. Welchen Grundkonsens hat die Stadtverwaltung als Auftraggeberin und das mit der Kampagne beauftragte Unternehmen im Rahmen der Zusammenarbeit im Hinblick auf die Arbeit mit Künstlicher Intelligenz hergestellt? War die Stadtverwaltung während der Auftragsumsetzung in grundsätzliche Überlegungen zum Einsatz von Künstlicher Intelligenz einbezogen?

Die Entscheidung für KI-generierte Bilder wurde gemeinsam mit der Agentur aus finanziellen und urheberrechtlichen Gründen getroffen. Grundidee war, eine Vielzahl von unterschiedlichen Personen und Charakteren lesend, mit ihren Emotionen darzustellen. Dazu sollten sechs Grundmotive entstehen, die unterschiedlich kombiniert werden sollten. Ein professionelles Fotoshooting mit diesen verschiedenen Charakteren wäre aufgrund der beschränkten finanziellen und zeitlichen Ressourcen nicht möglich gewesen. Die Entscheidung wurde also mit Bezug auf die angespannte Haushaltslage und aufgrund knapper Deadlines im Projektverlauf getroffen.

2. Aus welchen Gründen sind die Bildinhalte auf den Druckerzeugnissen nicht als „KI-generiert“ gekennzeichnet?

Die Vorlage "Bewertung und Umgang mit Künstlicher Intelligenz (KI) in der Stadtverwaltung und Stadt Leipzig" wurde am 10.12.2024 in der Dienstberatung des Oberbürgermeisters bestätigt. Die Erarbeitung der Kampagne begann bereits im Oktober 2024, die Freigabe erster Druckmotive erfolgte am 26.11.2024. Hier fand eine zeitliche Überlagerung zur Verabschiedung der Leitlinie statt. Aktuell werden die Druckerzeugnisse der Kampagne sukzessive überarbeitet und mit einer entsprechenden Kennzeichnung versehen. Im digitalen Bereich – auf der Website der Stadt Leipzig – konnten die neuen Vorgaben schneller umgesetzt werden.

3. Welche Erkenntnisse zieht die Stadtverwaltung für die künftige Arbeit mit Künstlicher Intelligenz aus diesem Vorgang?

Antwort darauf gibt das stadtintern veröffentliche Sensibilisierungspapier. Es soll Mitarbeitenden der Stadtverwaltung helfen, sicher und verantwortungsvoll mit generativer KI umzugehen und betont die Wichtigkeit einer transparenten Kennzeichnung von KI-generierten Inhalten.

4. Wie wird sichergestellt, dass entsprechende Vorschriften und Leitlinien zukünftig in allen (beauftragten) Veröffentlichungen der Stadt eingehalten werden?

In der Stadtverwaltung sind Orientierungsdokumente (u.a. eine gütige Leitlinie) im Einsatz, die entsprechende Vorschriften beim Einsatz von generativer KI beinhaltet.