Konferenz Shaping AI - Demokratisch. Nachhaltig. Innovativ.

In dem Forum von Tabea Rößner zum Aufbau von Aufsichtsstrukturen für den EU-Artificial Intelligence Act (AIA) wurde mit den Teilnehmer*innen lebhaft diskutiert. Es wurde deutlich: Die Durchführung des AI Acts erfordert viel Detailarbeit. So stellt er ähnliche, aber organisatorisch weniger strikte Anforderungen an die Aufsichtsstruktur in Deutschland als etwa der europäische Digital Service Act (DSA), wie Prof. David Roth-Isigkeit von der Universität Speyer darstellte. Im Bereich Produktsicherheit ist zudem eine komplexe Aufsichtsstruktur bereits vorhanden. Die Expert*innen befürworteten die Idee eines Netzwerks, das die Strukturen und Kompetenzen der bestehenden Marktüberwachungsbehörden berücksichtigt. Dabei wurde die Möglichkeit erwogen, dass die Bundesnetzagentur ihre KI-Kompetenzen ausbaut, um andere Behörden zu unterstützen – sie solle aber nicht etwa Medizinprodukte oder andere Produktsektoren selbst bewerten müssen.

Franziska Weindauer vom TÜV AI Lab gab zu bedenken, dass eine ergänzende Zentralisierung der Aufsicht für Stand-Alone-KI-Systeme, insbesondere in der Verwaltung, sinnvoll sein könnte. Sie berichtete außerdem von den Herausforderungen bei der Überprüfung von KI-Systemen aufgrund ihrer nicht-deterministischen Natur und ihrer ständigen Weiterentwicklung. Besonders schwierig sei die Prüfung von technisch schwer definierbaren Zielen wie Robustheit, Explainability und Fairness.

Dr. Sebastian Hallensleben, Vertreter der europäischen Normungsorganisation CEN CENELEC, betonte die langjährige Tradition der EU-Produktregulierung, bei der Ziele in Gesetzen formuliert und dann in technischen Standards umgesetzt werden, sowie die Notwendigkeit der Standardisierung angesichts der vagen Anforderungen an KI-Systeme im AI Act. Die bereits fortgeschrittene Standardisierungsarbeit werde aber hier – anders als bei der DSGVO – klare Regeln für die Praxis und damit Rechtssicherheit geben. Gegen Desinformation und Deepfakes von „bad actors“ sei grundlegende Arbeit auf verschiedenen Ebenen erforderlich.

Verschiedene Teilnehmer*innen äußerten sich zu diversen Aspekten der KI-Aufsicht, darunter die Forderung nach einem One-Stop-Shop, die Bedeutung von Digital- und Datenschutzkompetenz, Barrierefreiheit, sowie die Forderung nach Vielfalt in den Normungsgremien.

Gemeinsam mit Thomas Kübler von der Kübler Hallenheizungen GmbH und Marian Gläser von BrighterAI diskutierte Maik Außendorf die Möglichkeiten der Integration von KI-Lösungen in kleine und mittlere Unternehmen (KMU) und Start-ups. Marian Gläser betonte die Rolle von BrighterAI in der Entwicklung von Lösungen zur Anonymisierung von Bild- und Videodaten mithilfe Generativer KI für Industriekunden und Smart Cities und unterstrich die Bedeutung der Vereinigung von Datenschutz und Innovation. Speziell für BrighterAI wirkten die EU-Regulierungen als Innovationstreiber für Lösungen, die intelligente Lösungen für die Regulierungs-Anforderungen bieten. Thomas Kübler sprach über die Integration von KI in Heizsysteme, um die Energieeffizienz zu steigern. Er hob die Bedeutung von KI in seinem Unternehmen hervor, welche durch das Förderprogramm des Green AI Hub Mittelstand des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) ermöglicht wurde. So konnten ein digitaler Zwilling erstellt, Prozesse automatisiert und datengestützte Entscheidungen getroffen werden. In vier Projekten der Kübler Hallenheizungen GmbH konnten durch die Nutzung ihrer Hallenheizungen insgesamt 65 Prozent Energie eingespart werden, was etwa dem Energiebedarf von 3500 Wohnhäusern entspricht. Die Integration von KI bietet zusätzlich ein Einsparungspotenzial von weiteren 15 Prozent. Jedoch erwähnte Thomas Kübler, dass aufgrund veralteter Normung und bürokratischer Hürden das volle Potenzial der KI-Nutzung in seinem Unternehmen nicht ausgeschöpft werden kann.

In der anschließenden Diskussion wurde die Bedeutung von Standardisierungsgremien und einer Repräsentation von KMU und Start-ups bei der Normierung hingewiesen und die Möglichkeiten einer politischen Unterstützung für die Integration von KI in Geschäftsmodelle, beispielsweise über Förderprogramme wie den Green AI Hub, diskutiert. Aktuelle Herausforderungen sind der Bedarf nach Kapitalmobilisierung (Venture Capital), eine Monopolbildung großer Unternehmen in der KI-Branche sowie der Fachkräftemangel in der Digitalisierung.

Generative Sprachmodelle werden auf der Grundlage großer Datenmengen entwickelt. Dafür werden Millionen von digitalen Inhalten gesammelt, ohne dafür zu bezahlen. Kulturschaffende haben in den letzten Jahren klar vor den wirtschaftlichen Folgen gewarnt und klare Regulierung gefordert. Im Forum „Fortschritt und Fairness“ diskutierten Awet Tesfaiesus, Erhard Grundl und Tobias Bacherle, wie innovative KI-Tools mit einem starken Urheberrechtschutz vereinbart werden können.

Zentrale Schwachstelle der aktuellen Regelung ist laut Jan Nordemann, Anwalt für Urheberrecht, die Durchsetzung des sogenannten Opt-out, also des Rechts, eine Nutzung zu verweigern. Hier können einheitliche und verpflichtende Standards helfen. Stefanie Valdés-Scott von Adobe berichtete vom neuen offenen Standard, den ihr Unternehmen entwickelt hat. Ein solcher Standard könnte eine effektive Rechtsdurchsetzung ermöglichen, wenn er weltweit eingesetzt werde – und damit auch zur Etablierung von Vergütungen beitragen.

Ein faires Vergütungssystem forderte Balbina, Musikerin und Kreativdirektorin von Polyton. Dabei betonte sie, wie wichtig es ist, Vergütungsansprüche global durchzusetzen. Denn die Hersteller*innen der wichtigsten generativen KI-Modelle sitzen außerhalb der EU und sind nicht verpflichtet, sich an europäisches Urheberrecht zu halten. Ein Meilenstein, um Urheberrechte auszuweiten, ist der AI Act. Jan Nordemann lobte den Ansatz dahinter und forderte eine konsequente Umsetzung.

Generative KI kann dazu führen, dass beispielsweise Streaming-Plattformen mit KI-generierter Musik überschwemmt werden. Dadurch würde der Topf, aus dem Künstler*innen bezahlt werden, schrumpfen. Balbina betonte die gravierenden finanziellen Folgen solcher Entwicklungen.

Neue generative KI-Modelle bieten spannende Möglichkeiten für Kreative. Diese Chancen sollen genutzt werden und die Grundlage sichern, um hochwertige KI-Modelle zu entwickeln. Technische Innovation darf allerdings nicht zu Kosten der Künstler*innen erfolgen.

Nie war es einfacher, Informationen, Bilder und Video zu manipulieren oder gänzlich von Künstlicher Intelligenz erfinden zu lassen. Das hat Konsequenzen für die Demokratie. Renate Künast und Marlene Schönberger diskutierten mit ihren Gästen die Frage, wie Wahlen und Demokratie angesichts generativer künstlicher Intelligenz resilient gestaltet werden können.

Junior-Professorin Hannah Ruschemeier von der FernUniversität Hagen vertrat die These, dass KI sich strukturell von bisherigen technischen Neuerungen unterscheide und damit auch andere Regulierungsansätze erfordere. Datenschutzrecht beispielsweise schütze individuelle Grundrechte in einem bilateralen Verhältnis zwischen Nutzer*innen und Plattformen. KI berge aber auch Risiken auf der kollektiven Ebene. Der Digital Services Act erkennt das an und war ein wichtiger Schritt, um Plattformen in die Verantwortung zu nehmen. Wichtig wird nun sein zu beobachten, wie der Vollzug der entsprechenden Gesetze in den Mitgliedsstaaten funktioniert. Plattformen sollen ihre rechtlichen Rahmen ausschöpfen, diskutiert wurden Ansätze wie etwa die Sperrung einzelner Anwendungen in den Stores.

Nathalie Rücker vom Institute for Strategic Dialogue führte aus, dass sich viele der erkannten Probleme nicht durch rechtliche Regulierung lösen lassen und Bildung entscheidend sei, um Bürger*innen für den Kontakt mit Desinformation zu wappnen und ihr Vertrauen in journalistische Arbeit und die Demokratie zu stärken. „Debunking“ falscher Informationen sei zwar wichtig, deutlich erfolgversprechender ist jedoch „Prebunking“, welches Nutzer*innen bereits vor dem Kontakt mit einer Falschinformation befähigt, solche zu prüfen, erkennen und einordnen zu können.

Forderungen für die Politik waren eine verbesserte Finanzierung der Zivilgesellschaft durch das Demokratiefördergesetz und ihre Einbindung in politische Prozesse, beispielsweise bei der Koordinierungsstelle für digitale Dienste. Auch der Forschung kommt eine besondere Rolle zu. Neben Investitionen ist hier vor allem der Zugang zu Datensätzen der Konzerne relevant.

Besonders häufig sind ohnehin marginalisierte Gruppen Opfer von Desinformationskampagnen, für sie ist es wichtig, Unterstützungsnagebote zu stärken. Auch innerhalb des aktuellen gesetzlichen Rahmens gibt es Defizite bei der Durchsetzung von Recht, hier sind Schulungen in der Polizei und Staatsanwaltschaft effektiver als eine Verschärfung des Strafrechts.

Würden Sie einer künstlichen Intelligenz (KI) die Zukunft unserer Städte & Dörfer anvertrauen? Teilnehmer*innen des Forums waren sich einig: KI kann Entscheidungshilfen liefern, doch die finale Planung muss bei Menschen liegen. In einem interaktiven Format haben Stefan Gelbhaar und Kassem Taher Saleh vorab um Ideen für innovativen KI-Einsatz im Bau- und Mobilitätssektor gebeten. Fachlich bereichert wurden die Diskussionen mit Input von Prof. Annette Rudolph von der Technischen Universität Berlin.

In Städten und Dörfern können mithilfe von KI Daten gesammelt werden, die Einblicke in den Gebäudebestand und anonymisierte Bewegungsmuster von Menschen liefern. Diese Daten dienen als Grundlage für Projekte in verschiedenen Bereichen. Im Baubereich können sie beispielsweise beim Identifizieren von Potenzialen für energetische Sanierungen oder bei der Suche nach Baupotentialen unterstützen. Im Mobilitätsbereich tragen sie zur Entwicklung sicherer Verkehrswege, intelligenter Verkehrssysteme und Smart Mobility Hubs als gleichzeitige, soziale Begegnungsorte bei.

Trotz ihrer Vorteile stehen KI-Systeme vor Herausforderungen. Wichtige Entscheidungen sollten weiterhin von Menschen getroffen werden, um Fehler zu vermeiden. Zudem ist es entscheidend, den digitalen Fußabdruck im Auge zu behalten, sei es durch den Energieverbrauch von Servern oder die Flächennutzung oder -versiegelung von Rechenzentren. Die Qualität der Daten und deren korrekte Verarbeitung sind von zentraler Bedeutung, um zuverlässige Ergebnisse zu erzielen.

Ein weiterer Aspekt ist die soziale Verantwortung. Es ist wichtig, die Potenziale von KI-Technologien transparent zu kommunizieren und frühzeitig Bürger*innen zu beteiligen. Außerdem gilt es sicherzustellen, dass politische Strategien für die Entwicklung von Smart Cities und -Regionen auch in den Kommunen umsetzbar sind. Oftmals fehlen den Verwaltungen jedoch die erforderlichen Kompetenzen, um diese Strategien effektiv umzusetzen. Es bedarf daher einer engen Zusammenarbeit zwischen Politik, Verwaltung und Technologieexperten, um die Potenziale von KI für das Gemeinwohl optimal zu nutzen.

Künstliche Intelligenz ist im Schulalltag angekommen und ist aus diesem auch nicht mehr Wegzudenken. Mit dieser nüchternen Feststellung begann das Forum mit Sabine Grützmacher und Kai Gehring "Wie gelingt KI in der Bildung?" zu dem Dr. Berit Blanc vom DFKI und Dr. Anne-Sophie Waag von Wikimedia Deutschland als Expertinnen eingeladen waren.

Zwei Drittel der Schüler*innen nutzen Erhebungen zufolge bereits KI-Tools im Schulkontext. Die zu beantwortende Frage war daher, wie kann KI lernen und leben unterstützen? In der Diskussion wurde klar: KI kann im Schulalltag bereichern, aber nur bedingt ersetzen. Vorstellungen einer Schule ohne Lehrer*innen, in der KI-Tools autonom Schüler*innen unterrichten und so den Fachkräftemangel auffangen sind (noch) Science Fiction.

Für die Schulen bedeutet das nicht weniger Herausforderungen. Denn der Markt ist aktuell sehr dynamisch, Schulen werden mit einer Vielzahl an Produkten konfrontiert. Neben proprietären Angeboten großer Unternehmen wurden insbesondere Open-Source-Anwendungen als transparente Alternative hervorgehoben. Die Entscheidung, welche Angebote einen Mehrwert für Schule bieten, ist komplex. Ein wesentlicher Baustein ist daher, Lehrer*innen durch medienpädagogische Aus- und Weiterbildungen zu unterstützen und Schule von multiprofessionellen Teams aus zu denken, bei der auch die Pflege der notwendigen Hard- und Software mitgedacht und mit den nötigen Ressourcen versehen ist.

Ohnehin wurde die Infrastruktur als weitere wichtige Gelingensbedingung herausgearbeitet. Wenn ein grundlegendes Niveau wie schnelle und stabile Datenverbindungen etwa in ländlichen Räumen nicht sichergestellt ist, nützen auch die besten Tools nichts. Kurzfristiges Ziel muss daher gleicher Zugang für alle sein. Unter diesen Bedingungen kann KI in der Bildung gelingen und statt Gräben zu vertiefen, Game-Changer zum Guten sein. Das gilt etwa für den Bereich Inklusion, wo KI-Anwendungen zur Gebärdendolmetschung oder zur Übersetzung von Lehrinhalten in leichte Sprache eingesetzt werden kann.

Ein Avatar, mittels dessen die Stimmen im Kopf veräußerlicht werden können. Chatbots, die als erste Anlaufstellen für Menschen mit psychischen Belastungen fungieren. Expositionstherapie mittels Virtual Reality-Anwendungen. Künstliche Intelligenz hat im Gesundheitssystem längst Einzug gehalten, besonders auch in der Psychotherapie, der psychosozialen Beratung und der psychiatrischen Behandlung.

Wie können Menschen mit psychischen Erkrankungen von den Entwicklungen bestmöglich profitieren und gleichzeitig vor möglichen Risiken geschützt werden? Nach Inputs von Prof. Alena Buyx, der Vorsitzenden des Deutschen Ethikrats, und Prof. Andreas Meyer-Lindenberg, dem Präsidenten der Deutschen Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde, wurde diese Frage von den Teilnehmenden des Forums und Moderatorin Dr. Kirsten Kappert-Gonther diskutiert.

Prof. Buyx brachte dabei die Empfehlungen des Deutschen Ethikrats ein: Damit ihr Einsatz ethisch zu rechtfertigen ist, müssen KI-Anwendungen menschliche Handlungsmöglichkeiten erweitern und dürfen sie nicht verengen. Ethisch wichtig sind zudem die Schadensvermeidung und der Fokus auf Fürsorge und Gerechtigkeit. Prof. Meyer-Lindenberg sah voraus, dass die Extreme – gar keine oder vollkommene Automation – für den Gesundheitsbereich nicht in Frage kommen. Der Mittelweg – „human in the loop“ – bietet ein Spektrum an vertretbaren Möglichkeiten. Für Dr. Kappert-Gonther spielen Leiblichkeit, Latenz, Aushalten und Selber-Gestalten eine wichtige Rolle im therapeutischen Kontext, der möglicherweise durch KI-Anwendungen nicht immer repliziert wird. In der Diskussion kamen weitere Aspekte zur Sprache, unter anderem Herausforderungen bei der Zulassung von selbstlernenden Anwendungen, die Vermeidung der Fortschreibung von Diskriminierungen und Normalitätskonzepte, die KI-Anwendungen unterliegen. Grundsätzlich war die Stimmung zuversichtlich hinsichtlich der Erweiterungen der Möglichkeiten durch KI zugunsten der Betroffenen. Sowohl im Gesundheitswesen als auch politisch muss sich zukünftig noch vermehrt mit den Chancen und Risiken von KI auseinandergesetzt werden.

Schahina Gambir und Awet Tesfaiesus widmeten sich in ihrem Forum den Fragen, wie gegen Vorurteile in der KI vorgegangen und marginalisierte Personen geschützt werden können und welche Strategien es gibt, um eine gerechtere technologische Zukunft zu gestalten. Diskutiert wurde mit den Expert*innen Lajla Fetic, Expertin für Tech-Governance und Digitalpolitik, und Katharina Klappheck vom Gunda-Werner-Institut für Feminismus und Geschlechterdemokratie und den Teilnehmer*innen.

Anhand des Titels des Forums „digitale Diskriminierung“ kritisierte Lajla Fetic das technologiefokussierte Narrativ. Diskriminierung und Rassismus sind in der Gesellschaft verwurzelt und zeigen sich entsprechend auch in der KI. An jedem Zeitpunkt des KI-Lebenszyklus kann Diskriminierung vorkommen – von der Idee über die verwendeten Daten bis hin zur Entwicklung selbst. KI ist ein Werkzeug, das von uns Menschen entwickelt und eingesetzt wird. Hier müssen wir verantwortungsvoll agieren.

In der Diskussion wurde deutlich, dass bisherige Bemühungen gegen Diskriminierung zu eindimensional sind und noch nicht ausreichend wirken. Hier sind wir der Frage nachgegangen, wer die Verantwortung für die Regulierung der KI trägt. Es wurde der deutliche Appell geäußert, Unternehmen stärker in die Pflicht zu nehmen.

Ein wichtiges Tool, um KI-Modelle diskriminierungskritisch zu prüfen, sei die grundrechtliche Folgenabschätzung in Artikel 27 EU-KI-Verordnung. Es wurde jedoch betont, dass für einen wirksamen Rechtsschutz für Individuen das Allgemeine Gleichbehandlungsgesetz reformiert und an die neuen Herausforderungen angepasst werden müsse. Für Betroffenen ist es schwer, überhaupt Kenntnis von algorithmischer Diskriminierung zu erlangen und diese zu beweisen ist noch komplizierter.

Es gibt eine große aktivistische Community, die sich dafür einsetzt, KI partizipativer zu gestalten. Katharina Klappheck betonte die Notwendigkeit diesen Menschen mehr Sichtbarkeit und Schutz zu bieten. In KI-Modellen werden Herrschaftsverhältnisse gespiegelt - daher braucht es beim Umgang mit algorithmischer Diskriminierung vor allem Transferarbeit.

Im Forum „Sharing is Caring“ diskutierten Ville Sirviö, Paulina Behluli, Dr. Nicole Ludwig und Tobias Bacherle welche Bedeutung Daten für die gemeinwohlorientierte Nutzung von KI hat, wie Daten besser und verantwortungsvoll geteilt werden können und was Deutschland von anderen Ländern lernen kann.

Als Schlüsselelement für den Erfolg des Datenteilens identifizierten die Teilnehmenden das Ziel, das Vertrauen der Bürger*innen zurückgewinnen. Eine zentrale Barriere sei dabei das fehlende Wissen und Kontrolle über die eigenen Nutzer*innendaten. Neue EU-Regulierung wie der Data Act aber auch Datenräume und Datencockpits könnten dabei helfen, Menschen die Kontrolle über die Nutzung und das Teilen ihrer Daten zurückzugeben, müssen aber zugleich bürokratiearm umgesetzt werden, um nicht zusätzliche Hürden zu schaffen.

Die Expert*innen unterstrichen, dass für ein erfolgreiches Datenteilen mehr Digitalkompetenz gebraucht werde, um Unsicherheiten vor dem Teilen und Nutzen von Daten abzubauen, Mehrwerte zu erkennen und Menschen zu ermutigen, Daten zu lesen, zu verstehen und sie selbst zu nutzen. Hierzu könnten Weiterbildungsmaßnahmen positiv wirken, die niedrigschwellig konkrete Vorteile von datenbasierten Arbeiten aufzeigten. Gerade im Bereich des digitalen Staats könnte man viel von Estland lernen, das seine Verwaltung weitestgehend digitalisiert habe.

Daten sind neben Code der entscheidende Faktor, um gemeinwohlorientierte KI-Forschung zu ermöglichen, liegen aber oft noch ungenutzt in Silos. Die Diskutant*innen befanden, dass es als Lösung neben einer rechtsicheren Grundlage auch mehr spezifische Datenzugänge für Forschungseinrichtungen bräuchte, wie sie auch im Rahmen des Digital Services Act vorgesehen sind. Generell müssten gerade öffentliche Daten möglichst hochwertig erhoben und interoperabel geteilt werden. Ein Recht auf Open Data sei dabei ein wichtiger Schritt.

Tabea Rößner und Erhard Grundl diskutierten mit Expertinnen die Frage: Wie verändern sich Journalismus und die Medienrezeption durch KI?

Laut Prof. Dr. Wiebke Loosen von der Universität Hamburg werde KI etwa bei Recherche, Texterstellung und Verifikation von Informationen eingesetzt, verändere grundlegend die Arbeits- und Produktionsprozesse in Medienhäusern, sowie insbesondere die Art und Weise, wie journalistische Inhalte verbreitet und konsumiert werden. Lina Timm, Leiterin des Media Lab Bayern, ergänzte, Inhalte könnten durch KI viel präziser auf die Interessen der Nutzer*innen zugeschnitten und Medienschaffende bei allgemeinen Aufgaben entlastet werden, um sich auf Kernaufgaben, Recherche und Spezialthemen zu konzentrieren.

Gleichzeitig müsse die Glaubwürdigkeit von Medieninhalten sichergestellt und die Auswirkungen auf die Arbeitsbedingungen kritisch hinterfragt werden, betonte Hannah Möllers vom Deutschen Journalisten-Verband. Journalist*innen durch KI zu ersetzen, gehe auf Kosten von Qualität und Vertrauen in Medien. 

Insbesondere generative KI könne bestehende Probleme, wie die Abwanderung von Werbeeinnahmen von etablierten Medienhäusern hin zu digitalen Plattformen, verschärfen. Hannah Möllers betonte daher die Frage der Vergütung, wenn Medieninhalte für KI-Trainings genutzt werden, und forderte mehr kartellrechtliche Maßnahmen im Hinblick auf Monopole.

Insgesamt seien KI-Tools im Journalismus nicht neu, auch wenn sie aktuell zu großen Umwälzungen führten. Laut Lina Timm gelte es, KI sinnvoll und zielgerichtet einzusetzen, um journalistische Qualität zu erhalten und die Informationsfreiheit zu schützen.

Das Forum endete mit dem Fazit: KI kann journalistische Arbeit unterstützen und Platz für Kernaufgaben schaffen. Denn Vertrauen gibt es nicht in KI, sondern in Menschen. Wir brauchen Vielfalt, Auffindbarkeit und Sichtbarkeit von Qualitätsmedien, müssen Journalist*innen und deren Geschäftsmodelle stärken und Monopolbildung entgegenwirken.

Künstliche Intelligenz wird unsere Arbeitswelt verändern. Und sie verändert die Arbeit selbst - die Arbeitsorganisation, ihre Aufgaben und Abläufe. Jede siebte Firma setzt heute bereits KI ein – quer durch alle Branchen. Und selbst im Bundestag kommt ChatGPT zur Erstellung von Texten zum Einsatz.

KI bietet Chancen, aber auch Risiken in der Arbeitswelt – und die diskutierte Beate Müller-Gemmeke mit Clara Helming, die in Berlin als Senior Advocacy & Policy Managerin bei der Organisation AlgorithmWatch arbeitet, und mit Professorin Katharina Hölzle, die das Institut für Arbeitswissenschaft und Technologiemanagement der Universität Stuttgart und das Fraunhofer-Institut für Arbeitswirtschaft und Organisation leitet.

KI kann Arbeit erleichtern indem sie monotone, lästige sich wiederholende Arbeit übernimmt, damit mehr Zeit für sinnvollere Tätigkeiten bleibt. KI birgt aber auch Risiken, beispielsweise, wenn sie zur Überwachung eingesetzt wird. Sie kann Lagerarbeit effizienter machen, und so aber auch die Anforderungen und die Arbeitsdichte erhöhen, und so die Arbeitsintensität steigern.

Deshalb, und da waren sich die beiden Expertinnen einig, ist es entscheidend bei der Einführung von KI in ein Unternehmen, dass die Beschäftigten eingebunden sind und mitgestalten können. Betriebsräte müssen eng beteiligt werden, es braucht technische aber auch rechtliche und ethische Schulungen. Und natürlich brauchen Betriebsräte passgenaue Mitbestimmungsrechte.

Letztlich geht es darum, dass Beschäftigte die Werkzeuge, die die KI ihnen zur Verfügung stellt, bestmöglich und mitbestimmt nutzen können. Das Fraunhofer Institut hilft da mit zwei KI-Studios und KI-Bussen, die deutschlandweit im Einsatz sind. Hier werden Beschäftigte aller Branchen und Betriebsräte an KI herangeführt und über die Möglichkeiten, Einsatzgebiete und Grenzen von KI informiert. Gleichzeitig werden sie dazu befähigt, die Einführung der Technologie aktiv und konkret mitzugestalten.

Neunzehn Prozent der europäischen Land-, Süßwasser- und Meeresarten sind vom Aussterben bedroht und viele Ökosysteme in der EU sind in einem schlechten Zustand. Welchen Beitrag KI in der Landwirtschaft leisten kann, um diesen Trend umzukehren, diskutierte Karl Bär mit Maximilian Meister vom Naturschutzbund Deutschland (NABU) und Moritz Trapp vom BUNDJugend.

Im Rahmen der KI-Strategie und der Digitalstrategie haben das Bundesministerium für Umwelt und Verbraucherschutz sowie das Bundesministerium für Ernährung und Landwirtschaft Tools für Naturschützer*innen und Landwirt*innen unterstützt, die dabei helfen, Biodiversität einfach beobachten zu können und in der Landwirtschaft zu stärken. Hier hat unter anderem die Expertenkommission Forschung und Innovation festgestellt, dass der Anreiz für Landwirt*innen diese neuen Werkzeuge auch einzusetzen zu schwach ist und empfiehlt daher die Einführung einer Pestizid- und Nährstoffabgabe. 

Die Fülle von zur Verfügung stehenden Daten und deren Auswertung können aber nicht nur Unternehmer*innen und Bürger*innen befähigen, mehr für Natur-, Umwelt- und Klimaschutz zu tun, sondern auch den Staat. Die Diskussion kreiste um die Rolle dieser Möglichkeiten in der Gemeinsamen Agrarpolitik nach 2027. Hier tut sich ein gangbarer Weg auf, um Naturschutz, Umwelt- und Klimaansprüche an die Landwirtschaft zu honorieren, ohne sie mit Bürokratie zuzuschütten oder einen riesigen Verwaltungsapparat aufzubauen.

Weiterhin bleibt die Gefahr von Lock-In Effekten in der Landwirtschaft groß. Große Agrarunternehmen bauen durch ihren Marktmacht und ihren Zugriff auf die Daten der Landwirt*innen rund um die Welt ihre Vormachtstellung weiter aus, auch unter dem Deckmantel von Klimaschutz und Biodiversitätserhalt. Die Bundesregierung sollte hier weiterhin Alternativen fördern, damit Landwirt*innen auch in der Zukunft die Wahl haben. Außerdem steckt die Domäne Agrar in GAIA-X weiterhin in den Kinderschuhen und gibt es noch viel Arbeit, offene Schnittstellenstandards zu definieren. Hier bedarf es weiterer Kraftanstrengungen für eine bessere Datenverfügbarkeit und -Nutzung.

KI-Anwendungen halten Einzug in die Polizeiarbeit. Insbesondere in den Bereichen Videoüberwachung, Spracherkennung, Predictive Policing und vor allem in den Phänomenbereichen Organisierte Kriminalität und Finanzkriminalität gehören sie teilweise schon zum Alltag der Ermittler*innen. In dem Forum wurde das komplexe Spannungsverhältnis zwischen individueller Freiheit, Sicherheit, Grundrechtsschutz und moderner Polizeiarbeit angegangen.

Moderiert wurde das Forum von Marcel Emmerich, die beiden Panelist*innen waren Prof. Dr. Kristin Pfeffer, Professur für Öffentliches Recht an der Forschungsstelle Europäisches und Deutsches Sicherheitsrecht, sowie Alexander Poitz, stellvertretender Bundesvorsitzender der Gewerkschaft der Polizei.

Alexander Poitz wies darauf hin, dass die organisierte Kriminalität hoch professionalisiert und global vernetzt sei. Die Ausstattung der Polizei sei hingegen weit davon entfernt, den Standards des 21 Jahrhunderts zu entsprechen. Wie effektiv Polizeiarbeit mit Einsatz von modernen technischen Mittel sein kann, habe man an den Encrochat-Ermittlungsverfahren gesehen. Diese haben in einer noch nie da gewesenen Art und Weise Einblicke in die Netzwerke, Strukturen und Vorgehen der organisierten Gruppierungen gegeben.

Die Diskussion kreiste auch rund um das aktuell brisante Thema der KI-Gesichtserkennung. Dabei wurde die Frage aufgeworfen, wie weit in die persönlichen Rechte eingegriffen werden dürfe. Einigkeit bestand insofern, als dass die deutsche Rechtslage bisher keine rechtssichere und verfassungskonforme Antwort auf diese Frage bietet und der Gesetzgeber hier für Klarheit sorgen sollte. Prof. Dr. Kristin Pfeffer betonte, dass es ein wichtiger Schritt gewesen sei, auf EU-Ebene Mindeststandards für die Gesichtserkennung für alle europäischen Länder zu setzen. Klar sei aber auch, dass sich Deutschland mit diesen Mindestanforderungen noch nicht zufriedengeben sollte und hier noch deutlich nachgeschärft werden müsse.

Dr. Anna Christmann diskutierte mit Prof. Philipp Hacker von der European New School of Digital Studies und Prof. Sandra Wachter vom Oxford Internet Institute, welche Rolle die Vereinten Nationen (UN) bei der Gestaltung von künstlicher Intelligenz einnehmen sollten.

Eine Technologie, die keinen Halt vor Grenzen macht, muss auch aus globaler Perspektive adressiert werden, um sicherzustellen, das KI-Entwicklungen im Einklang mit internationalem Recht, humanitären Völkerrecht und den Zielen für nachhaltige Entwicklung (SDGs) der Vereinten Nationen stehen. Entsprechend sind die UN wichtig für die Governance von KI auf globaler Ebene. Ein Hauptfokus der UN kann unter anderem darin liegen, mögliche soziale Ungleichheiten durch KI, die Machtkonzentration weniger privatwirtschaftlicher Akteure, digitale Teilhabe des globalen Südens, und den Ausbau digitaler Infrastruktur zu adressieren. Der Energieverbrauch von KI wird exponentiell ansteigen. Daher muss Nachhaltigkeit, konkret die Nutzung von erneuerbaren Energien wie auch die Eindämmung des Ressourcenverbauchs, bei der Entwicklung von KI-Innovationen von Anfang an, by design, mitgedacht und auf internationaler Ebene durch die UN in die Breite getragen werden.