Shaping AI - Demokratisch. Nachhaltig. Innovativ.

• Künstliche Intelligenz ist in der Gesellschaft als neue Technologie angekommen und verändert viele gesellschaftliche Bereiche von Bildung über die Arbeitswelt bis hin zur Demokratie, überall stehen Veränderungen an, die besprochen und gestaltet werden müssen.
• Die Bundestagsfraktion Bündnis 90/ Die Grünen veranstaltete am 19. April 2024 eine eintägige Konferenz, auf der Expert*innen aus Wissenschaft, Wirtschaft, Verwaltung und Zivilgesellschaft und die interessierte Öffentlichkeit gemeinsam mit den Abgeordneten zum Thema künstliche Intelligenz ins Gespräch gekommen sind.
• Das Motto der Konferenz „Shaping AI – Demokratisch. Nachhaltig. Innovativ“ spiegelt die Werte wider, nach denen in der parlamentarischen Arbeit der grünen Bundestagsfraktion künstliche Intelligenz zum Wohl der Gesellschaft gestaltet wird.

Willkommen im Bundestag – Wir gestalten KI demokratisch, nachhaltig und innovativ

Gemeinsam begrüßten Tabea Rößner, MdB, Vorsitzende des Ausschusses für Digitales im Deutschen Bundestag, und Maik Außendorf, MdB, Sprecher für Digitalpolitik der grünen Bundestagsfraktion, zusammen mit der Moderatorin Geraldine de Bastion, Gründerin von Konnektiv, das Publikum im Paul-Löbe-Haus. Sie beschrieben zu Beginn die gesellschaftlichen Möglichkeiten von künstlicher Intelligenz und die Notwendigkeit, diese zu fördern und mit guter Regulierung in einen demokratischen Rahmen zu fassen. Anschließend setzte Katharina Dröge, MdB, Fraktionsvorsitzende der grünen Bundestagsfraktion, mit ihrer Eröffnungsrede erste Impulse für die „Shaping AI“-Konferenz: KI beinhaltet eine Ambivalenz, die alle Menschen im Berufsleben und auch privat betreffen wird. Es bieten sich gesellschaftliche Möglichkeiten für Verbesserungen in Medizin, Verkehr, der Arbeitswelt und beim Kampf gegen die Klimakrise und vielem mehr. Aber es stellen sich auch Herausforderungen, Menschen machen sich sorgen um den Wert ihrer Arbeit, den Einfluss von KI auf Demokratie und Wahlen oder die zunehmende Machtkonzentration und Monopolisierung. Was kann die KI und an welcher Stelle darf der Mensch nicht durch eine Maschine ersetzt werden? Die Bandbreite der anstehenden Themen sollen mit den Expert*innen auf der Konferenz diskutiert werden.

Europa ist der richtige Ort, um demokratische KI zu fördern

Anschließend teilten international renommierte KI-Expert*innen ihre Vision für KI. Amba Kak, Co-Vorständin der Nichtregierungsorganisation AI Now hielt ein Plädoyer für eine Abkehr von KI-Monopolen hin zu einer positiven Gestaltung von KI für die Gesellschaft mithilfe von dezentralen KI-Innovationsökosystemen. Prof. Yoshua Bengio, Gründer und Wissenschaftlicher Direktor des Quebec AI Institute warnte vor dem Missbrauch von KI für Desinformation, biologische Waffen oder Cyberattacken und rief zu einer verstärkten Finanzierung für Sicherheitsforschung auf. Die Digitalministerin von Taiwan, Audrey Tang, berichtete von der proaktiven Einbindung der Bevölkerung in die Gestaltung von KI und rief dazu auf, als demokratische Staaten gemeinsam KI-Entwicklungen voranzutreiben. Im anschließenden Gespräch besprachen die Moderatorin Geraldine de Bastion und der Europaabgeordnete und Digitalexperte Sergey Lagodinsky, MdEP, die Notwendigkeit, Kapital für Innovationen in Europa zu mobilisieren, den Erfolg der europäischen KI-Verordnung (AI Act) als regulativen Rahmen für eine sich dynamisch entwickelnde Technologie sowie die Möglichkeiten eines Bottom-Up Prinzips und mehr Stakeholdereinbindung für KI-Gestaltung in Europa.

Für demokratische Resilienz im digitalen Raum

In dem Panel „Demokratisch. Öffentlichkeit im Zeitalter von KI“ diskutierten die Teilnehmer*innen, welche Veränderungen künstliche Intelligenz für den öffentlichen Raum und die Demokratie bedeutet. Zu Beginn skizzierte Prof. Björn Ommer von der LMU München die Entwicklung maschinellen Lernens, von Modellen, die für bestimmte Aufgaben trainiert werden hin zu generativer KI, die auch in neuen Kontexten eingesetzt werden kann und, wie beispielsweise Chat GPT, sehr schnell in der Lebensrealität der Menschen angekommen ist. Potentiale von KI für eine starke Demokratie liegen in einer verbesserten Verwaltung, große Herausforderung sind Manipulationsversuche rund um Wahlen, so legte es Tabea Rößner, MdB, dar. Der Literaturwissenschaftler Dr. Hannes Bajohr ging darauf ein, dass man jetzt nicht mehr wisse, ob ein Text von Mensch oder Maschine geschrieben sei und die Bevölkerung deswegen eine neue Lektürehaltung einnehmen müsse. Medienkompetenz war ein zentrales Thema, ebenso wie die Fehlerkultur. Sabine Frank von YouTube sagte, es sei wichtig, Fehler anzuerkennen und zu lösen und den Nutzer*innen Möglichkeiten an die Hand zu geben, sich im digitalen Raum selbstbestimmt zu bewegen, beispielweise durch das Markieren von KI-generierten Inhalten oder sogenannte „Klickpausen“, in denen man nachdenken kann, bevor man etwas anklickt. Wichtigstes Thema waren die neuen Herausforderungen für qualitativ hochwertigen Journalismus angesichts eines Trends zur Automatisierung. Für den Umgang mit der neuen Technologie gibt es vielfältige Handlungsoptionen, auf der Bühne wurden Ansätze wie eine Vergesellschaftung der Infrastruktur und mehr Open-Source-Anwendungen diskutiert und insbesondere eine konsequente Umsetzung der neuen EU-Gesetze Digital Service Act und Artificial Intelligence Act gefordert. Aus dem Publikum wurden Fragen zu den Themen Verantwortlichkeit und Zukunft der Kreativbranche gestellt.

KI-Einsatz bei der Polizei auf dem Fundament des Grundgesetzes

Im Gespräch zum Thema „Künstliche Intelligenz im Dienst der Sicherheit? Perspektiven, Chancen und Herausforderungen im demokratischen Rechtsstaat“ eröffnete Dr. Konstantin von Notz, MdB, stellvertretender Fraktionsvorsitzende von Bündnis 90/ Die Grünen mit der Aussage, dass Digitalkonzerne eine ähnliche Macht wie Staaten erlangt hätten und dadurch die verfassungsrechtliche Ordnung verrutscht sei. Konkret beleuchtete die Diskussion die Anwendung von KI in der Polizeiarbeit und die damit verbundenen Risiken für die Grundrechte. Aus Sicht von Dr. Simone Ruf von der Gesellschaft für Freiheitsrechte ist insbesondere die komplexe Datenanalyse in Zusammenarbeit mit Unternehmen wie Palantir sowie eine biometrische Gesichtserkennung im öffentlichen Raum aus der Perspektive des Grundrechteschutzes kritisch zu bewerten. Für einen klaren Rechtsrahmen und digitale Analysetools zur Auswertung großer Datenmengen für eine bessere Strafverfolgung sprach sich Alexander Poitz von der Gewerkschaft der Polizei aus. Vertieft wurde die Diskussion am Beispiel der bevorstehenden Fußball Europameisterschaft und dem möglichen Einsatz biometrischer Gesichtserkennung. Aus dem Publikum wurden Fragen zu der Sorge vor Missbrauch von KI-Anwendungen bei der Polizei selbst und zu Diskriminierung und hohen Fehlerquoten von biometrischer Erkennung nicht-Weißer Personen gestellt.

Soziale KI in die Mitte der Gesellschaft tragen

In einem Impuls stellte Lisa Paus, Bundesministerin für Familie, Senioren, Frauen und Jugend ihr Ziel dar, soziale KI in die Mitte der Gesellschaft zu tragen. Dafür verfolgt ihr Haus vier Grundsätze. Es geht darum, künstliche Intelligenz zum Wohle aller und insbesondere vulnerabler Gruppen wie jungen und älteren Menschen zu gestalten und die Medienkompetenz für ein demokratisches Miteinander zu stärken. Gemeinwohlorientierte KI wird vom BMFSFJ über die Projekte Civic Coding und das Civic Data Lab in Kooperation mit anderen Häusern finanziert. Bessere Verwaltungsleistungen werden beispielsweise mit dem KI-Chatbot für Familienleistungen bereitgestellt. Die Mitarbeit der Zivilgesellschaft sei zentral, um den AIA gut umzusetzen und Verwaltung zu verbessern und Diskriminierung entgegenzuwirken, so die Ministerin. Aus dem Publikum wurde der Wunsch geäußert, KI für eine barrierearme Verwaltung einzusetzen.

Regulierung sinnvoll umsetzen, europäische Stärken nutzen

Auf dem Panel „Innovativ. Die Zukunft der KI in Deutschland und Europa.“ ging es die Frage, was für KI wirklich gebraucht wird und welche Entwicklungsbedingungen dafür notwendig sind. Die Gründerin Vanessa Cann stellte fest, dass Deutschland im Bereich Forschung sehr gut aufgestellt ist, die Wertschöpfung dieser Erkenntnisse aber meist in den USA oder China stattfindet und von dort auch die KI-Infrastruktur komme, auf deren Grundlage zukünftige Anwendungen laufen werden. Es herrschte Einigkeit, dass man mehr gemeinwohlorientierte KI fördern müsse, Prof. Verena Nitsch von der RWTH Aachen sprach sich dafür aus, Arbeit durch KI nicht nur effizienter, sondern auch für die Menschen schöner und gesünder zu machen. Das Potential für deutsche KI sah die Ethikratvorsitzende Prof. Alena Buyx darin, Systeme an sektorale und lokale Bedarfe angepasst zu entwickeln und so beispielsweise den Anforderungen des deutschen Justiz- oder Gesundheitssystems gerecht zu werden. Bei der Umsetzung des AIA wurde die Notwendigkeit in den Fokus gerückt, ihn möglichst schlank und ohne zusätzliche bürokratische Hürden umzusetzen und allgemein eine Kultur des Datenteilens und -nutzens zu fördern. Maik Außendorf sprach sich für den Ausbau von Open Source und Datenverfügbarkeit und die weitere Förderung von Initiativen wie dem Sovereign Tech Fund und dem Dateninstitut aus und skizzierte, dass DSGVO und AIA zu einem Qualitätsmerkmal von KI aus Europa beitragen werden. Aus dem Publikum wurde nach gemeinsamer Finanzierung von Landesebene und privaten Akteuren für KI gefragt und es wurden verschiedene Innovationsökosysteme in Deutschland angesprochen.

Kraft der Innovation für KI freisetzen

Die Diskussionen des vorhergegangenen Panels spiegelten sich auch in dem Impuls von Dr. Robert Habeck, Bundesminister für Wirtschaft und Klimaschutz wider. Er sprach sich dafür aus, den AIA so umzusetzen, dass KI gut nutzbar ist und Kraft für Innovationen freigesetzt wird. Vor der Technik solle man keine Angst haben, sondern ihren Missbrauch durch Menschen in den Blick nehmen und KI für positive Zwecke, beispielsweise für verbesserte Energienetze, schnellere Genehmigungen und eine funktionale Verwaltung einsetzen. Ganz konkret erläuterte Dr. Anna Christmann, Beauftragte des BMWK für die Digitale Wirtschaft und Start-ups, was das Wirtschaftsministerium tut, um KI-Innovationen zu ermöglichen. Mit mehreren Fonds wird privates Kapital für Gründungen ausgebaut, mit den Startup Factories weitere Innovationsökosysteme an deutschen Hochschulen gefördert und im Dateninstitut gesellschaftliche Mehrwerte geschaffen, aktuell mit Use-Cases zu den Themen Energiewende und Long Covid. Zum AI Advisory Body der Vereinten Nationen berichtete Anna Christmann, dass hier Sicherheitsrisiken von KI für Menschenrechte, Demokratie und Nachhaltigkeit sowie eine faire Verteilung des Nutzens von KI global behandelt würden. Fragen aus dem Publikum gab es zur Stärkung des europäischen Finanzmarkts sowie den Möglichkeiten von KI für die Inklusion.

Wandel des Arbeitsmarkts politisch flankieren

In einer Keynote blickte Prof. Luciano Floridi von der Yale University auf die Zukunft von KI. Er legte dar, dass der größte Teil der Arbeitsplätze im Dienstleistungssektor sind und KI insbesondere eine Konkurrenz für Bürotätigkeiten darstellt. Dadurch entsteht Arbeitslosigkeit, aber nicht durch einen Mangel an Nachfrage, sondern einem Mangel an neuen Fähigkeiten im Umgang mit künstlicher Intelligenz. Entsprechend müssen auch politische Antworten angepasst sein und über Ausbildung, Umschulung und Weiterbildung die arbeitende Bevölkerung durch den Wandel leiten. Zukünftig wichtig werden Arbeitsplätze sein, die den Klimaschutz voranbringen („green jobs“) und solche, welche die neuen Technologien beaufsichtigen („blue jobs“). Zentral ist es, die Transformation für gegenwärtige ebenso wie für zukünftige Generationen gerecht zu gestalten.

Verantwortungsvoll und gemeinsam KI zum Wohle der Gesellschaft voranbringen

Zum Abschluss wurden auf dem Panel „Nachhaltig. KI verantwortungsvoll gestalten“ gemeinsam die Konferenzergebnisse reflektiert. Für Omid Nouripour war es wichtig, mithilfe von KI die Dekarbonisierung der Gesellschaft zu erreichen und die Menschen auf dem Weg dorthin gut mitzunehmen. Tabea Rößner und Maik Außendorf waren sich einig, dass nun eine gute Umsetzung von AIA und DSA anstehen, bei der es darum geht, die neue Regulierung sinnvoll in bestehende Werke wie die DSGVO einzufügen und so umzusetzen, dass Grundrechte geschützt sind und Unternehmen sie mit möglichst geringem Aufwand umsetzen können. Auch globale Themen müssen dabei in den Blick genommen werden, denn Technologische Entwicklungen und Regulierung in Europa haben auch Auswirkungen in Ländern des globalen Südens. Ein zentrales Thema wurde von Carla Hustedt von der Stiftung Mercator in die Diskussion eingebracht – es braucht eine aktive Gestaltung von neuen Technologien, damit deren Mehrwerte auch tatsächlich in der Gesellschaft ankommen. Es bietet sich die Chance bietet, sich in Bezug auf KI neu zu fragen, was das gute Leben und gute Arbeit ist und künstliche Intelligenz nach dieser Maxime zu gestalten. Es ist zentral, Politikfelder nicht in Silos zu bearbeiten und gegeneinander auszuspielen, sondern interdisziplinär und themenübergreifend zusammenzuarbeiten, um gemeinsam gute Lösungen für eine demokratische, nachhaltige und innovative KI zu gestalten.