.jpg)
Im Mittelpunkt der Diskussion stand die entscheidende Frage, wie KI-Systeme gestaltet werden können, um dem Gemeinwohl zu dienen und demokratische Prozesse zu stärken. Die Expertinnen und Experten erörterten, wie KI sicher, sozial, nachhaltig, unvoreingenommen, inklusiv und partizipativ gestaltet werden kann, mit einem Schwerpunkt darauf, dass diese Technologien Fairness und Transparenz in der Governance fördern. Angesichts der wachsenden Bedeutung von KI in der heutigen Welt ist es unerlässlich, sowohl die Chancen als auch die Risiken zu adressieren, die KI mit sich bringt – darunter Verzerrungen, Ungleichheit und potenzieller Missbrauch.
Der erste Teil der Diskussionsrunde widmete sich der Entwicklung von KI-Systemen, die mit demokratischen Prinzipien vereinbar sind. Make.org stellte die Democratic Commons-Initiative vor, ein globales Forschungsprogramm, das darauf abzielt, KI für die Unterstützung von Demokratien einzusetzen. In Zusammenarbeit mit Sciences Po, der Sorbonne und dem CNRS verfolgt diese Initiative das Ziel, generative KI zur Förderung der Bürgerbeteiligung einzusetzen und dabei ethische Prinzipien in den Mittelpunkt der KI-Entwicklung zu stellen.
Dieses multidisziplinäre Pionierprojekt vereint über 50 Expertinnen und Experten aus Daten- und Sozialwissenschaften, um KI-Anwendungen zu schaffen, die die Interaktion der Bürgerinnen und Bürger mit demokratischen Prozessen transformieren sollen. Die Innovationen des Programms sollen eine informierte, inklusive und wirkungsvolle Beteiligung fördern. Die Initiative wird von führenden Expertinnen und Experten im Bereich der KI-Ethik unterstützt, darunter Organisationen wie Hugging Face, Mozilla.ai, das Aspen Institute, das Project Liberty Institute und Genci.
Ein zentrales Thema war die Anwendung ethischer Prinzipien von KI in demokratischen Kontexten. Die Teilnehmenden reflektierten über die Herausforderungen, konkurrierende ethische Werte wie Transparenz, Inklusivität und Fairness auszubalancieren und die Schwierigkeit, Prioritäten zwischen ihnen zu setzen.
Besonders betont wurde die Notwendigkeit, KI-Trainingsprozesse auf die Reduzierung von Verzerrungen auszurichten, da viele KI-Systeme implizite Vorurteile enthalten, die die Werte ihrer Entwicklerinnen und Entwickler widerspiegeln – häufig geprägt durch den Einfluss der Tech-Industrie im Silicon Valley. Obwohl eine vollständige Eliminierung von Verzerrungen unwahrscheinlich ist, waren sich die Expertinnen und Experten einig, dass die Reduktion von Verzerrungen entscheidend ist, um gerechtere Ergebnisse zu erzielen und bestehende Ungleichheiten nicht zu verstärken.
Darüber hinaus wurde Sorge darüber geäußert, dass die vollständige Partizipationserfahrung in demokratischen Prozessen, wie etwa Wahlen oder öffentliche Entscheidungsfindungen, durch technologische Interaktionen verloren gehen könnte, insbesondere außerhalb kollektiver, gemeinschaftsorientierter Räume, die typisch für demokratische Teilhabe sind.
Ein weiterer Schwerpunkt lag auf der Rolle des Privatsektors bei der Gestaltung von KI für demokratische Zwecke. Während private Unternehmen eine entscheidende Rolle bei der Entwicklung von KI-Tools spielen, betonten die Teilnehmenden die Notwendigkeit, dass die Zivilgesellschaft eine zentrale Rolle dabei übernimmt, sicherzustellen, dass diese Technologien mit demokratischen Werten im Einklang stehen. Transparenz wurde als ein wesentlicher Faktor identifiziert, und die Diskussionen konzentrierten sich darauf, die Zusammenarbeit zwischen öffentlichem und privatem Sektor zu stärken, um sicherzustellen, dass KI dem Gemeinwohl dient und demokratische Prinzipien unterstützt.
Auch die Bedeutung von „Frontline-Bürokratinnen und Bürokraten“ und öffentlichen Investitionen in zivilgesellschaftliche Initiativen wurde als Schlüsselfaktoren hervorgehoben, um eine nachhaltige Entwicklung von KI zu gewährleisten.
Im zweiten Teil der Veranstaltung stellte IFOK die Civic Coding-Initiative vor, die die Entwicklung und Nutzung von KI für das Gemeinwohl fördern soll. Diese Initiative wurde 2020 im Rahmen der deutschen KI-Strategie ins Leben gerufen und zielt darauf ab, Akteurinnen und Akteure aus Zivilgesellschaft, Forschung, Politik, Verwaltung und Wirtschaft zu befähigen, KI-Lösungen zu entwickeln, die sozial verantwortungsvoll, nachhaltig und partizipativ sind. Civic Coding konzentriert sich darauf, ein vernetztes Ökosystem zu schaffen, das KI-Entwicklerinnen und Entwickler, zivilgesellschaftliche Organisationen und öffentliche Institutionen zusammenbringt, um KI-Tools zu entwickeln, die das gesellschaftliche Wohl fördern und die demokratische Beteiligung stärken.
.jpeg)
Die Diskussionsrunde beleuchtete auch die Herausforderungen im Bereich der Regulierung und Beschaffung von KI. Während Regulierungsdiskussionen wichtig sind, betonten die Teilnehmenden, dass ein prinzipienbasierter Ansatz erforderlich ist, um Innovation mit dem Schutz demokratischer Werte in Einklang zu bringen.
Die Rolle der Beschaffung in der KI-Entwicklung wurde als entscheidendes Werkzeug zur Gestaltung der Auswirkungen dieser Technologien angesehen. Es wurde anerkannt, dass öffentliche Investitionen notwendig sind, um das Übergewicht des Privatsektors auszugleichen und sicherzustellen, dass KI-Systeme dem Gemeinwohl dienen und mit demokratischen Prinzipien übereinstimmen. Ebenso wurde diskutiert, wie Beschaffungsprozesse stärker nutzerzentriert gestaltet werden können, um Risiken zu adressieren und sicherzustellen, dass KI-Tools konkrete Vorteile für die demokratische Beteiligung liefern.
Im Laufe der Diskussion wurden grundlegende Fragen darüber aufgeworfen, ob KI traditionelle demokratische Prozesse ergänzen oder ersetzen sollte. Es herrschte weitgehend Konsens darüber, dass KI zur Verbesserung menschlicher Entscheidungsfindung genutzt werden sollte, ohne diese zu ersetzen.
Die Diskussionsrunde unterstrich die Notwendigkeit kontinuierlicher Investitionen in KI-Technologien, die demokratische Werte fördern und Transparenz gewährleisten. Sowohl der öffentliche als auch der private Sektor wurden aufgefordert, die Entwicklung von KI-Systemen, die dem Gemeinwohl dienen, zu priorisieren.
Im Rahmen der 2024 FARI-Konferenz „KI, ein öffentliches Gut?“ fand diese Diskussionsrunde als Plattform statt, um die Rolle der KI bei der Förderung des Gemeinwohls und der Demokratie zu erforschen.
Im Dezember 2024 werden Make.org und ifok eine zweite Diskussionsrunde veranstalten, um den Dialog über die Schnittstelle zwischen KI und Demokratie fortzusetzen. Diesmal liegt der Fokus auf Bürgerbeteiligung und der effektiven Implementierung von KI-Tools in demokratische Prozesse. Wir freuen uns darauf, weitere Einblicke und Empfehlungen aus diesen wichtigen Dialogen zu teilen und unser Engagement für die Rolle der KI bei der Stärkung demokratischer Teilhabe und der Bürgerinnen und Bürger zu bekräftigen.