RechTech – Rechtliche Reflexion in Beratungssituationen der Technologieentwicklung
Projektinformation
Projektleitung
Prof. Dr. Christian Djeffal
Technische Universität München,
TUM School of Social Sciences and Technology
Projektpartnerin
Prof. Dr. Sabine Maasen
Universität Hamburg, Professur für Wissenschafts- und Innovationsforschung
Laufzeit
04/2021 bis 03/2024
Projektstatus
abgeschlossen
„Recht kann schon während der Entwicklung von Innovationen eine ko-produktive Kraft und Gestaltungsressoucre sein.”
Digitale Technologien dringen immer tiefer in unseren Alltag ein und bestimmen unser Zusammenleben. Bei der Gestaltung dieser Technologien spielt die Rechtsberatung oft eine wichtige und vielleicht noch unterschätzte Rolle.
Das Projekt RechTech erforschte integrative und nachhaltige Lösungen, wie das Recht als Gestaltungsressource fruchtbar gemacht werden kann. Ziel war es, das Recht nicht nur nachträglich in seiner regulierenden Funktion zu verstehen, sondern vielmehr schon während der Entwicklungsphase als ko-produktive Kraft zu nutzen.
Dazu entwickelte und erprobte das Projekt zwei Interventionsansätze, die auf Rechtsberatung bei der Technikgestaltung abzielen. Eine Intervention befasste sich mit der rechtskonformen Gestaltung der Technik, während sich die andere Intervention mit Innovationsprozessen beschäftigt, die der Umsetzung von Zielen aus Ethik, Recht und Gesellschaft dienen.
Ziel war es, die Rechtswissenschaften als ko-produktive Kraft und Ressource für Technikgestaltung auszuloten und den Einsatz von Recht und Technik kooperativ zu gestalten. Dazu entwickelte und verbesserte das Projekt zwei Interventionsansätze, die auf Rechtsberatung bei der Technikgestaltung abzielen. Eine Intervention befasste sich mit der rechtskonformen Gestaltung der Technik, während sich die andere Intervention mit Innovationsprozessen beschäftigte, die der Umsetzung von Zielen aus Ethik, Recht und Gesellschaft dienen. Beide Interventionen wurden iterativ entwickelt, erprobt, reflektiert und verbessert, das heißt einer guten Lösung wurde sich schrittweise genähert. Dabei stand das Projekt in fortwährendem Dialog mit der Fachöffentlichkeit und der allgemeinen Öffentlichkeit.
Prof. Dr. Christian Djeffal (Leitung)
Technische Universität München, TUM School of Social Sciences and Technology
Prof. Dr. Sabine Maasen
Universität Hamburg, Professur für Wissenschafts- und Innovationsforschung
Verena Müller
Technische Universität München, TUM School of Social Sciences and Technology
Douglas Carvalho Ribeiro
Universität Hamburg, Professur für Wissenschafts- und Innovationsforschung
Weitere Informationen
Ergebnisse und Materialien
Im Projekt wurden zwei Interventionen und ein Workshop-Format erarbeitet, die dabei unterstützen, die rechtskonforme Gestaltung von Technik umzusetzen:
„Verfassungsverwirklichende Interventionen – KI für die öffentliche Verwaltung und das Gemeinwohl“
Neue Technologien und Künstliche Intelligenz (KI) halten große Potentiale für gemeinwohlorientierte Zwecke und die öffentliche Verwaltung bereit. So können etwa Chatbots die Kommunikation zwischen Bürgern und Verwaltung vereinfachen oder Übersetzungsanwendungen für Verständnis und Inklusion sorgen. Die im Projekt „RechTech“ entwickelte Methode „KI für das Gemeinwohl“ macht Einsatz- und Skalierungsmöglichkeiten von KI in der Verwaltung sichtbar. Das Format richtet sich insbesondere an Mitarbeitende und Entscheidungsträger der öffentlichen Verwaltung. Unsere Methode bezieht die von der Technik Betroffenen aktiv in den Innovationsprozess ein und macht deren Expertenwissen und Praxiserfahrung fruchtbar. In unseren partizipativen Workshops lernen die Verwaltungsmitarbeitenden mehr über KI und bereits existierende Anwendungsfelder. Darauf aufbauend werden sie in drei Schritten angeleitet, KI für ihren Lebens- und Arbeitsalltag weiterzudenken und zu gestalten: Im ersten Schritt wird eine bestehende KI-Anwendung analysiert und bewertet. Anschließend nutzen die Teilnehmenden verschiedene Kreativtechniken, um neue Ideen für den Einsatz von KI in der öffentlichen Verwaltung zu kreieren. Sie entscheiden sich für eine dieser Ideen und arbeiten in einem dritten Schritt Gestaltungsmöglichkeiten aus. So entstehen regelmäßig innovative Ideen, wie sich mithilfe KI Verfassungswerte und gemeinwohlorientierte Zwecke realisieren lassen.
„Rechtsberatende Intervention – Bewertung und Vermeidung von Risiken und Haftung für Robotik in der Pflege“
Gerade bei der Gestaltung von Technologien, die in der Pflege Anwendung finden, müssen grundlegende Fragen ins Zentrum rücken: Wie kann die Sicherheit der Technik gewährleistet werden? Wie lassen sich Risiken für Körper und Gesundheit der Nutzenden reduzieren? Wie können das Wohlbefinden der Pflegebedürftigen und unsere Vorstellungen von guter Pflege gewährleistet werden? Neben der technischen Konstruktion und den Funktionen des Roboters spielt hierbei vor allem die sozio-technische Einbettung eine wesentliche Rolle. Die Einbindung von Robotik in Pflegeprozesse und die Zusammenarbeit von Mensch und Maschine müssen bewusst und aktiv gestaltet werden. Das im Projekt „RechTech“ entwickelte „Shared Liability Assessment“ setzt bei diesen Fragen an. Das Workshop-Format baut bereits in einem sehr frühen Stadium der Technikentwicklung eine Brücke zwischen den Entwicklerteams von Pflegerobotik und den späteren Nutzenden und Betroffenen der Technik. Pflegebedürftige, Altenpfleger:innen und Mitarbeitende der Verwaltung von Pflegeeinrichtungen können anhand verschiedener Anwendungsszenarien die Technologien bewerten und aktiv mitgestalten. So können Projektteams aus der Konfrontation, Interaktion und Reaktion der späteren Nutzenden mit der Technik lernen und Rückschlüsse auf eine sichere und nutzerfreundliche Gestaltung ziehen. Die Methode wurde mit verschiedenen Projekten der damaligen BMBF-Förderlinie „Robotik für die Pflege“ sowie in einer Tagespflege in Taipei, Taiwan getestet und iterativ weiterentwickelt.
In einer zunehmend technologieorientierten Welt erkennt das Projekt RechTech die Notwendigkeit, verschiedene Perspektiven sowohl in der akademischen Ausbildung als auch in der öffentlichen Diskussion von Rechtsfragen zu integrieren. Ein wesentlicher Bestandteil unserer Bemühungen war die Organisation des „Digital Futures Dialogue“ (DFD). Das DFD-Tool beinhaltet eine akademische Veranstaltung, die Expert:innen aus verschiedenen Bereichen mit einem interessierten Publikum zusammenbringt. Ein Beispiel hierfür war die Veranstaltung zum Thema „KI & Kunst: alles rechtens?“ in Hamburg (10. Oktober 2023), bei der die praktischen Herausforderungen der rechtlichen Regulierung von KI-Kunst im Mittelpunkt standen. Das Tool verbindet digitale und analoge Elemente für einen integrativen Wissensaustausch und durchläuft die Phasen der Vorbereitung, Durchführung und Dokumentation.
Die Integration juristischen Wissens in die Vorbereitung des Konzepts der letzten Veranstaltung sieht wie folgt aus: In der Vorbereitungsphase baute das Organisationsteam Beziehungen zu Schlüsselakteuren im Bereich des digitalen Rechts in Hamburg auf, z.B. durch Kontaktaufnahme mit hochschulischen Einrichtungen und Anwaltskanzleien. Gleichzeitig wurde das Event durch digitale und analoge Werbemaßnahmen beworben, um ein breites Spektrum an Expertise und Perspektiven zu gewährleisten.
Die Umsetzungsphase konzentrierte sich auf die Gestaltung interaktiver Präsenzveranstaltungen. Dabei wurde juristisches Wissen auf innovative Weise vermittelt, z.B. durch die Auseinandersetzung mit kreativen Werken wie „Metall auf Metall“ von Kraftwerk. In der Dokumentationsphase wurde ein alternativer Ansatz verfolgt: Statt traditioneller textbasierter Methoden wurden visuelle Medien (z.B. Videos und Bilder) auf einer eigenen Website eingesetzt, um Inhalte und Diskussionen festzuhalten. Dies dient dazu, die Rechtsmaterie einem breiteren Publikum auf ansprechende Weise näher zu bringen und für rechtliche Themen zu sensibilisieren.
Publikationen
Becker, Alexa; Bellon, Jacqueline; Berger, Arne; Djeffal, Christian; Gressel, Céline; Haupt, Benedikt; Müller, Verena; Pentzold, Christian; Spindler, Mone (2025): Bitte intervenieren Sie! Kollaborative Interventionen zur Stärkung des Einbezugs ethischer, rechtlicher und sozialer Aspekte in Technikentwicklungsprojekte. Impulspapier aus dem Cluster Integrierte Forschung. Tübingen: IZEW, Materialien zur Ethik in den Wissenschaften, Band 27. dx.doi.org/10.15496/publikation-113381
Djeffal, Christian (2024): Rechtliche Aspekte partizipativer Technikgestaltung im Gesundheitswesen, Hogrefe. In: Fischer, Florian; Kernebeck, Sven: Partizipative Technikentwicklung im Sozial- und Gesundheitswesen. Göttingen: Hogrefe.
Djeffal, Christian; Müller, Verena (2024): White Paper – Rechtliche Aspekte der Sprachvereinfachung durch KI in der Öffentlichen Verwaltung. http://dx.doi.org/10.13140/RG.2.2.34035.54561
Djeffal, Christian (2023): The EU AI Act at a crossroads: Generative AI as a challenge for regulation. European Law Blog. https://europeanlawblog.eu/2023/07/24/the-eu-ai-act-at-a-crossroads-generative-ai-as-a-challenge-for-regulation/
Maasen, Sabine, Schikowitz, Andrea, and Weller, Kevin (2023): “Constitutive Tensions of Transformative Research: Infrastructuring Continuity and Contingency in Public Living Labs”, Science & Technology Studies, 36(3), 2023, S. 60–77. doi: 10.23987/sts.122123
Djeffal, Christian (2022): KI, Demokratie und das Recht. In: Hoeren, Thomas; Pinelli, Stefan: Künstliche Intelligenz – Ethik und Recht. München: C.H. Beck. S. 221-254 https://mediatum.ub.tum.de/doc/1640008/1640008.pdf
Djeffal, Christian; Wurster, Stefan; Siewert, Markus B. (2022): Role of the state and responsibility in governing artificial intelligence: A comparative analysis of AI strategies. In: Journal of European Public Policy. 29:11. S. 1799-1821. https://doi.org/10.1080/13501763.2022.2094987
Maasen, Sabine, Lipp, Benjamin: Techno-bio-politics. On Interfacing Life with and Through Technology. Nanoethics 16, 2022, 133–150 https://doi.org/10.1007/s11569-022-00413-2