Ausschreibung für ein Verbundprojekt der Daimler und Benz Stiftung „Einsatz Künstlicher Intelligenz im Justizsystem“

idw-News App:

17.06.2024 12:20

Ausschreibung für ein Verbundprojekt der Daimler und Benz Stiftung „Einsatz Künstlicher Intelligenz im Justizsystem“

Marion Hartmann Presse- und Öffentlichkeitsarbeit
Daimler und Benz Stiftung

Die Daimler und Benz Stiftung fördert in den nächsten Jahren in ihrem Format Ladenburger Kolleg das Thema „Einsatz Künstliche Intelligenz im Justizsystem“ und stellt für einen Forschungsverbund einen Betrag in Höhe von bis zu 1,5 Millionen Euro (Laufzeit max. drei Jahre) zur Verfügung. Antragsberechtigt sind unabhängige Forschungsgruppenleiter* (Professoren, Juniorprofessoren, Habilitanden) an Hochschulen und gemeinnützigen außeruniversitären Forschungseinrichtungen in Deutschland.

1. Herausforderung/Motivation

Große Sprachmodelle (Large Language Models) als eine Form Künstlicher Intelligenz sind aufgrund des Trainings mit enorm vielen Daten in der Lage, u. a. Texte auf dem Sprachniveau eines gebildeten Menschen zu verfassen oder mit Menschen zu kommunizieren (z. B. durch einen Chatbot). Im Justizsystem geht es um die Erstellung, Auslegung, Konkretisierung und Anwendung von Rechtstexten (Gesetze, Urteile, Verträge, rechtsverbindliche Erklärungen) und rechtlich relevanten Texten (Schriftsätze, Gutachten, Protokolle, Aussagen, Beweismittel). Bei diesen Tätigkeiten werden bereits heute lernfähige Sprachsysteme wie ChatGPT von einzelnen Akteuren des Justizsystems unterstützend oder entlastend eingesetzt. Dies geschieht noch weitgehend unkoordiniert und nicht systematisch geplant. Es ist jedoch zu erwarten, dass solche Systeme ständig verbessert werden und künftig zunehmend und planvoll zum Einsatz kommen. Sie dürften speziell für bestimmte Aufgaben (nach-)trainiert und dann von Spruchkörpern, Geschäftsstellen, Behörden, Staatsanwaltschaften, Rechtsanwälten, Beratungsunternehmen, Gutachtern und weiteren Akteuren des Justizsystems genutzt werden.

Der Einsatz von lernfähigen Sprachsystemen könnte helfen, die Funktionen des Justizsystems effektiver und effizienter zu erfüllen, und damit Grundrechte, Demokratie und Rechtsstaat stärken. Zu den Beispielen für einen positiven Einsatz gehören die Unterstützung in Massenverfahren – was z. B. bereits in der Bearbeitung von Fluggastrechten und Dieselklagen erfolgt –, die Auswertung von Akten, der Rechtsprechung und Literatur sowie von Beweismitteln (z. B. Daten- oder Bildersammlungen). Sie könnten außerdem helfen, Schriftsätze zu erstellen und diese auf ihre Schlüssigkeit zu prüfen sowie eine konsistente Rechtsprechung oder Vertragsgestaltung zu gewährleisten. Lernfähige Sprachsysteme könnten schließlich Entscheidungen (z. B. in Massenverfahren) entwerfen oder sogar Entscheidungen (z. B. automatisierte Verwaltungsakte) selbst treffen.

Der Einsatz von lernfähigen Sprachsystemen im Justizsystem ist aber auch mit immanenten und externen Risiken verbunden. Schwer auszuschließen ist, dass die Trainingsdaten unerkannt einen Bias aufweisen, der zu unerwünschten Diskriminierungen führen kann. Sind die Trainingsdaten veraltet oder unvollständig (z. B. wenn neueste höchstrichterliche Entscheidungen fehlen), können die Ergebnisse unbrauchbar werden. Die verarbeiteten personenbezogenen Daten, die in den Trainingsdaten enthalten sind oder durch die Nutzung des Systems entstehen, können zur Profilbildung verwendet werden, auf deren Grundlage einzelne Personen benachteiligt oder in ihrem Verhalten beeinflusst werden. Sprachsysteme werden wie alle vernetzten IT-Systeme Cyber-Angriffen ausgesetzt sein, die zu Datenmanipulation, Datenverlust oder Systemausfall führen können.

Der Einsatz lernfähiger Sprachsysteme könnte für das Justizsystem aber auch mit langfristigen Folgen verbunden sein. Aufgrund des Blackbox-Charakters dieser Systeme ist ihre Arbeitsweise weitgehend intransparent. Dies könnte langfristig zu Verhaltensänderungen für die Akteure im Justizsystem führen. Die Automatisierung der Kommunikation mit betroffenen Menschen (z. B. durch Chatbots) könnte die kommunikative Funktion der Justiz verändern und ihre streitschlichtende Wirkung gefährden. Für die unterschiedlichen Funktionen im Justizsystem kann sich somit die Frage stellen, ob diese noch in der gesetzlich vorgesehenen Form erfüllt werden können: Entscheidet am Ende noch der gesetzliche Richter, ist die rechtsprechende Gewalt noch unabhängigen Richtern übertragen und wird ein Rechtsanwalt noch seiner Verantwortung gegenüber Mandaten sowie der Rechtspflege gerecht?

2. Ausschreibungsfokus

Im Mittelpunkt des Kollegs sollte die Frage stehen, welche Herausforderungen die Unterstützung durch lernfähige Sprachsysteme für die Akzeptanz und Akzeptabilität des Justizsystems hervorbringt und wie diese zu bewältigen sind. Der interdisziplinäre Forschungsverbund, der idealerweise relevante fächerübergreifende Forschungsperspektiven verbindet, sollte für absehbare Szenarien der Anwendung von lernfähigen Sprachsystemen im Justizsystem Chancen, Risiken und Folgen prognostizieren, analysieren und bewerten und Vorschläge zur Gestaltung der Anwendungen und der Transformationsprozesse erarbeiten. Im Einzelnen soll sich das Konsortium den folgenden Aufgaben widmen:

a) Prospektive, analytische und bewertende Forschungsaufgaben

Für bestimmte zukünftige Einsatzbereiche von lernfähigen Sprachsystemen beschreibt, analysiert und bewertet der Forschungsverbund Entwicklungsmöglichkeiten, die sich u. a. an folgenden Fragen orientieren:

• Welches sind sinnvolle Anwendungsfelder und Einsatzszenarien für die Unterstützung des Justizsystems? Welche Kriterien sind dafür entscheidend? Was ist der verbindende Charakter solcher Einsatzszenarien?

• Welche Chancen sind mit dem Einsatz lernfähiger Sprachsysteme verbunden und wie könnten diese konkretisiert und realisiert werden?

• Welche immanenten und externen Risiken sind mit welchen Einsatzformen lernfähiger Sprachmodelle verbunden? Welche Aspekte bestimmen diese Risiken? Wie ist deren Schadenspotenzial und die Wahrscheinlichkeit seiner Realisierung einzuschätzen?

• Welche Auswirkungen auf das Rechtssystem hat die Übertragung von Funktionen des Justizsystems auf lernfähige Sprachmodelle?

• Wo stößt ihr Einsatz an rechtliche Grenzen? Wie verändert ihr Einsatz die Verwirklichungsbedingungen von rechtsnormativen Vorgaben?

b) Gestalterische Forschungsaufgaben

Der Einsatz von lernfähigen Sprachsystemen im Justizsystem erfordert interdisziplinäre Lösungen für die beispielhaft angesprochenen Chancen, Risiken und Folgen, die sich z. B. an folgenden Fragen orientieren:

• Welche Qualitätskriterien müssen lernfähige Sprachsysteme in welchem Anwendungsszenario erfüllen? An welchen Anforderungen muss sich die Auswahl und die technisch-organisatorische Gestaltung solcher Systeme orientieren?

• Welche Organisationsformen sind für die Entwicklung, Anwendung und Aufsicht lernfähiger Sprachsysteme im Justizsystem hinsichtlich ihres soziotechnischen Charakters geeignet?

• Wie kann die erforderliche Daten-Governance gewährleistet werden, um im erforderlichen Umfang die Aktualität der Trainingsdaten zu sichern, Diskriminierung zu vermeiden und Verantwortung für die Ergebnisse der lernfähigen Sprachsysteme zu übernehmen?

• Wie kann die erforderliche technisch-organisatorische Sicherheit gewährleistet werden? Wie lassen sich die bekannten Sicherheitsanforderungen der Datenverarbeitung hinsichtlich Vertraulichkeit, Integrität und Verfügbarkeit erfüllen?

• Welche Anforderungen muss ein menschenzentriertes Changemanagement erfüllen, das die Veränderungen der Arbeitsplätze im Justizsystem begleiten soll? Welche angepassten Ausbildungs-, Bildungs- und Schulungsmaßnahmen müssen diese Entwicklung ergänzen?

• Welche Änderungen im Recht sind notwendig, um den erforderlichen Rahmen für die Einführung und Anwendung lernfähiger Sprachsysteme im Justizsystem zu ermöglichen und akzeptabel zu gestalten?

3. Beschreibung des Förderformats

Die Stiftung fördert für einen Zeitraum von in der Regel drei Jahren einen Forschungsverbund, der aus mehreren Arbeitsgruppen an unterschiedlichen wissenschaftlichen Einrichtungen im In- und Ausland besteht. Dieser Forschungsverbund trägt im Fall einer Förderung durch die Stiftung die Bezeichnung Ladenburger Kolleg. Unter der wissenschaftlichen Leitung des Antragstellers, der auch die Sprecherfunktion im Verbund einnimmt, wird das Forschungsthema „Einsatz Künstlicher Intelligenz im Justizsystem“ von allen Mitgliedern des Verbunds gemeinsam bearbeitet. Diese agieren in hohem Maße frei, legen ihr Forschungsprogramm eigenständig fest und treffen sich regelmäßig. Die Stiftung bietet an, einzelne Treffen im Carl-Benz-Haus, dem Sitz der Geschäftsstelle in Ladenburg, durchzuführen.

Der Antragsteller muss an einer Hochschule oder gemeinnützigen außeruniversitären Forschungseinrichtung in Deutschland, die weiteren Teilnehmer des Konsortiums können auch an ausländischen Forschungseinrichtungen tätig sein. Antragsberechtigt sind neben Professoren und Juniorprofessoren auch promovierte unabhängige Forschungsgruppenleiter (z. B. Habilitanden und Postdoktoranden mit einer eigenen Arbeitsgruppe), sofern diese ihre Unabhängigkeit innerhalb ihrer wissenschaftlichen Einrichtung in geeigneter Weise nachweisen können. Pro Antragssteller kann nur ein Antrag eingereicht werden.

Voraussetzung für die Antragstellung ist, dass sich bereits ein potenzieller Forschungsverbund formiert hat. Bitte reichen Sie keine Anträge für Einzelprojekte ein, da die Stiftung den Forschungsverbund nicht selbst zusammenstellt. Hinsichtlich der möglichen Teilnehmer in einem Verbundprojekt gibt die Stiftung keine Zahl vor. Verbünde, die auf eine einzelne Stadt oder nur eine Forschungseinrichtung begrenzt sind, werden nicht gefördert.

Die Ausschreibung für das Format Ladenburger Kolleg steht Wissenschaftlern sämtlicher Disziplinen offen. Die Stiftung finanziert vorrangig Stellen für Promovierende und Reisemittel, auch Stellen für Postdoktoranden können beantragt werden. Sachmittel, sofern sie mit der Ausschreibung des Verbundprojekts im direkten Zusammenhang stehen (z. B. Kosten für Programmierung), können nur in einem sehr begrenzten Umfang (max. 10 % der Gesamtmittel) bewilligt werden.

Nicht beantragt werden können Kosten für die Grundausstattung, Gebühren, Overhead- und Verwaltungskosten sowie Kosten für die Befreiung von der Lehre. Die Stelle für einen internen Koordinator des Verbundprojekts kann nur dann beantragt werden, wenn der Stelleninhaber aktiv in Vollzeit an der Forschungstätigkeit des Kollegs teilnimmt; eine reine Verwaltungsstelle wird nicht bewilligt.

4. Antragstellung

Die Daimler und Benz Stiftung nimmt zunächst ausschließlich Antragsskizzen in deutscher oder englischer Sprache entgegen. Nach einer Vorauswahl und Erstbegutachtung werden bis zu vier Antragsteller von der Stiftung aufgefordert, Vollanträge einzureichen.

4.1 Antragsskizze

Bitte reichen Sie Ihre Antragsskizzen über das Portal auf der Homepage der Stiftung in einer einzigen PDF-Datei bis zum 31.08.2024 ein. Die Stiftung stellt hierfür keine Vorlagen zur Verfügung. Die Antragsskizze muss folgende Informationen enthalten:

a) Name, Institution und Kontaktdaten des Antragstellers (1 DIN-A4-Seite); der Antragsteller ist gleichzeitig auch der wissenschaftliche Leiter des Forschungsverbunds. Bitte geben Sie für die Korrespondenz nur einen einzigen Namen an.

b) Projekttitel und -beschreibung (max. 3 DIN-A4-Seiten ohne Literaturangaben)

c) Beantragtes Budget (1 DIN-A4-Seite); bitte nennen Sie tabellarisch die voraussichtlichen Kosten für Personal-, Reise- sowie Sachmittel und weisen Sie einen Betrag für das Gesamtbudget während der gesamten Projektlaufzeit aus. Bitte beachten Sie: Für die Bewilligung der beantragten Stellen legt die Stiftung die „Hinweise zur Bezahlung von Promovierenden“ der Deutschen Forschungsgemeinschaft zugrunde. Stellen für Postdoktoranden können mit einer Vergütung entsprechend der Entgeltgrupp E13 TVöD beantragt werden.

d) Liste der am Forschungsverbund teilnehmenden Wissenschaftler bzw. Institutionen (max. 2 DIN-A4-Seiten); Lebensläufe, Publikationslisten oder Letters of Intent müssen nicht eingereicht werden.

Sie erhalten nach der Einreichung zeitnah eine Eingangsbestätigung.

4.2 Vorprüfung durch Stiftung

Nach Eingang wird die Antragsskizze durch die Stiftung geprüft. Die Prüfung kann bis zu vier Wochen dauern. Wir bitten Sie, während dieser Phase von Nachfragen abzusehen.

4.3 Vollantrag

Nach einer positiven Vorprüfung werden bis zu vier Antragsteller von der Stiftung eingeladen, einen ausführlichen Vollantrag einzureichen. Zusätzlich zu den Angaben der Antragsskizze sollte dieser Vollantrag folgende Informationen enthalten:

a) Detaillierte Beschreibung des Forschungsprojekts (max. 15 DIN-A4-Seiten inkl. Literaturangaben)

b) Erläuterung der Struktur des Forschungsverbunds (Zusammenarbeit der einzelnen Gruppen, Verteilung der Forschungsaktivitäten etc.; max. 2 DIN-A4-Seiten)

c) Detaillierte Übersicht der beantragten Mittel (gegliedert nach Personal-, Reise- und Sachkosten; max. 3 DIN-A4-Seiten); bitte beachten Sie: Für die Bewilligung der beantragten Stellen legt die Stiftung die Hinweise zur Bezahlung von Promovierenden der DFG zugrunde und behält sich im Fall von Abweichungen Kürzungen vor. Stellen für Postdoktoranden können entsprechend der Entgeltgruppe E13 TVöD beantragt werden.

d) Liste der beteiligten Institutionen und Wissenschaftler (tabellarische Kurzlebensläufe der leitenden Wissenschaftler inkl. der jeweils fünf wichtigsten Publikationen; max. 1 DIN-A4-Seite pro Wissenschaftler)

e) Letters of Intent (wird nur im Fall der Einbindung von ausländischen Partnern bzw. von Partnern, die von der Stiftung nicht finanziert werden, benötigt)

Der Vollantrag mit sämtlichen Anlagen kann ausschließlich über das Online-Portal der Stiftung eingereicht werden.

4.4 Prüfung und endgültige Entscheidung

Die Vollanträge werden nach dem Eingang stiftungsintern geprüft und unter Heranziehung externer Gutachter evaluiert. Die endgültige Entscheidung über die Vergabe fällen der Vorstand und die Geschäftsführung der Stiftung. Gefördert wird nur ein einziges Verbundprojekt.

5. Ansprechpartner

Bei Rückfragen steht Ihnen der Geschäftsführer der Stiftung, Dr. Jörg Klein, gern zur Verfügung.

Tel.: +49 6203-10920
E-Mail: info@daimler-benz-stiftung.de

*Aus Gründen der besseren Lesbarkeit wird auf die gleichzeitige Verwendung weiblicher und männlicher Sprachformen verzichtet. Sämtliche Personenbezeichnungen gelten für Personen aller Geschlechter. Wir möchten die in den Texten der Stiftung verwendete Form als geschlechtsneutral und wertfrei verstanden wissen.

Weitere Informationen:

https://www.daimler-benz-stiftung.de/cms/de/forschen/ladenburger-kollegs/aktuell...

Bilder

Ausschreibung für ein Verbundprojekt der Daimler und Benz Stiftung „Einsatz Künstlicher Intelligenz ...
ArtemisDiana
©Daimler und Benz Stiftung_ArtemisDiana