idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Viele Computersysteme arbeiten heute mit Rechenverfahren der Künstlichen Intelligenz. Doch wie fällen diese ihre Entscheidungen? Und wie lässt sich ihr Verhalten erklären, damit wir ihnen vertrauen können? Mit solchen Fragen befassen sich jetzt Forscherinnen und Forscher der Informatik, Philosophie, Psychologie und Rechtswissenschaft im Projekt „Explainable Intelligent Systems (EIS)“. Die Volkswagen-Stiftung fördert das Forschungsprojekt der Universität des Saarlandes und TU Dortmund mit rund 1,5 Millionen Euro über drei Jahre.
Das interdisziplinäre Team setzt sich aus verschiedenen Blickwinkeln mit der Frage auseinander, inwieweit künstlich intelligente Systeme und ihr Verhalten erklärbar sein sollten. „Nur wenn wir verstehen, warum solche Systeme bestimmte Entscheidungen treffen, können wir ihnen vertrauen und nachvollziehen, ob sie unseren gesellschaftlichen, moralischen und rechtlichen Werten entsprechen“, sagt Philosophie-Juniorprofessorin Lena Kästner von der Universität des Saarlandes, die die Gesamtleitung des Projekts innehat. Die Ergebnisse sollen richtungsweisend sein für die zukünftige Forschung und die Politikgestaltung im Bereich der Künstlichen Intelligenz.
So genannte KI-Systeme sind längst Bestandteil unseres Alltags. Dabei handelt es sich um Maschinen oder Software, die Menschen beim Treffen von Entscheidungen unterstützen oder sie ihnen ganz abnehmen. „Die Tragweite der Entscheidungen, die durch künstlich intelligente Systeme getroffen werden, variiert stark“, erklärt Informatik-Professor Holger Hermanns. Schlagen manche dieser Systeme nur auf Grundlage der bisherigen Vorlieben eines Nutzers Musik oder Serien vor, entscheiden andere, wer ein Darlehen bekommt, mit wem eine freie Stelle besetzt wird oder welchen Weg ein selbstfahrendes Auto einschlägt. „Damit wir KI-Systemen vertrauen können, entsteht spätestens hier der Anspruch, dass ihre Entscheidungen in verschiedenen Dimensionen nachvollziehbar und belastbar sind“, so Hermanns weiter.
Bereits seit 2014 setzen sich die Forscherinnen und Forscher an der Universität des Saarlandes mit den ethischen Aspekten der Digitalisierung auseinander. Gemeinsam mit dem Informatiker und Philosophen Kevin Baum und der Philosophin Sarah Sterz entwickelte Holger Hermanns die Vorlesung „Ethics for Nerds“. Sie wurde 2016 erstmalig angeboten und durch den Stifterverband für die Deutsche Wissenschaft mit der „Hochschulperle des Jahres 2019“ ausgezeichnet.
„Aus dieser Vorlesung hat sich die Idee für ein Projekt entwickelt, bei der die Grenzen gleich mehrerer Fachbereiche überschritten werden“, sagt Kevin Baum, der über die Ethik kollektiven Handelns und über Maschinenethik promoviert. „Im Rahmen der Vorlesung stellten wir schnell fest, dass Erklärbarkeit und Nachvollziehbarkeit zwar für eine ganze Reihe gesellschaftlicher Ansprüche an Künstliche Intelligenz wichtig erscheinen“, erklärt Baum. „Aber inwiefern und wieso besteht dieser Zusammenhang zwischen Verständlichkeit und gesellschaftlichen Ansprüchen tatsächlich? Und können die Methoden, die das Feld der erklärbaren Künstlichen Intelligenz hervorbringt, dieser Rolle überhaupt gerecht werden? Falls nicht, was folgt daraus? Wir sagen: Hier besteht großer Forschungsbedarf, der Expertise aus verschiedensten Fachrichtungen voraussetzt.“
Aus dieser Einsicht entstand ein interdisziplinäres Projekt, das weitere hochdotierte Forschungsvorhaben an der Universität des Saarlandes ergänzt, in denen ebenfalls zu verständlicher und vertrauenswürdiger Software geforscht wird: Seit Februar 2019 wird „Explainable Intelligent Systems“ mit einem „Planning Grant“ der Volkswagen-Stiftung unterstützt – dieser wurde nun in einen mit rund 1,5 Millionen Euro dotierten „Full Grant“ überführt. Beteiligt sind hier von der Universität des Saarlandes Junior-Professorin Lena Kästner und Professorin Ulla Wessels aus der Fachrichtung Philosophie, Professor Georg Borges vom Institut für Rechtsinformatik, der promovierte Psychologe Markus Langer und Informatik-Professor Holger Hermanns. Von der TU Dortmund ist Juniorprofessorin Eva Schmidt von der Fachrichtung Philosophie und Politikwissenschaft beteiligt.
Darüber hinaus finden im Rahmen des Projekts zahlreiche internationale Kooperationen statt. So haben die Saarbrücker Forscherinnen und Forscher bereits im vergangenen Herbst eine große wissenschaftliche Tagung mit öffentlicher Podiumsdiskussion im Rathaus Saarbrücken St. Johann organisiert. Gemeinsam mit Partnern aus Cambridge, Delft und Stanford wird nun eine ganze Reihe solcher Veranstaltungen organisiert. Auch lokal und national vernetzen sich die Forscherinnen und Forscher des Projekts. Auf Seiten der Informatik etwa arbeiten sie eng mit dem transregionalen Sonderforschungsbereich „Grundlagen verständlicher Softwaresysteme (CPEC)“ zusammen, der in Zusammenarbeit mit der TU Dresden läuft und dessen Sprecher ebenfalls Informatik-Professor Holger Hermanns ist.
„Künstliche Intelligenz betrifft inzwischen viele Bereiche unseres täglichen Lebens und geht weit über rein technische Anwendungen der Informatik hinaus. Mit dem Einsatz von KI sind häufig komplexe Fragen verbunden, die nur interdisziplinär und in enger Kooperation verschiedener Wissenschaftsdisziplinen beantwortet werden können. Genau hier setzt dieser innovative und zukunftsweisende Forschungsverbund an. Ich bin davon überzeugt, dass der fächerübergreifende Campus der Universität des Saarlandes den am Projekt beteiligten Wissenschaftlerinnen und Wissenschaftlern ideale Voraussetzungen hierfür bietet", ergänzt Universitätspräsident Manfred Schmitt.
Juniorprof. Dr. Lena Kästner
Philosophisches Institut
Tel. 0681 302 2841
lena.kaestner@uni-saarland.de
Prof. Dr. Holger Hermanns
Dependable Systems and Software
Tel. 0681 302 5630
Email: hermanns@cs.uni-saarland.de
Kevin Baum
Tel. 0681 302-2351
Kevin.baum@uni-saarland.de
https://explainable-intelligent.systems/
https://idw-online.de/de/news760051 - Pressemitteilung der Volkswagenstiftung
Informatik-Professor Holger Hermanns und Kevin Baum, Informatiker und Philosoph
Iris Maurer
Universität des Saarlandes
Philosophie-Juniorprofessorin Lena Kästner
Michel Buchmann
Universität des Saarlandes
Merkmale dieser Pressemitteilung:
Journalisten, Wirtschaftsvertreter, Wissenschaftler
Gesellschaft, Informationstechnik, Philosophie / Ethik, Psychologie, Recht
überregional
Forschungsprojekte
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
