idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instanz:
Teilen: 
02.12.2022 10:28

Mit Künstlicher Intelligenz gegen anstößige Inhalte - TU-Forscher Patrick Schramowski mit wichtigem Preis ausgezeichnet

Michaela Hütig Science Communication Centre - Abteilung Kommunikation
Technische Universität Darmstadt

    Darmstadt. Der KI-Forscher Patrick Schramowski von der TU Darmstadt ist bei einer der weltweit wichtigsten Konferenzen zu Künstlicher Intelligenz für eine herausragende Veröffentlichung ausgezeichnet worden. Die Ehrung mit einem „Outstanding Paper Award“ wurde bei der Eröffnung der Tagung „NeurIPS 2022“ in New Orleans bekanntgegeben. Der TU-Doktorand wurde als Co-Autor eines Datensatzes geehrt, mit dem die nächste Generation von KI-Modellen trainiert werden kann. Der Clou dabei: KI selbst wurde benutzt, um potenziell unangemessene Inhalte vorzufiltern.

    „Ich freue mich unglaublich über diese Ehrung, aber ich freue mich noch mehr darüber, dass unser Datensatz bereits eine breite Anwendung findet“, sagte Schramowski. „Ein Beispiel dafür ist das öffentlich zugängliche generative Deep-Learning-Bild-System ‚Stable Diffusion‘, das anhand von Textbeschreibungen detaillierte Bilder generieren kann.“

    Schramowski ist wissenschaftlicher Mitarbeiter im Fachgebiet Künstliche Intelligenz und Maschinelles Lernen von Professor Kristian Kersting am Fachbereich Informatik der Technischen Universität Darmstadt. Er arbeitet zudem im TU-Forschungsverbund „Third Wave of Artificial Intelligence“ (3AI) des hochschulübergreifenden Hessischen Zentrums für Künstliche Intelligenz (hessian.AI) mit, das seinen Sitz an der TU Darmstadt hat. „Auf der ‚NeurIPS‘ einen ‚Outstanding Paper Award‘ zu gewinnen ist wie ein Sechser im Lotto“, sagte Kersting. „Es ist eine der wichtigsten Auszeichnungen auf dem Gebiet der KI. Das ist ein Super-Erfolg für 3AI, die TU Darmstadt und hessian.AI.“

    Die von Schramowski und seinen Mitautorinnen und Mitautoren vorgelegte Veröffentlichung präsentiert den größten öffentlichen multimodalen Datensatz in Bild und Text. Multimodale Datensätze sind im maschinellen Lernen entscheidend für die Entwicklung einer „Allgemeinen KI“, die universell einsetzbar sein und über eine Art „gesunden Menschenverstand“ verfügen soll. Ein Beispiel dafür ist das multimodale und sogar multitaskingfähige System „Gato“ des Unternehmens DeepMind von Google: Es kann unter anderem Bilder beschriften, chatten, Videospiele spielen, Blöcke mit einem Roboterarm stapeln und vieles mehr.

    An den Einsatz großer Datenmengen knüpfen sich indes häufig Bedenken wegen möglicher anstößiger Inhalte. Um diesem Problem entgegenzutreten, ergänzte TU-Wissenschaftler Schramowski den vorgelegten Datensatz mit einem vortrainierten KI-Modell, das potenziell beleidigende, bedrohliche oder verstörende Inhalte filtern kann. So kann die menschliche Arbeit reduziert werden. „Mit dem Datensatz und unseren Annotationen können wir zum Beispiel nun besser untersuchen, wie sich anstößige Inhalte auf KI-Modelle auswirken, und hoffentlich zurückverfolgen, welche Daten für unerwünschte Verzerrungen in KI-Modellen verantwortlich sind“, erklärte der Forscher.

    Über die TU Darmstadt

    Die TU Darmstadt zählt zu den führenden Technischen Universitäten in Deutschland und steht für exzellente und relevante Wissenschaft. Globale Transformationen – von der Energiewende über Industrie 4.0 bis zur Künstlichen Intelligenz – gestaltet die TU Darmstadt durch herausragende Erkenntnisse und zukunftsweisende Studienangebote entscheidend mit.
    Ihre Spitzenforschung bündelt die TU Darmstadt in drei Feldern: Energy and Environment, Information and Intelligence, Matter and Materials. Ihre problemzentrierte Interdisziplinarität und der produktive Austausch mit Gesellschaft, Wirtschaft und Politik erzeugen Fortschritte für eine weltweit nachhaltige Entwicklung.
    Seit ihrer Gründung 1877 zählt die TU Darmstadt zu den am stärksten international geprägten Universitäten in Deutschland; als Europäische Technische Universität baut sie in der Allianz Unite! einen transeuropäischen Campus auf. Mit ihren Partnern der Rhein-Main-Universitäten – der Goethe-Universität Frankfurt und der Johannes-Gutenberg-Universität Mainz – entwickelt sie die Metropolregion Frankfurt-Rhein-Main als global attraktiven Wissenschaftsraum weiter.

    www.tu-darmstadt.de

    MI-Nr. 62/2022, mih


    Wissenschaftliche Ansprechpartner:

    Patrick Schramowski
    Fachgebiet Künstliche Intelligenz und Maschinelles Lernen, Fachbereich Informatik, TU Darmstadt
    +49 6151/1624413
    schramowski@cs.tu-darmstadt.de


    Weitere Informationen:

    https://blog.neurips.cc/2022/11/21/announcing-the-neurips-2022-awards/ Übersicht über alle Preise
    https://www.ml.informatik.tu-darmstadt.de/people/pschramowski/index.html Website von Patrick Schramowski an der TU Darmstadt


    Bilder

    Merkmale dieser Pressemitteilung:
    Journalisten, Studierende, Wirtschaftsvertreter, Wissenschaftler
    Gesellschaft, Informationstechnik
    überregional
    Wettbewerbe / Auszeichnungen, Wissenschaftliche Tagungen
    Deutsch


     

    Hilfe

    Die Suche / Erweiterte Suche im idw-Archiv
    Verknüpfungen

    Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.

    Klammern

    Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).

    Wortgruppen

    Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.

    Auswahlkriterien

    Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).

    Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).