idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
09/03/2024 12:44

Mit Künstlicher Intelligenz gegen Hasskriminalität im Internet

Stefanie Terp Stabsstelle Kommunikation, Events und Alumni
Technische Universität Berlin

    Forscher der TU Berlin entwickeln ethische Anforderungen für den Einsatz von KI-Modellen in Polizeibehörden

    Im Rahmen des Forschungsprojekts „KISTRA – Einsatz von Künstlicher Intelligenz (KI) zur Früherkennung von Straftaten“ hat die Technische Universität Berlin gemeinsam mit Verbundpartner*innen neue Erkenntnisse zur Anwendung von KI-gestützten Lösungen in der Strafverfolgung gewonnen. Ziel des vom Bundesministerium für Bildung und Forschung geförderten Projekts war es, KI-Modelle zu entwickeln, die Polizeibehörden dabei unterstützen, strafrechtlich relevante Hassrede wie Volksverhetzung in großen Datenmengen effizienter zu identifizieren.

    Ethische Fragestellungen
    Neben der technischen Entwicklung stand die Untersuchung ethischer und rechtlicher Fragestellungen im Fokus, auf die sich das Teilprojekt an der TU Berlin bezogen hat. „Unsere Forschung hat einen umfassenden Anforderungskatalog für den ethisch verantwortungsvollen Einsatz von KI in der Strafverfolgung hervorgebracht. Diese Anforderungen adressieren Aspekte wie Diskriminierungsfreiheit, Transparenz und die Wahrung der menschlichen Entscheidungsautonomie“, so Michael Hahne, Mitverantwortlicher des Projekts.

    Erfahren Sie im ausführlichen Interview (https://www.tu.berlin/go269101/) mit Dr. Robert Pelzer und Michael Hahne mehr das Projekt.

    Die Ergebnisse des Projekts tragen zur aktuellen Diskussion um den Einsatz von KI im sicherheitsbehördlichen Kontext bei und bieten wertvolle Ansätze für eine ethisch und rechtlich einwandfreie Implementierung solcher Systeme. „Zukünftige Herausforderungen bestehen vor allem in der Schaffung der notwendigen Infrastruktur und der Sicherstellung der Qualität der eingesetzten KI-Modelle“, betont Robert Pelzer, Projektleiter an der TU Berlin.

    Technische Hilfe
    Die Forschungspartner*innen haben KI-Modelle trainiert, die Beiträge aus Online-Plattformen nach potenziell strafrechtlich relevanten Äußerungen durchsuchen und diese vorsortieren. So können Strafverfolgungsbehörden schneller und gezielter Maßnahmen ergreifen. Das System ermöglicht es den Behörden, die manuelle Vorauswahl großer Datenmengen zu umgehen und sich direkt auf die strafrechtliche Einzelfallbetrachtung zu konzentrieren. Dies führt zu einer erheblichen Zeitersparnis und erhöht die Effizienz bei der Verfolgung von Straftaten.

    Weitere Informationen erteilt Ihnen gern:
    Dr. Robert Pelzer
    Zentrum Technik und Gesellschaft TU Berlin
    E-Mail: robert.pelzer@tu-berlin.de


    Images

    Criteria of this press release:
    Journalists
    Information technology, Social studies
    transregional, national
    Research projects
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).