idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
02/21/2023 08:00

Tag der Muttersprache: Warum die KI noch immer am liebsten Englisch spricht

Friederike Meyer zu Tittingdorf Pressestelle der Universität des Saarlandes
Universität des Saarlandes

    Ob Sprachsteuerungen, Chatbots, Diktier- oder Übersetzungsprogramme – viele Menschen nutzen inzwischen täglich Software, die natürliche Sprache verarbeiten kann. Was dabei auffällt: Am besten funktionieren all diese Anwendungen erfahrungsgemäß auf Englisch. Warum das so ist, ob sich das in Zukunft ändern wird und welche Hoffnung es für weniger verbreitete Sprachen gibt, erklärt der Saarbrücker Computerlinguistik-Professor Dietrich Klakow aus Anlass des internationalen Tages der Muttersprache am 21. Februar.

    Als deutscher Muttersprachler ist man noch relativ gut dran, sagt Dietrich Klakow, Professor für „Spoken Language Systems“ an der Universität des Saarlandes. Denn die meisten IT-Sprachanwendungen funktionierten auch auf Deutsch recht gut. „Aber es stimmt, viele Systeme im Bereich der Sprachverarbeitung arbeiten nach wie vor auf Englisch am besten“, bestätigt der Professor, der am Saarland Informatics Campus forscht.

    Ausschlaggebend dafür seien vor allem zwei Gründe: Zum einen basieren die meisten Anwendungen der computergestützten Sprachverarbeitung auf dem Maschinellen Lernen, einem Teilgebiet der Künstlichen Intelligenz. „Beim Maschinellen Lernen sagt nicht ein Programmierer dem Algorithmus ganz genau, was er zu tun hat, sondern trainiert ihn mit massenhaft Daten, aus denen der Algorithmus selbstständig lernen kann“, erklärt Dietrich Klakow. Und genau hier liegt der erste Grund: Englisch ist die meistgesprochene Sprache der Welt, somit sind auch die meisten verfügbaren Trainingsdaten auf Englisch. „Zudem ist das Englische grammatikalisch vergleichsweise einfach gestrickt, weshalb Computer gut damit zurechtkommen“, so Klakow.

    Der zweite Grund seien die Forscher selbst: „Die Wissenschaft ist ein internationales Arbeitsfeld, deshalb ist die Arbeitssprache in der Regel Englisch – auch in der Informatik. Wenn man also etwas Neues erforscht oder entwickelt, so tut man dies auf eine Weise, die für die Kolleginnen und Kollegen gut nachvollziehbar ist. Deshalb arbeiten und publizieren die meisten Forscherinnen und Forscher auf Englisch“, sagt Klakow. Dies führe wiederum dazu, dass viele Anwendungen zunächst auf Englisch entwickelt würden – das erste maschinell übersetzte Sprachenpaar war Englisch-Französisch. Die erste synthetisch erzeugte Stimme war eine Software, die englische Zeitungsartikel vorgelesen hat. „Die meisten Anwendungen haben einen mehrjährigen Vorsprung auf Englisch. Und die großen europäischen Sprachen werden in der Regel zuerst nachgezogen“, erläutert der Professor.

    Was aber ist mit kleineren Sprachen, die nur wenige Sprecher haben? „Mit Abstand die meisten Sprachen der Welt werden gar nicht unterstützt. Es gibt rund 7000 Sprachen, von denen wiederum nur rund 400 mehr als eine Million Sprecher haben – und selbst diese 400 sind nicht alle umfassend genug erforscht, um in Anwendungen mit natürlicher Sprache verwendet zu werden“, sagt Klakow. Der „Google Übersetzer“, der einen guten ersten Einblick in die computerlinguistisch erforschten Sprachen geben kann, unterstützt Stand Februar 2023 insgesamt 133 Sprachen auf verschiedenen Niveaustufen.

    Ein wesentlich schwerwiegenderes Problem als kleine Sprachen, die nicht ausreichend computerlinguistisch erforscht werden, sind sehr weit verbreitete Sprachen, die kaum oder gar nicht unterstützt werden. Denn hier gehe es ganz schnell um global-gesellschaftlich relevante Fragestellungen der digitalen Teilhabe, sagt Dietrich Klakow. „Viele afrikanische Sprachen zum Beispiel, die ohne weiteres zehn bis 50 Millionen Muttersprachler haben, können kaum oder nur sehr schlecht von Computern verarbeitet werden“, sagt der Professor. Gemeinsam mit seinen Doktoranden Jesujoba Oluwadara Alabi, David Ifeoluwa Adelani und Marius Mosbach hat Dietrich Klakow deshalb eine Methode entwickelt, um bereits bestehende Sprachmodelle speichereffizient und möglichst passend auf die 17 am weitest verbreiteten afrikanischen Sprachen einzustellen. Für die Arbeit wurden er und seine Kollegen im vergangenen Oktober mit einem „Best Paper Award“ der „International Conference on Computational Linguistics“, einer der führenden Fachkonferenzen der Computerlinguistik, ausgezeichnet.

    Es wird also weiter daran gearbeitet, den Sprachhorizont der Maschinen zu erweitern. Auf die Frage, wie sich diese Sprachfähigkeiten in Zukunft entwickeln könnten, sagt Klakow: „Durch effizientere Machine-Learning-Modelle, die weniger Trainingsdaten benötigen, oder durch bessere Methoden, um Trainingsdaten künstlich erzeugen zu können, werden zukünftig sicherlich noch mehr Sprachen in ihrer maschinellen Verarbeitung auf ein ‚produktreifes‘ Niveau gehoben werden. Ich schätze, in zehn bis 15 Jahren könnten die 400 verbreitetsten Sprachen allesamt dieses Level erreicht haben.“ Dass jemals alle Sprachen der Welt gleich gut funktionieren werden, hält er hingegen für ausgeschlossen: „Es wird niemals genügend Trainingsdaten geben, um beispielsweise ein ‚Zulu-ChatGPT‘ zu programmieren. In dieser Hinsicht wird das Englische wahrscheinlich immer die Nase vorn haben“, resümiert der Professor.

    Redaktion:
    Philipp Zapf-Schramm
    Saarland Informatics Campus
    Telefon: +49 681 302-70741
    E-Mail: pzapf@cs.uni-saarland.de

    Hintergrund Saarland Informatics Campus:

    900 Wissenschaftlerinnen und Wissenschaftler (darunter 400 Promovierende) und rund 2500 Studierende aus mehr als 80 Nationen machen den Saarland Informatics Campus (SIC) zu einem der führenden Standorte für Informatik in Deutschland und Europa. Vier weltweit angesehene Forschungsinstitute, nämlich das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), das Max-Planck-Institut für Informatik, das Max-Planck-Institut für Softwaresysteme, das Zentrum für Bioinformatik, sowie die Universität des Saarlandes mit drei vernetzten Fachbereichen und 24 Studiengänge decken das gesamte Themenspektrum der Informatik ab.


    Contact for scientific information:

    Prof. Dr. Dietrich Klakow
    Spoken Language Systems
    Universität des Saarlandes, Saarland Informatics Campus
    Tel: +49 681 302 58 122
    Mail: Dietrich.Klakow@lsv.uni-saarland.de


    Original publication:

    Jesujoba O. Alabi, David Ifeoluwa Adelani, Marius Mosbach, and Dietrich Klakow. 2022. Adapting Pre-trained Language Models to African Languages via Multilingual Adaptive Fine-Tuning. In Proceedings of the 29th International Conference on Computational Linguistics, pages 4336–4349, Gyeongju, Republic of Korea. International Committee on Computational Linguistics.


    More information:

    https://www.lsv.uni-saarland.de


    Images

    Computerlinguistik-Professor Dietrich Klakow
    Computerlinguistik-Professor Dietrich Klakow
    Iris Maurer
    Universität des Saarlandes


    Criteria of this press release:
    Journalists, Scientists and scholars, all interested persons
    Information technology, Language / literature, Media and communication sciences, Social studies
    transregional, national
    Miscellaneous scientific news/publications, Research results
    German


     

    Computerlinguistik-Professor Dietrich Klakow


    For download

    x

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).