idw – Informationsdienst Wissenschaft

Nachrichten, Termine, Experten

Grafik: idw-Logo
Grafik: idw-Logo

idw - Informationsdienst
Wissenschaft

Science Video Project
idw-Abo

idw-News App:

AppStore

Google Play Store



Instance:
Share on: 
02/27/2023 15:40

Chancen, Potenziale und Grenzen von ChatGPT in der Bildung – Stellungnahme des DFKI Labor Berlin

Andreas Schepers DFKI Berlin
Deutsches Forschungszentrum für Künstliche Intelligenz GmbH, DFKI

    Der potenzielle Einsatz von ChatGPT in der Bildung wird aktuell kontrovers diskutiert. Das DFKI Labor Berlin plädiert für eine sachliche Einschätzung und warnt vor Software, die vorgibt, von ChatGPT-generierte Texte automatisch erkennen zu können.

    ChatGPT ist in der Lage, viele Übungs- und Prüfungsaufgaben korrekt zu beantworten. Dies hat bei vielen Stakeholdern in der Bildung zu Sorge vor künstlich generierten Lösungen geführt. Das DFKI Labor Berlin plädiert dafür, Potenziale und Grenzen der Technologie sachlich einzuschätzen und warnt vor Software, die vorgibt, von ChatGPT-generierte Texte automatisch erkennen zu können.

    Was ist ChatGPT?

    Der Kern von ChatGPT ist ein so genanntes Sprachmodell (aus der GPT-3-Familie der Firma OpenAI), das darauf trainiert wurde, Texte zu vervollständigen. Das heißt: Gegeben ein Textfragment, setzt GPT-3 dieses Textfragment beliebig fort. Als Trainingsdaten wurde eine gewaltige Menge größtenteils englisch-sprachiger Texte aus dem Internet der vergangenen Jahre verwendet. ChatGPT ist eine Erweiterung von GPT-3 und wurde mit menschlichem Feedback darauf trainiert, Texte zu erzeugen, die wie hilfreiche Antworten auf eingegebene, menschliche Gesprächsbeiträge wirken. Dies leistet das System auch bei vielen Anfragen sehr gut. Trotzdem bleibt ChatGPT im Kern eine Maschine zur wahrscheinlichkeitsbasierten, syntaktischen Vervollständigung von Texten. Diese Maschine modelliert keine Denkprozesse, hat kein Bewusstsein, kein Urteilsvermögen bezüglich wahrer oder falscher Aussagen und keinen (expliziten) Sinn für die Bedeutung dessen, was eingegeben oder generiert wird.

    Welches Potenzial hat ChatGPT für die Bildung?

    ChatGPT kann vielfältig im Bildungsbereich eingesetzt werden, zum Beispiel zum Paraphrasieren, Erweitern oder Kürzen von selbst verfassten Texten (sowohl Lehrmaterial als auch Texte von Lernenden). Interessant ist das unterliegende Sprachmodell GPT-3 auch als Modul für Tutoring-Programme, die das Lernen unterstützen sollen. Sprachmodelle können etwa dabei helfen, unter mehreren möglichen Hilfestellungen die richtige auszuwählen oder Lerninhalte zu finden, die zu einem Thema passen. Auch kann mit ChatGPT ein individueller Dialog zwischen Lernenden und Lernsystem entstehen, um zur intensiven Beschäftigung und zum Hinterfragen des Themas zu animieren. Solche Potenziale erforscht das Educational Technology Lab aktiv in Forschungsprojekten wie tech4compKI, KIPerWeb oder KI Campus 2.0. Das DFKI ist ebenfalls am Projekt OpenGPT-X beteiligt, um frei verfügbare und mehrsprachige Sprachmodelle zu entwickeln – als Alternativen zum proprietären Modell GPT-3.

    Was sind die Grenzen von ChatGPT?

    Das DFKI Labor Berlin warnt davor, ChatGPT direkt und unreflektiert zur Erzeugung von Text im Bildungsbereich zu verwenden. Die generierten Texte wirken oberflächlich plausibel, können aber „Plagiate“ aus den Trainingsdaten sein, können Biases aus den Trainingsdaten reproduzieren und enthalten häufig subtile, manchmal auch schwerwiegende Fehler. Ein kürzlich erschienenes Preprint [1] etwa weist darauf hin, dass Menschen beim Programmieren mit Hilfe von Werkzeugen wie ChatGPT Code erzeugen können, der mehr Sicherheitslücken enthält, gleichzeitig aber glauben, weniger Sicherheitslücken verursacht zu haben. Auch eine Quellenarbeit ist mit ChatGPT aktuell nicht möglich. Die generierten Texte bedürfen deshalb einer sorgfältigen, menschlichen Prüfung.

    Wie wird sich die Bildung mit ChatGPT verändern?

    Wie sich das Bildungswesen mit neuen Technologien verändert, ist keine allein technische Frage, sondern sollte in interdisziplinären Runden mit allen Beteiligten und Betroffenen erarbeitet werden. Das DFKI Labor Berlin warnt aber davor, Maßnahmen zu ergreifen, die das Vertrauensverhältnis zwischen Lernenden und Lehrenden untergraben. Insbesondere bitten wir um Vorsicht im Hinblick auf Software, die vorgibt, durch ChatGPT erzeugte Texte automatisch zu erkennen. Solche Software könnte dazu führen, viele Lernende zu Unrecht zu verdächtigen.

    Ein Rechenbeispiel: Selbst der Detektor des Herstellers openAI erkennt nur 26% der künstlich generierten Texte und verdächtigt fälschlicherweise 9% der menschlich generierten Texte [2]. Wenn tatsächlich 10% der Lernenden künstlich generierte Texte einreichen, wären weniger als 25% der durch die „Erkennungssoftware“ verdächtigten Texte auch wirklich von ChatGPT geschrieben.

    Verfasst von:

    Prof. Dr. Niels Pinkwart – Forschungsbereichsleiter Educational Technology Lab
    Dr. Benjamin Paaßen – Stellv. Forschungsbereichsleiter Educational Technology Lab
    Dr. Aljoscha Burchardt – Principal Researcher Speech & Language Technology

    [1] Perry, N.; Srivastava, M.; Kumar, D.; Boneh, D. (2022). Do Users Write More Insecure Code with AI Assistants? https://arxiv.org/abs/2211.03622

    [2] OpenAI (2023). New AI classifier for indicating AI-written text https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/

    Über das Educational Technology Lab, DFKI Labor Berlin

    Das Educational Technology Lab (EdTec) des DFKI fokussiert die Unterstützung von Trainings-, Qualifizierungs- und Bildungsprozessen der schulischen, akademischen und beruflichen Aus-, Fort- und Weiterbildung durch Künstliche Intelligenz und innovative Softwaretechnologien. Die Forschenden kooperieren dabei mit Partnern aus Forschung und Wissenschaft, Digital- und Bildungswirtschaft sowie mit Spin-Offs, EdTec-Startups und jungen Unternehmen im E-Learning und in der digitalen Bildung.
    https://www.dfki.de/web/forschung/forschungsbereiche/educational-technology-lab

    Über den Forschungsbereich Speech and Language Technology, DFKI Labor Berlin

    Das Speech and Language Technology Lab (SLT) des DFKI erforscht den Einsatz von KI zur Analyse, Generierung und Interaktion von gesprochener und geschriebener Sprache. Der Forschungsschwerpunkt liegt auf der Extraktion von Informationen aus geschriebenem Text und gesprochener Sprache, auf Wissenstechnologien und auf interaktiven Chatbots. Anwendungsfelder finden sich in den Bereichen Medizin, Mobilität, Recht sowie der maschinellen Übersetzung.
    https://www.dfki.de/slt


    Contact for scientific information:

    Prof. Dr. Niels Pinkwart
    Forschungsbereichsleiter, Educational Technology Lab
    DFKI Labor Berlin
    https://www.dfki.de/web/ueber-uns/mitarbeiter/person/nipi03


    Images

    Criteria of this press release:
    Journalists, Teachers and pupils, all interested persons
    Information technology, Teaching / education
    transregional, national
    Schools and science, Studies and teaching
    German


     

    Help

    Search / advanced search of the idw archives
    Combination of search terms

    You can combine search terms with and, or and/or not, e.g. Philo not logy.

    Brackets

    You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).

    Phrases

    Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.

    Selection criteria

    You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).

    If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).