idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
idw - Informationsdienst
Wissenschaft
Dirk Helbing rechnet damit, dass digitale Technologien künftig auch den menschlichen Körper immer tiefer durchdringen werden. Für die Risiken sieht er die Gesellschaft jedoch schlecht gewappnet. Um unsere intimsten Daten vor Missbrauch zu schützen, schlägt er einen neuen Rechtsrahmen vor.
In meiner Forschung beschäftige ich mich mit den Folgen der Digitalisierung für Mensch, Gesellschaft und Demokratie. Dabei muss man auch die Konvergenz in den Computer- und Biowissenschaften im Blick haben – also das, was möglich wird, wenn digitale Technologien immer mehr mit Biotechnologie, Neuro- und Nanotechnologie zusammenwachsen.
Konvergierende Technologien gelten als Nährboden für tiefgreifende Innovationen. Doch sie lassen die Grenzen zwischen der physischen, biologischen und digitalen Welt zunehmend verschwinden. Herkömmliche fachspezifische Regulierungen werden dadurch unwirksam.
In einer gemeinsamen Studie haben mein Co-Autor Marcello Ienca und ich kürzlich die Risiken und gesellschaftlichen Herausforderungen der technologischen Konvergenz untersucht – und kommen zu dem Schluss, dass die Auswirkungen für Individuen und die Gesellschaft einschneidend sind.
Es ist uns ein Anliegen, auf diese Herausforderungen und Risiken konvergierender Technologien hinzuweisen und zu erklären, warum wir es für notwendig erachten, die technologischen Entwicklungen international mit einer starken Regulierung zu begleiten.
Was die Folgen sind, wenn man den technologischen Wandel unkontrolliert den Marktkräften überlässt, können wir seit einigen Jahre bei der Digitalisierung gut beobachten.
Falschinformation und Manipulation im Web
2015, vor fast 10 Jahren, erschien das Digital-Manifest. Einer von uns sowie acht weitere europäische Expert:innen warnten damals eindringlich vor Scoring, also der Bewertung von Menschen, sowie vor Big Nudging, einer subtilen Form der digitalen Manipulation. Letztere beruht auf Persönlichkeitsprofilen, die mithilfe von Cookies und anderen Überwachungsdaten erstellt werden. Wenig später führte der Cambridge-Analytica-Skandal der Welt vor Augen, wie die Datenanalyse-Firma mittels personalisierter Anzeigen (Microtargeting) versuchte, das Stimmverhalten bei demokratischen Wahlen zu beeinflussen.
Inzwischen stehen Demokratien weltweit unter Druck. Propaganda, Fake News und Hassrede polarisieren und säen Zweifel, während die Privatsphäre schwindet. Wir befinden uns in einer Art Informationskrieg um unsere Köpfe, in dem Werbefirmen, Techkonzerne, Geheimdienste und Militärs um Einfluss auf unser Denken und Verhalten ringen. Indessen versucht der gerade beschlossene AI Act der Europäischen Union die zuvor genannten Gefahren zu bändigen.
Doch digitale Technologien entwickeln sich rasant weiter, und es zeichnen sich bereits neue Manipulationsmöglichkeiten ab. Denn wenn digitale und Nanotechnologie mit der modernen Bio- und Neurotechnologie zusammenwachsen, werden revolutionäre Anwendungen möglich, die zuvor kaum vorstellbar waren.
Mikroroboter für die Präzisionsmedizin
Etwa in der personalisierten Medizin: Die fortschreitende Miniaturisierung der Elektronik erlaubt es zusehends, lebende Organismen und den Menschen mit vernetzten Sensoren und Rechenleistung zu erschliessen. Das WEF rief bereits 2020 das «Internet der Körper» aus.
Ein Beispiel sind digitale Pillen, die herkömmliche Medikamente mit einer Überwachungsfunktion kombinieren. Diese könnten die Medikation kontrollieren und physiologische Daten der Patient:innen aufzeichnen.
Fachleute erwarten, dass Sensortechnologie früher oder später auch die Nanoskala erreicht. Magnetische Nanopartikel oder nanoelektronische Komponenten von bis zu 100 Nanometern Durchmesser würden es erlauben, Wirkstoffe zu transportieren, mit Zellen zu interagieren und grosse Datenmengen über Körperfunktionen zu erfassen. So könnte man Krankheiten bereits im Frühstadium erkennen und personalisiert behandeln, hofft man. Man spricht auch oft von Präzisionsmedizin (High Precision Medicine).
Nano-Elektroden erfassen Hirnfunktion
Miniaturisierte Elektroden, die gleichzeitig die Aktivität von tausenden Neuronen messen und manipulieren können, sowie immer bessere KI-Werkzeuge für die Analyse von Hirnsignalen sind zwei Ansätze, die aktuell zu viel diskutierten Fortschritten an der Gehirn-Computer-Schnittstelle führen. Dank Nano-Neurotechnologie, so die Idee, liessen sich vielleicht schon bald das Smartphone und andere KI-Anwendungen direkt mit Gedanken steuern.
Davon dürften auch die Grossprojekte zur Kartierung des menschlichen Gehirns profitieren. Künftig könnte Brain Activity Mapping im Prinzip unsere Gedanken und Gefühle auslesen, aber auch extern beeinflussen – letzteres wahrscheinlich deutlich effektiver als bisherige Manipulationsmethoden wie Big Nudging.
Für eine dauerhafte Verbindung zwischen Zellen und Elektronik sind klassische Elektroden allerdings nicht geeignet – dazu braucht es langlebige und biokompatible Schnittstellen. Ein Vorschlag ist daher, Signale optogenetisch zu übertragen, das heisst mit Lichtimpulsen Gene in speziellen Zellen zu steuern. So liessen sich erstaunliche Schaltkreise implementieren.
Die Kehrseite der Konvergenz
Zugegeben: Die genannten Anwendungen mögen futuristisch klingen. Noch sind es überwiegend Visionen oder sie befinden sich in frühen Entwicklungsstadien. Doch weltweit wird daran mit Hochdruck geforscht. Auch militärische Kreise sind interessiert, konvergierende Technologien für ihre Zwecke zu nutzen.
Die Kehrseite der Konvergenz sind erhebliche Risiken, etwa dass staatliche oder private Akteure an hochsensible Daten gelangen und diese missbräuchlich verwenden, um Menschen zu überwachen und zu beeinflussen. Je vernetzter unsere Körper, desto anfälliger werden wir auch für Cyberkriminalität und Hacking. Ferner ist nicht auszuschliessen, dass bereits militärische Anwendungen existieren. Sicher ist jedoch: Lange bevor Präzisionsmedizin und Neurotechnologie zuverlässig funktionieren, werden diese Technologien bereits gegen Menschen einsetzbar sein.
Das Problem: Die bisherigen fachspezifischen Regelwerke reichen nicht aus, um die technologische Konvergenz im Zaum zu halten. Wie sollen wir die Kontrolle über unser Leben behalten, wenn es zunehmend möglich wird, unser Denken, Fühlen und Entscheiden mit digitalen Mitteln zu beeinflussen?
Konvergenz erfordert konvergierende Kontrolle
In unserem kürzlich erschienenen Paper kommen wir zum Schluss, dass konvergierende Technologien eine ebenso konvergierende internationale Regulierung erfordern. Wir skizzieren einen neuen globalen Rechtsrahmen und schlagen zehn Governance-Prinzipien vor, um die drohende Regulierungslücke zu schliessen.
Unser Rahmen betont die Notwendigkeit von Schutzmassnahmen, um die Körper- und Geistesfunktionen vor unbefugten Eingriffen zu bewahren und die persönliche Integrität und Privatsphäre zu gewährleisten, etwa durch Neurorechte.
Um Risiken zu mindern und Missbrauch vorzubeugen, sollten künftige Regulierungen inklusiv, transparent und vertrauenswürdig sein. Zentral ist das Prinzip der partizipativen Governance, welche alle relevanten Gruppen einbezieht und sicherstellt, dass auch die Anliegen betroffener Minderheiten in Entscheidungsprozesse einfliessen.
Schliesslich braucht es echte informationelle Selbstbestimmung – wir müssten die Kontrolle über unsere persönlichen Daten zurückgewinnen. Das gilt auch für die digitalen Zwillinge unseres Körpers und unserer Persönlichkeit. Denn damit lässt sich unsere Gesundheit und unser Denken hacken – im Guten wie im Bösen.
Mit unserem Beitrag möchten wir eine öffentliche Diskussion über konvergierende Technologien anstossen. Denn trotz der grossen Relevanz wird das Thema unserer Ansicht nach zu wenig beachtet. Ein kontinuierlicher Diskurs über Nutzen, Risiken und sinnvolle Regeln kann helfen, die technologische Konvergenz so zu lenken, dass sie den Menschen dient, nicht schadet.
Es handelt sich hierbei um einen Autorenbeitrag im Zukunftsblog der ETH Zürich von Dirk Helbing und Marcell Ienca, welcher auf Basis Ihrer wissenschaftlichen Publikation erschienen ist (DOI: 10.1007/s10676-024-09756-8).
Dirk Helbing
Helbing, D., & Ienca, M. (2024). Why converging technologies need converging international regulation. Ethics and Information Technology, 26(1), 1-11. DOI: 10.1007/s10676-024-09756-8
https://link.springer.com/article/10.1007/s10676-024-09756-8
https://ethz.ch/de/news-und-veranstaltungen/eth-news/news/2024/05/digi-nano-bio-...
Poträt von Dirk Helbing
Merkmale dieser Pressemitteilung:
Journalisten
Informationstechnik
überregional
Forschungsergebnisse
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
