Expertengremium bewertet Fortschritte und Risiken von Künstlicher Intelligenz

Providence (USA) – In einem aktuellen Bericht kommt ein internationales Expertengremium von US-Wissenschaftlern und -Wissenschaftlerinnen zu dem Schluss, dass die sog. künstliche Intelligenz (KI) einen kritischen Wendepunkt in ihrer Entwicklung erreicht hat. Dies erhöhe jedoch die Dringlichkeit, auch und gerade die potenziellen negativen Auswirkungen zu verstehen.

In den letzten Jahren habe die KI einen großen Sprung aus dem Labor, hinein in das Leben der Menschen gemacht hat, attestiert das interdisziplinäre Gremium aus Informatik, Politik, Psychologie, Soziologie und andere Disziplinen um Prof. Michael Littman, von der Brown University und führt dazu aus: „Erhebliche Fortschritte in der Sprachverarbeitung, Computer Vision und Mustererkennung bedeuten, dass KI das Leben der Menschen täglich berührt – von der Unterstützung bei der Filmauswahl bis hin zur Unterstützung bei medizinischen Diagnosen.“

Mit diesem Erfolg gehe jedoch eine erneute Dringlichkeit einher, auch und gerade die Risiken und Nachteile von KI-gesteuerten Systemen zu verstehen und abzumildern, wie etwa algorithmische Diskriminierung oder den Einsatz von KI zur vorsätzlichen Täuschung. Hierzu müssen die entwickelnden Informatiker mit Experten aus den Sozial- und Rechtswissenschaften zusammenarbeiten, um sicherzustellen, dass die Fallstricke der KI minimiert werden.

Dieser, mittlerweile zweite Bericht seiner Art, ist Teil des AI100-Projekts des Stanford University Institute for Human-Centered Artificial Intelligence, das darauf abzielt, den Fortschritt der KI zu überwachen und ihre zukünftige Entwicklung zu steuern. Der Bericht bewertet die Entwicklungen im Bereich KI zwischen 2016 und 2021. „In den letzten fünf Jahren hat die KI den Sprung von etwas geschafft, das hauptsächlich in Forschungslabors oder anderen streng kontrollierten Umgebungen stattfindet, zu etwas, das in der Gesellschaft das Leben der Menschen beeinflusst“, so Littman. „Das ist wirklich spannend, denn diese Technologie leistet erstaunliche Dinge, von denen wir vor fünf oder zehn Jahren nur träumen konnten. Aber gleichzeitig beschäftigt sich das Feld mit den gesellschaftlichen Auswirkungen dieser Technologie, und ich denke, der nächste Schritt besteht darin, darüber nachzudenken, wie wir die Vorteile von KI nutzen und gleichzeitig die Risiken minimieren können.“

www.grenzwissenschaft-aktuell.de
+ HIER können Sie den täglichen und kostenlosen GreWi-Newsletter bestellen +

Der Bericht ist so strukturiert, dass er eine Reihe von 14 Fragen beantwortet, die kritische Bereiche der KI-Entwicklung untersuchen. Basierend auf diesen zuvor erarbeiteten Fragen, stellte das Komitee dann ein Gremium aus 17 Forschern und Experten zusammen, um diese zu beantworten. Zu den Fragen gehören: „Was sind die wichtigsten Fortschritte in der KI?“ oder „Was sind die inspirierendsten offenen großen Herausforderungen?“ Weitere Fragen befassen sich mit den großen Risiken und Gefahren der KI, ihren Auswirkungen auf die Gesellschaft, ihrer öffentlichen Wahrnehmung und der Zukunft des Forschungs- und Entwicklungsfeldes.

„Während in den letzten Jahren viele Berichte über die Auswirkungen von KI verfasst wurden, sind die AI100-Berichte insofern einzigartig, als sie beide von KI-Insidern verfasst wurden – Experten, die KI-Algorithmen entwickeln oder ihren Einfluss auf die Gesellschaft als ihre wichtigste berufliche Tätigkeit untersuchen. und dass sie Teil einer laufenden, jahrhundertelangen Längsschnittstudie sind“, erklärt Peter Stone, Professor für Informatik an der University of Texas in Austin, Executive Director von Sony AI America und Vorsitzender des ständigen AI100-Ausschusses. „Der Bericht 2021 ist für diesen Längsschnittaspekt von AI100 von entscheidender Bedeutung, da er eng mit dem Bericht von 2016 verknüpft ist, indem er kommentiert, was sich in den fünf Jahren dazwischen geändert hat. Es bietet auch eine wunderbare Vorlage für zukünftige Studiengremien, die durch die Beantwortung einer Reihe von Fragen nachgeahmt werden können, von denen wir erwarten, dass sie zukünftige Studiengremien in fünfjährigen Abständen neu bewerten.“

„Der Bericht 2021 leistet hervorragende Arbeit, um zu beschreiben, wo KI heute steht und wohin sich die Dinge entwickeln, einschließlich einer Bewertung der Grenzen unseres aktuellen Verständnisses und Leitlinien zu den wichtigsten Chancen und Herausforderungen, die sich in Bezug auf die Einflüsse von KI auf Mensch und Gesellschaft ergeben“, kommentiert Eric Horvitz, Chief Scientific Officer bei Microsoft und Mitbegründer der One Hundred Year Study on AI.

In Bezug auf die Fortschritte bei der KI stellte das Gremium erhebliche Fortschritte in den Teilbereichen der KI fest, darunter Sprach- und Sprachverarbeitung, Computer Vision und andere Bereiche. Ein Großteil dieses Fortschritts wurde durch Fortschritte bei maschinellen Lerntechniken, insbesondere Deep-Learning-Systemen, vorangetrieben, die in den letzten Jahren den Sprung vom akademischen Umfeld hin zu alltäglichen Anwendungen geschafft haben. Im Bereich der natürlichen Sprachverarbeitung beispielsweise sind KI-gesteuerte Systeme heute in der Lage, Wörter nicht nur zu erkennen, sondern auch zu verstehen, wie sie grammatikalisch verwendet werden und wie sich Bedeutungen in unterschiedlichen Kontexten ändern können. Für den Endnutzer habe dies beispielsweise eine bessere Websuche, prädiktive Text-Apps, Chatbots und mehr ermöglicht. Einige dieser Systeme sind nun in der Lage, Originaltext zu erzeugen, der schwer von von Menschenhand erzeugtem Text zu unterscheiden ist. Anderswo diagnostizieren KI-Systeme Krebs und andere Erkrankungen mit einer Genauigkeit, die es mit ausgebildeten Pathologen aufnehmen kann. Forschungstechniken mit KI haben neue Einblicke in das menschliche Genom gebracht und die Entdeckung neuer Arzneimittel beschleunigt. Und während die lange versprochenen selbstfahrenden Autos noch nicht weit verbreitet sind, gehören KI-basierte Fahrerassistenzsysteme wie Spurverlassungswarnung und adaptiver Tempomat bei den meisten Neuwagen zur Serienausstattung.

Einige der jüngsten Fortschritte bei der KI könnten von Beobachtern außerhalb des Feldes übersehen werden, spiegeln jedoch dramatische Fortschritte bei den zugrunde liegenden KI-Technologien wider, sagt Littman. Ein Beispiel hierfür ist die Verwendung von Hintergrundbildern in Videokonferenzen, die während der COVID-19-Pandemie zu einem allgegenwärtigen Bestandteil des Homeoffice-Lebens vieler Menschen geworden ist. „Um Sie vor ein Hintergrundbild zu setzen, muss das System Sie von den Dingen hinter Ihnen unterscheiden – was nicht einfach ist, nur aus einer Ansammlung von Pixeln zu bestehen. Ein Bild gut genug zu verstehen, um Vordergrund und Hintergrund zu unterscheiden, ist etwas, das vielleicht vor fünf Jahren im Labor passieren konnte, aber sicherlich nicht etwas, das auf jedem Computer in Echtzeit und mit hohen Bildraten passieren konnte. Das ist ein ziemlich beeindruckender Fortschritt.“

Was die Risiken und Gefahren der KI angeht, stellt sich das Panel kein dystopisches Szenario vor, in dem superintelligente Maschinen die Weltherrschaft übernehmen. Die wirklichen Gefahren der KI seien subtiler, aber nicht weniger besorgniserregend.

Einige der in dem Bericht genannten Gefahren gehen auf den absichtlichen Missbrauch von KI zurück: Deepfake-Bilder und -Videos, die verwendet werden, um Falschinformationen zu verbreiten oder den Ruf der Menschen zu schädigen, oder Online-Bots, die verwendet werden, um den öffentlichen Diskurs und die öffentliche Meinung zu manipulieren. Andere Gefahren ergeben sich aus „einer Aura der Neutralität und Unparteilichkeit, die mit der KI-Entscheidungsfindung in einigen Ecken des öffentlichen Bewusstseins verbunden ist, was dazu führt, dass Systeme als objektiv akzeptiert werden, obwohl sie das Ergebnis voreingenommener historischer Entscheidungen oder sogar offensichtlicher Diskriminierung sein können“, so die Experten. Gerade dies sei ein besonderes Anliegen in Bereichen wie der Strafverfolgung, wo Kriminalitätsvorhersagesysteme sich nachteilig auf bestimmte soziale Gruppen und Gemeinschaften auswirken können, oder im Gesundheitswesen, wo in Versicherungsalgorithmen eingebettete rassistische Vorurteile den Zugang der Menschen zu angemessener Versorgung beeinträchtigen können.

Mit zunehmendem Einsatz von KI werden diese Art von Problemen wahrscheinlich weiter verbreitet. Die gute Nachricht, so Littman abschließend, ist, dass die Branche diese Gefahren ernst nimmt und aktiv um Beiträge von Experten aus Psychologie, Politik und anderen Bereichen bittet, um Möglichkeiten zu ihrer Eindämmung zu erkunden.

Diese Intension spiegele sich in der Zusammensetzung des Gremiums, das den Bericht erstellt hat, wider: „Das Gremium besteht fast zur Hälfte aus Sozialwissenschaftlern und zur Hälfte aus Informatikern, und ich war angenehm überrascht, wie tief das Wissen über KI bei den Sozialwissenschaftlern ist. Wir haben mittlerweile Leute aus den unterschiedlichsten Bereichen, die zu Recht als KI-Experten gelten. Das ist ein positiver Trend.“ Abschließend kommt das Gremium zu dem Schluss, dass Regierungen, Hochschulen und Industrie eine erweiterte Rolle spielen müssen, um sicherzustellen, dass sich die KI weiterentwickelt, um dem Gemeinwohl zu dienen.

WEITERE MELDUNGEN ZUM THEMA
Künstliche Intelligenz übersetzt Gedanken in Sätze mit Fehlerrate von nur noch 3 Prozent 9. April 2020
Mit Video: KI überträgt visuelle Eindrücke mittels EEG in Bilder 8. November 2019
Künstliche Intelligenz schlussfolgert anhand der Stimme auf das Aussehen einer Person 2. Juni 2019
Künstliche Intelligenz ermöglicht Abbildung von Gedanken 7. März 2018

Recherchequelle: Brown University

© grenzwissenschaft-aktuell.de

Andreas Müller

Autor und Publizist