Intelligente Systeme, die den Menschen überflügeln – davor warnt auch der Physik-Nobelpreisträger. Für die Ethikerin Judith Simon liegen solche Szenarien in ferner Zukunft. Probleme mit KI sieht sie jedoch schon heute.
Viele Menschen überblicken nach Worten der Philosophin Judith Simon nicht, wie vielfältig Künstliche Intelligenz (KI) bereits zum Einsatz kommt. “Menschen lassen sich Texte zusammenfassen, schreiben damit Artikel, lassen sich Akten zusammenfassen oder generieren Code für Software. Viele Firmen bauen das in ihre Software und Prozesse ein”, sagte Simon der “Frankfurter Allgemeinen Zeitung” (Freitag) im Hinblick auf generative KI wie ChatGPT. Wenn es in solchen Programmen einen Fehler gebe, könne schnell ein Problem in der kritischen Infrastruktur entstehen.
Sprache und Bilder seien zentral für das menschliche Miteinander, und mit generativer KI ließen sie sich “einfach, schnell und von täuschend echter Qualität produzieren”. Wenn Menschen jedoch nicht wüssten, ob sie mit einer Person zu tun hätten oder mit einem Chatbot, könne das ihr Vertrauen erschüttern, warnte Simon, die Mitglied im Deutschen Ethikrat ist. Dazu trügen auch sogenannte Deepfakes bei: Menschen könnten das Vertrauen in “Mitmenschen, Medien und Institutionen verlieren, wenn sie den Eindruck haben, man könne nicht sicher sein, was wahr ist und was falsch”.
Die Expertin warnte vor Hypes und überzogenen Hoffnungen. KI habe kein Bewusstsein und “maximal eine reduzierte Form von Verständnis”. Wenn Entscheidungen nachvollziehbar bleiben sollten, dürften bestimmte Formen von KI dafür nicht eingesetzt werden.
Dies betreffe etwa die Auswahl von Bewerberinnen und Bewerbern, so Simon. Wenn verschiedene Firmen dasselbe System nutzten, werde man unter Umständen “jedes Mal von der gleichen Software rausgekickt. Und selbst wenn es nicht derselbe Software-Anbieter ist: Viele Anbieter verwenden die gleichen Trainingsdaten oder Modelle, und auch das kann zu einer Vereinheitlichung der Resultate führen.” Alle denkbaren Verzerrungen zugleich zu beheben, sei derzeit nicht möglich.
KI biete Chancen für Unternehmen, öffentliche Verwaltung, Forschung, Medizin und Bildung, betonte Simon. Sie sollte daher “gefördert und eingesetzt werden”, aber nicht nur technisch, sondern auch ethisch besonders gut sein. Gemeinsam mit zwei Kolleginnen hat Simon dazu ein Diskussionspapier der Wissenschaftsakademie Leopoldina vorgelegt.