Generative KI, Täuschung und Vertrauen

Generative KI hat die Welt im Sturm erobert und damit Debatten über KI-Ethik im Allgemeinen und über Konzepte vertrauenswürdiger Generativer KI im Besonderen verstärkt. In meinem Vortrag schlage ich den Begriff der vierfachen Täuschung vor, um ein wesentliches Merkmal Generativer KI mit wichtigen epistemologischen, ethischen und politischen Implikationen zu erfassen: 1) Täuschung hinsichtlich des ontologischen Status des Interaktionspartners, 2) Täuschung hinsichtlich des Leistungsvermögens von KI, 3) Täuschung durch mit Generativer KI erstellte Inhalte sowie 4) Täuschung infolge von Function Creep generativer KI. Ausgehend von der These, dass Täuschung Vertrauen und Vertrauenswürdigkeit gefährdet, untersuche ich die epistemischen, ethischen und politischen Implikationen dieser vier verschiedenen Arten der Täuschung für Vertrauen und Vertrauenswürdigkeit. Ich schließe mit einigen Schlussfolgerungen dazu, wie die Vertrauenswürdigkeit Generativer KI erhöht werden kann, um mehr gerechtfertigtes Vertrauen in solche Technologien zu ermöglichen.

Judith Simon ist Professorin für Ethik in der Informationstechnologie an der Universität Hamburg. Außerdem ist sie Mitglied und stellvertretende Vorsitzende des Deutschen Ethikrates. Sie beschäftigt sich u.a. mit ethischen, epistemologischen und politischen Aspekten hinsichtlich digitaler Technologien, insbesondere künstlicher Intelligenz, sowie Vertrauen und Vertrauenswürdigkeit.

Anmeldung

Für die Präsenzteilnahme ist keine Anmeldung erforderlich. Eine hybride Teilnahme über Zoom ist möglich. Senden Sie uns dafür bitte eine kurze Anfrage per E-Mail an: kolloquium.rvw[at]weizenbaum-institut.de 

Über das Kollquium „Reorganisation von Wissenspraktiken“

Das Kolloquium diskutiert aus interdisziplinärer Perspektive aktuelle Themen rund um den Einfluss der Digitalisierung auf kollektive Wissenspraktiken und Wissensbestände. Regelmäßig laden wir Expert*innen ein, die sich aus unterschiedlichen spannenden Perspektiven diesen Fragen widmen. Die Veranstaltungsreihe richtet sich an alle Wissenschaftler*innen des Instituts sowie externe Interessierte.

Eine Übersicht aller Termine findet sich hier