Shivani Kapania

Shivani ist eine angehende Doktorandin im Bereich Human-Computer Interaction an der Carnegie Mellon University. Zuvor arbeitete sie als Vor-Doktorandin beim Google Research India und dem Team Technology, AI, Society and Culture und konzentrierte sich auf Forschung im Bereich verantwortungsbewusstes maschinelles Lernen, indem sie Theorien und Methoden aus HCI heranzog. Ihre Forschung konzentriert sich auf zwei Hauptziele: (1) ein besseres Verständnis der Daten praktiken und -prozesse in der ML-Pipeline sowie (2) die Förderung der Handlungsfähigkeit der Endbenutzer durch die Kalibrierung des Vertrauens in ML-Systeme.

Am Weizenbaum-Institut interessieren wir uns dafür, Fortschritte hin zu gerechten ML-Systemen zu machen, indem wir die Auswirkungen der Gestaltung von Annotation prozessen untersuchen, um die Handlungsfähigkeit oder Vielfalt der Datenarbeiter, die Datenqualität und/oder nachgelagerte Modelle zu fokussieren. Neben der Befürwortung einer gerechtigkeitsorientierten Praxis möchten wir das potenzielle epistemische Nutzen durchdachter Ansätze zur Aufgabengestaltung für Praktiker demonstrieren.