Search
Generic filters
Exact matches only
Filter by content type
Users
Attachments

Understanding and Designing User Trust in Smart Personal Assistants

Übersicht

Im vom SNF geförderten Projekt „Understanding and Designing User Trust in Smart Personal Assistants“ untersucht das Team von Prof. Dr. Leimeister welche Auswirkungen intelligente, dialogorientierte Systeme und ihre individuellen Designmerkmale auf Nutzer und Vertrauen haben. Das Projekt zielt darauf ab, Theorien und Methoden aus der Designforschung, der Verhaltenswissenschaft und anderen Disziplinen zusammenzuführen, um den Einsatz und die Effekte von Dialog-KI zu verstehen.

Verantwortlich

Prof. Dr. Jan Marco Leimeister

Verantwortlich

Dr. Andreas Janson


Beschreibung

Aktuelle KI-Technologien übertreffen den Menschen nicht nur in vielen Aufgaben, wie beispielsweise statistischer Klassifizierung, sondern zeigen in Gestalt und Verhalten vermehrt menschliche Eigenschaften. Die adaptive und lernende Eigenart intelligenter Agenten schafft zudem einen kontextualisierten, zugleich unvorhersehbaren Dialog mit dem Nutzer. Diese Entwicklungen spiegeln sich in der zunehmenden Prominenz von Mensch-Maschinen-Interaktionen in unserem täglichen Leben und ihrer Implementierung in organisatorischen Anwendungsfällen. Während Nutzervertrauen ein umfassend untersuchtes Thema in der IS Forschung ist, wirft die Interaktion mit KI-basierten Gesprächsagenten neue und komplexe Fragen auf.

Das Projekt zielt darauf ab, Theorien und Methoden aus der Designforschung, der Verhaltenswissenschaft und anderen Disziplinen zusammenzuführen, um den Einsatz und die Effekte von Dialog-KI zu verstehen. Mit Hilfe experimenteller Studien zu text- und sprachbasierten Informationssystemen untersucht die Forschungsgruppe technologische und soziale Faktoren zu Nutzerwahrnehmung und -verhalten, sowie langfristige Werte- und Nutzungsänderungen, die durch Conversational AI hervorgerufen werden. Unterschiedliche Anwendungsfälle (Kundendienst, Gesundheitswesen) und Gestaltungsmechanismen (Sprach- und Textelemente) werden hierbei berücksichtigt.

#artificial intelligence #behavioral science #chatbot #conversational ai #design #human-computer interaction #human-machine #industry #service #smart personal assistant #text #trust  #trustnetwork #user interaction #voice