OLN | Cloned Testing: Untersuchung von Vertrauen und Misstrauen bei der Identitätserkennung im Mensch-Maschine Dialog
Projektinformationen
eingereicht von
Marcel Gohsen
Mitwirkende
Shriya Singh
Lehrende
Marcel Gohsen, Benno Stein
Fakultät:
Medien
Studiengang:
Human-Computer Interaction (Master of Science (M.Sc.))
Art der Präsentation
Abschlussarbeit
Semester
Sommersemester 2026
- Bauhausstraße 11
(Webis-Labor (R012))
10. Juli 2026, ab 17:00 Uhr
Projektbeschreibung
In den letzten Jahren haben große Sprachmodelle (Large Language Models, LLMs) durch gezieltes Training die Fähigkeit entwickelt, soziale Interaktionen zu führen, die von menschlichen Interaktionen kaum zu unterscheiden sind. So haben unter Anderen die Flaggschiff-Modelle von OpenAI den sogenannten Turing-Test bestanden, in dem menschliche Proband:innen daran gescheitert sind, generierte von menschlichen Texten zu unterscheiden. Die Sozial-Fähigkeiten der LLMs bringen nicht nur Vorteile mit sich, sondern können missbraucht werden um zum Beispiel Phishing Angriffe in sozialen Medien noch authentischer durchführen zu können. Die Effektivität dieses Angriffs hängt von der Fähigkeit des Opfers ab, die empfangenden Nachrichten als Maschinen-generiert zu entlarven.
Diese Abschlussarbeit untersucht das Verhalten der Menschen in Situationen, in denen unklar ist, ob ein Chat mit einem Menschen oder dessen Klon geführt wird. Insbesondere soll in einer Studie untersucht werden wie und warum Vertrauen zum Dialogpartner auf oder abgebaut wird und welche Strategien angewendet werden können um den Dialogpartner als KI enttarnen zu können.