Iluze empatie: Rizika a etické výzvy využívání jazykových modelů AI při simulaci empatie
Autor(ka) práce:
Poslušný, Lukáš
Typ práce:
Bakalářská práce
Vedoucí práce:
Sigmund, Tomáš
Oponenti práce:
Jiříčková, Ludmila
Jazyk práce:
Česky
Abstrakt:
Tato bakalářská práce se zabývá fenoménem syntetické empatie v kontextu současných jazykových modelů umělé inteligence. Cílem práce je analyzovat schopnost generativních modelů simulovat empatickou komunikaci a současně zhodnotit, do jaké míry jsou běžní uživatelé schopni rozlišit syntetickou empatii od autentické lidské komunikace. Teoretická část práce vymezuje pojem empatie z psychologického a sociálního hlediska, popisuje princip fungování jazykových modelů a diskutuje etické a společenské důsledky syntetické empatie. Praktická část práce je založena na komparativním dotazníkovém šetření využívajícím autentické příspěvky z platformy Reddit a odpovědi generované jazykovým modelem Gemini 3.0. Respondenti hodnotili schopnost identifikovat synteticky generované odpovědi, míru jistoty svého rozhodnutí a subjektivní emocionální preference jednotlivých textů. Výsledky ukázaly, že respondenti dosahovali při identifikaci syntetických odpovědí pouze mírně nadprůměrné úspěšnosti vůči statistické náhodě a současně v řadě případů preferovali synteticky generované odpovědi jako empatičtější než autentické lidské reakce. Práce dále analyzuje hlavní indikátory rozpoznání syntetické komunikace. Součástí práce je také reflexe etických aspektů využívání syntetické empatie a diskuse o jejím možném společenském dopadu.
The illusion of empathy: Risks and ethical challenges of using AI language models to simulate empathy
Autor(ka) práce:
Poslušný, Lukáš
Typ práce:
Bachelor thesis
Vedoucí práce:
Sigmund, Tomáš
Oponenti práce:
Jiříčková, Ludmila
Jazyk práce:
Česky
Abstrakt:
This bachelor’s thesis examines the phenomenon of synthetic empathy in the context of current artificial intelligence language models. The aim of the thesis is to analyze the ability of generative models to simulate empathic communication and simultaneously evaluate to what extent ordinary users can distinguish synthetic empathy from authentic human communication. The theoretical part defines the concept of empathy from psychological and social perspectives, describes the operating principles of language models, and discusses the ethical and societal implications of synthetic empathy. The practical part of the thesis is based on a comparative questionnaire survey utilizing authentic posts from the platform Reddit and responses generated by the Gemini 3.0 language model. Respondents evaluated their ability to identify synthetically generated responses, the level of confidence in their decisions, and the subjective emotional preference of individual texts. The results showed that respondents achieved only slightly above-random accuracy in identifying synthetic responses while simultaneously preferring synthetically generated responses as more empathic than authentic human reactions in a number of cases. The thesis further analyzes the main indicators used to recognize synthetic communication. It also reflects on the ethical aspects of synthetic empathy and discusses its potential societal impact.