Unmasking generative AI: A look at synthetic faces
| Thesis title: | Unmasking generative AI: A look at synthetic faces |
|---|---|
| Author: | Kuska, Petr |
| Thesis type: | Diploma thesis |
| Supervisor: | Chudán, David |
| Opponents: | Zamazal, Ondřej |
| Thesis language: | English |
| Abstract: | This thesis describes the foundations of generative artificial intelligence with a detailed explanation of three generative models – variational autoencoders, generative adversarial networks and diffusion models – and their applications. Furthermore, it discusses the risks and challenges of generative models and the proposed regulation of AI worldwide. It also investigates whether people can identify AI-generated images of faces. An online survey (N = 333) was conducted to test people's ability to distinguish between real and fake faces. The average accuracy of participants was 59.9% (95% confidence interval [58.1%, 61.8%]), which is above chance performance of 50% and is in line with previous research. The analysis showed that having experience with generative AI tools improved the detection ability with a statistically significant difference (p < 0.01) in the means of the inexperienced and experienced samples. The analysis showed no significant difference in accuracy across various screen sizes on which the participants viewed the faces. Seven online tools for detecting AI-generated images were tested, identifying one high-performing tool. In another experiment, three automated machine learning models were trained to classify real and AI-generated faces, which showed that although progress has been made in AutoML image classification, the models were not robust enough and underperformed the best online tool. The survey data and more can be found at https://github.com/mrpekus/master-thesis. |
| Keywords: | diffusion model; automated machine learning; generative adversarial network; generative artificial intelligence; real vs fake face; variational autoencoders; AI-generated image detection |
| Thesis title: | Úvod do generativní AI: Pohled na syntetické tváře |
|---|---|
| Author: | Kuska, Petr |
| Thesis type: | Diplomová práce |
| Supervisor: | Chudán, David |
| Opponents: | Zamazal, Ondřej |
| Thesis language: | English |
| Abstract: | Tato práce popisuje základy generativní umělé inteligence s podrobným výkladem tří generativních modelů – variačních autoenkodérů, generativních adverzních sítí a difuzních modelů – a jejich použití. Dále se zabývá riziky a výzvami generativních modelů a navrhovanou regulací umělé inteligence ve světě. Zkoumá také, zda lidé dokážou identifikovat obrázky obličejů generované umělou inteligencí. Online průzkum (N = 333) byl proveden, jehož cílem bylo otestovat schopnost lidí rozlišovat mezi skutečnými a falešnými tvářemi. Průměrná přesnost účastníků byla 59,9 % (95% interval spolehlivosti [58,1 %, 61,8 %]), což je nad náhodným výkonem 50 % a v souladu s předchozími výzkumy. Analýza ukázala, že zkušenost s generativními nástroji umělé inteligence zlepšila schopnost detekce se statisticky významným rozdílem (p < 0,01) v průměrech nezkušených a zkušených vzorků. Analýza neprokázala žádný významný rozdíl v přesnosti napříč různými velikostmi obrazovek, na kterých si účastníci obličeje prohlíželi. Bylo testováno sedm online nástrojů pro detekci obrázků generovaných umělou inteligencí, přičemž byl identifikován jeden nástroj s velmi dobrými výsledky. V dalším experimentu byly natrénovány tři modely pomocí automatizovaného strojového učení (AutoML) ke klasifikaci skutečných tváří a tváří generovaných umělou inteligencí, což ukázalo, že ačkoli bylo dosaženo pokroku v klasifikaci obrázků pomocí AutoML, modely nebyly dostatečně robustní a nedosahovaly výkonnosti nejlepšího online nástroje. Data z průzkumu a další informace jsou k dispozici na adrese https://github.com/mrpekus/master-thesis. |
| Keywords: | variační autoenkodéry; automatizované strojové učení; difuzní model; generativní adversariální síť; generativní umělá inteligence; skutečná vs. falešná tvář; detekce obrázků generovaných umělou inteligencí |
Information about study
| Study programme: | Znalostní a webové technologie |
|---|---|
| Type of study programme: | Magisterský studijní program |
| Assigned degree: | Ing. |
| Institutions assigning academic degree: | Vysoká škola ekonomická v Praze |
| Faculty: | Faculty of Informatics and Statistics |
| Department: | Department of Information and Knowledge Engineering |
Information on submission and defense
| Date of assignment: | 3. 11. 2022 |
|---|---|
| Date of submission: | 4. 12. 2023 |
| Date of defense: | 22. 1. 2024 |
| Identifier in the InSIS system: | https://insis.vse.cz/zp/82627/podrobnosti |