Transparency in Artificial Intelligence Systems: Evaluation Criteria, Technical Approaches, and Implications for User Responsibility
| Thesis title: | Transparentnost umělé inteligence: Kritéria, technická řešení a jejich dopad na odpovědnost uživatele |
|---|---|
| Author: | Schunágel, Karel |
| Thesis type: | Diplomová práce |
| Supervisor: | Sigmund, Tomáš |
| Opponents: | Jiříčková, Ludmila |
| Thesis language: | Česky |
| Abstract: | Tato diplomová práce se zabývá problematikou transparentnosti a vysvětlitelnosti systémů umělé inteligence (AI), přičemž vychází z jejich vzájemného rozlišení a současného požadavku na jejich synergické naplnění. Transparentnost je v práci chápána jako dostupnost informací o fungování systému, zatímco vysvětlitelnost se vztahuje ke schopnosti uživatele těmto informacím porozumět a prakticky je využít. Cílem práce je navrhnout rámec kritérií transparentnosti, který bude reflektovat i požadavek srozumitelnosti výstupů a tím naplňovat i aspekt vysvětlitelnosti. Východiskem je přesvědčení, že pouze současné naplnění obou kvalitativních požadavků může vést ke skutečné odpovědnosti, důvěře a masovému nasazení AI technologií v pracovním, vědeckém i soukromém sektoru. Výzkum kombinuje literární rešerši, analýzu případových studií a dokumentačních rámců s návrhovým přístupem. Výstupem je konceptuální návrh víceúrovňového rámce hodnocení transparentnosti, který přispívá k uživatelsky orientovanému a prakticky uplatnitelnému chápání transparentnosti v AI. |
| Keywords: | Transparentnost umělé inteligence; Vysvětlitelnost AI; Důvěryhodnost AI; AI halucinace; Modely rozhodování AI; Etika AI |
| Thesis title: | Transparency in Artificial Intelligence Systems: Evaluation Criteria, Technical Approaches, and Implications for User Responsibility |
|---|---|
| Author: | Schunágel, Karel |
| Thesis type: | Diploma thesis |
| Supervisor: | Sigmund, Tomáš |
| Opponents: | Jiříčková, Ludmila |
| Thesis language: | Česky |
| Abstract: | This thesis focuses on the transparency and explainability of artificial intelligence (AI) systems, distinguishing between the two concepts and emphasizing their mutual necessity. Transparency is understood as the availability of information about a system's functioning, while explainability refers to the user's ability to comprehend and meaningfully use this information. The aim of this work is to propose a framework for transparency criteria that inherently supports the explainability of AI outputs. The thesis argues that only the combined fulfilment of both transparency and explainability can ensure responsible deployment, foster trust, and enable the widespread use of AI in professional, scientific, and private contexts. The research integrates literature review, case study analysis, and the examination of documentation frameworks, all guided by a design-oriented methodology. The result is a conceptual proposal for a multi-level transparency evaluation framework that advances a user-centered and practically applicable understanding of transparency in AI. |
| Keywords: | Explainability of AI; Trustworthiness of AI; Artificial Intelligence Transparency; AI hallucinations; AI decision making models; AI ethics |
Information about study
| Study programme: | Podniková informatika |
|---|---|
| Type of study programme: | Magisterský studijní program |
| Assigned degree: | Ing. |
| Institutions assigning academic degree: | Vysoká škola ekonomická v Praze |
| Faculty: | Faculty of Informatics and Statistics |
| Department: | Department of Information Technologies |
Information on submission and defense
| Date of assignment: | 22. 6. 2025 |
|---|---|
| Date of submission: | 28. 4. 2026 |
| Date of defense: | 5. 6. 2026 |
| Identifier in the InSIS system: | https://insis.vse.cz/zp/92796/podrobnosti |