Transparency in Artificial Intelligence Systems: Evaluation Criteria, Technical Approaches, and Implications for User Responsibility

Thesis title: Transparentnost umělé inteligence: Kritéria, technická řešení a jejich dopad na odpovědnost uživatele
Author: Schunágel, Karel
Thesis type: Diplomová práce
Supervisor: Sigmund, Tomáš
Opponents: Jiříčková, Ludmila
Thesis language: Česky
Abstract:
Tato diplomová práce se zabývá problematikou transparentnosti a vysvětlitelnosti systémů umělé inteligence (AI), přičemž vychází z jejich vzájemného rozlišení a současného požadavku na jejich synergické naplnění. Transparentnost je v práci chápána jako dostupnost informací o fungování systému, zatímco vysvětlitelnost se vztahuje ke schopnosti uživatele těmto informacím porozumět a prakticky je využít. Cílem práce je navrhnout rámec kritérií transparentnosti, který bude reflektovat i požadavek srozumitelnosti výstupů a tím naplňovat i aspekt vysvětlitelnosti. Východiskem je přesvědčení, že pouze současné naplnění obou kvalitativních požadavků může vést ke skutečné odpovědnosti, důvěře a masovému nasazení AI technologií v pracovním, vědeckém i soukromém sektoru. Výzkum kombinuje literární rešerši, analýzu případových studií a dokumentačních rámců s návrhovým přístupem. Výstupem je konceptuální návrh víceúrovňového rámce hodnocení transparentnosti, který přispívá k uživatelsky orientovanému a prakticky uplatnitelnému chápání transparentnosti v AI.
Keywords: Transparentnost umělé inteligence; Vysvětlitelnost AI; Důvěryhodnost AI; AI halucinace; Modely rozhodování AI; Etika AI
Thesis title: Transparency in Artificial Intelligence Systems: Evaluation Criteria, Technical Approaches, and Implications for User Responsibility
Author: Schunágel, Karel
Thesis type: Diploma thesis
Supervisor: Sigmund, Tomáš
Opponents: Jiříčková, Ludmila
Thesis language: Česky
Abstract:
This thesis focuses on the transparency and explainability of artificial intelligence (AI) systems, distinguishing between the two concepts and emphasizing their mutual necessity. Transparency is understood as the availability of information about a system's functioning, while explainability refers to the user's ability to comprehend and meaningfully use this information. The aim of this work is to propose a framework for transparency criteria that inherently supports the explainability of AI outputs. The thesis argues that only the combined fulfilment of both transparency and explainability can ensure responsible deployment, foster trust, and enable the widespread use of AI in professional, scientific, and private contexts. The research integrates literature review, case study analysis, and the examination of documentation frameworks, all guided by a design-oriented methodology. The result is a conceptual proposal for a multi-level transparency evaluation framework that advances a user-centered and practically applicable understanding of transparency in AI.
Keywords: Explainability of AI; Trustworthiness of AI; Artificial Intelligence Transparency; AI hallucinations; AI decision making models; AI ethics

Information about study

Study programme: Podniková informatika
Type of study programme: Magisterský studijní program
Assigned degree: Ing.
Institutions assigning academic degree: Vysoká škola ekonomická v Praze
Faculty: Faculty of Informatics and Statistics
Department: Department of Information Technologies

Information on submission and defense

Date of assignment: 22. 6. 2025
Date of submission: 28. 4. 2026
Date of defense: 5. 6. 2026
Identifier in the InSIS system: https://insis.vse.cz/zp/92796/podrobnosti

Files for download

    Last update: