Transparentnost umělé inteligence: Kritéria, technická řešení a jejich dopad na odpovědnost uživatele

Název práce: Transparentnost umělé inteligence: Kritéria, technická řešení a jejich dopad na odpovědnost uživatele
Autor(ka) práce: Schunágel, Karel
Typ práce: Diplomová práce
Vedoucí práce: Sigmund, Tomáš
Oponenti práce: Jiříčková, Ludmila
Jazyk práce: Česky
Abstrakt:
Tato diplomová práce se zabývá problematikou transparentnosti a vysvětlitelnosti systémů umělé inteligence (AI), přičemž vychází z jejich vzájemného rozlišení a současného požadavku na jejich synergické naplnění. Transparentnost je v práci chápána jako dostupnost informací o fungování systému, zatímco vysvětlitelnost se vztahuje ke schopnosti uživatele těmto informacím porozumět a prakticky je využít. Cílem práce je navrhnout rámec kritérií transparentnosti, který bude reflektovat i požadavek srozumitelnosti výstupů a tím naplňovat i aspekt vysvětlitelnosti. Východiskem je přesvědčení, že pouze současné naplnění obou kvalitativních požadavků může vést ke skutečné odpovědnosti, důvěře a masovému nasazení AI technologií v pracovním, vědeckém i soukromém sektoru. Výzkum kombinuje literární rešerši, analýzu případových studií a dokumentačních rámců s návrhovým přístupem. Výstupem je konceptuální návrh víceúrovňového rámce hodnocení transparentnosti, který přispívá k uživatelsky orientovanému a prakticky uplatnitelnému chápání transparentnosti v AI.
Klíčová slova: Transparentnost umělé inteligence; Vysvětlitelnost AI; Důvěryhodnost AI; AI halucinace; Modely rozhodování AI; Etika AI
Název práce: Transparency in Artificial Intelligence Systems: Evaluation Criteria, Technical Approaches, and Implications for User Responsibility
Autor(ka) práce: Schunágel, Karel
Typ práce: Diploma thesis
Vedoucí práce: Sigmund, Tomáš
Oponenti práce: Jiříčková, Ludmila
Jazyk práce: Česky
Abstrakt:
This thesis focuses on the transparency and explainability of artificial intelligence (AI) systems, distinguishing between the two concepts and emphasizing their mutual necessity. Transparency is understood as the availability of information about a system's functioning, while explainability refers to the user's ability to comprehend and meaningfully use this information. The aim of this work is to propose a framework for transparency criteria that inherently supports the explainability of AI outputs. The thesis argues that only the combined fulfilment of both transparency and explainability can ensure responsible deployment, foster trust, and enable the widespread use of AI in professional, scientific, and private contexts. The research integrates literature review, case study analysis, and the examination of documentation frameworks, all guided by a design-oriented methodology. The result is a conceptual proposal for a multi-level transparency evaluation framework that advances a user-centered and practically applicable understanding of transparency in AI.
Klíčová slova: Explainability of AI; Trustworthiness of AI; Artificial Intelligence Transparency; AI hallucinations; AI decision making models; AI ethics

Informace o studiu

Studijní program / obor: Podniková informatika
Typ studijního programu: Magisterský studijní program
Přidělovaná hodnost: Ing.
Instituce přidělující hodnost: Vysoká škola ekonomická v Praze
Fakulta: Fakulta informatiky a statistiky
Katedra: Katedra informačních technologií

Informace o odevzdání a obhajobě

Datum zadání práce: 22. 6. 2025
Datum podání práce: 28. 4. 2026
Datum obhajoby: 5. 6. 2026
Identifikátor v systému InSIS: https://insis.vse.cz/zp/92796/podrobnosti

Soubory ke stažení

    Poslední aktualizace: