Audit umelej inteligencie

Tato diplomová práce se zaměřuje na analýzu a hodnocení procesů auditu systémů umělé inteligence v prostředí organizací. Hlavním cílem je navrhnout interní rámec pro audit AI a zároveň systematicky zmapovat stávající přístupy, nástroje a regulační rámce, které lze uplatnit při hodnocení těchto systémů. Práce reaguje na absenci jednotné metodiky dohledu nad AI z perspektivy podnikové správy. Metodologicky je výzkum založen na narativní literární rešerši odborných a vědeckých zdrojů, kterou doplňuje případová studie realizovaná ve skutečném prostředí organizace. Navržený auditní rámec propojuje principy interního auditu, IT governance a regulačních iniciativ, jako je Akt o umělé inteligenci nebo norma ISO/IEC 42001. Praktická část zahrnuje audit procesů řízení, audit chování AI modelu a následnou aplikaci interního rámce na základě škálovatelného bodového hodnocení. Výsledky poukazují na silné stránky hodnoceného systému, jako je technická kvalita výstupů, architektura modelu či integrita dat. Identifikovány však byly i oblasti s rezervami, zejména v oblasti governance, transparentnosti výstupů a správy incidentů. Výstupy práce představují prakticky využitelný nástroj pro hodnocení systémů AI a zároveň východisko pro další výzkum v oblasti auditu umělé inteligence v souladu s aktuálními regulatorními a etickými požadavky.

This thesis focuses on the analysis and evaluation of artificial intelligence auditing processes within organizational setting. Its main objective is to design an internal audit framework for AI systems and to systematically map existing approaches, tools, and regulatory frameworks applicable to their assessment. The work addresses the absence of a unified methodology for AI oversight from the perspective of enterprise governance. Methodologically, the research is based on a narrative literature review of scholarly and professional sources, complemented by a case study conducted within a real-world organizational environment. The proposed audit framework integrates principles of internal auditing, IT governance, and regulatory initiatives such as the Artificial Intelligence Act and the ISO/IEC 42001 standard. The practical part includes a governance audit, a behavioral audit of the AI model, and the subsequent application of the internal framework using a scalable score-based evaluation. The results highlight several strengths of the audited system, such as the technical quality of outputs, model architecture, and data integrity. However, several areas for improvement were identified, particularly in governance structures, output transparency, and incident management. The outcomes of the thesis offer a practically applicable tool for the evaluation of AI systems and provide a basis for further research in AI auditing in line with current regulatory and ethical requirements.