Analysis of Conversational Text-Based Artificial Intelligence Behavior Focused on Undesirable Behavior

Thesis title: Analýza chování konverzační textové umělé inteligence zaměřená na nežádoucí chování
Author: Jansová, Alena
Thesis type: Bakalářská práce
Supervisor: Bruckner, Tomáš
Opponents: Vencovský, Filip
Thesis language: Česky
Abstract:
Konverzační textová umělá inteligence se stává stále běžnější a přináší s sebou různé výhody a nevýhody. Tato práce se zaměřuje na chování konverzační textové umělé inteligence ChatGPT 3.5 od společnosti OpenAI z hlediska argumentačních faulů, kognitivních zkreslení a fenoménů behaviorální ekonomie. Identifikuje nežádoucí chování a potenciální rizika spojená s tímto AI, a to prostřednictvím analýzy a testování. Výsledky naznačují možnost manipulace s AI pomocí argumentačních faulů a potvrzují, že AI může reprodukovat lidská zkreslení. Dále ukazují, že nežádoucí chování AI může mít vážné dopady na společnost a to i v oblasti byznysu.
Keywords: chování umělé inteligence; kognitivní zkreslení; konverzační textová umělá inteligence; argumentační faul; behaviorální analýza; ChatGPT
Thesis title: Analysis of Conversational Text-Based Artificial Intelligence Behavior Focused on Undesirable Behavior
Author: Jansová, Alena
Thesis type: Bachelor thesis
Supervisor: Bruckner, Tomáš
Opponents: Vencovský, Filip
Thesis language: Česky
Abstract:
Conversational text-based artificial intelligence is becoming increasingly prevalent, presenting various benefits and drawbacks. This thesis focuses on the behavior of the conversational text-based artificial intelligence ChatGPT 3.5 from OpenAI in terms of logical fallacies, cognitive biases, and phenomena of behavioral economics. It identifies undesirable behaviors and potential risks associated with this AI through analysis and testing. The results suggest the possibility of manipulating AI using logical fallacies and confirm that AI can replicate hu- man biases. Furthermore, they indicate that the undesirable behavior of AI can have serious societal implications even in the realm of business.
Keywords: behavioral analysis; ChatGPT; artificial intelligence behaviour; cognitive bias; conversational text-based artificial intelligence; argumentation fallacy

Information about study

Study programme: Aplikovaná informatika
Type of study programme: Bakalářský studijní program
Assigned degree: Bc.
Institutions assigning academic degree: Vysoká škola ekonomická v Praze
Faculty: Faculty of Informatics and Statistics
Department: Department of Information Technologies

Information on submission and defense

Date of assignment: 6. 10. 2023
Date of submission: 5. 5. 2024
Date of defense: 12. 6. 2024
Identifier in the InSIS system: https://insis.vse.cz/zp/85837/podrobnosti

Files for download

    Last update: