Harmful Content Generation: ChatGPT-4, Gemini, and Cybersecurity
| Thesis title: | Generování škodlivého obsahu: ChatGPT Plus, Gemini a kyberbezpečnost |
|---|---|
| Author: | Tran, Duc Trung |
| Thesis type: | Bakalářská práce |
| Supervisor: | Kovářová, Marie |
| Opponents: | Maryška, Miloš |
| Thesis language: | Česky |
| Abstract: | Tato bakalářská práce se zaměřuje na problematiku využívání nástrojů ChatGPT-4 a Gemini ke generování škodlivých obsahů s potenciálním rizikem pro kybernetickou bezpečnost. Nabízí teoretické základy ohledně oblasti kybernetické bezpečnosti, LLM modelů, jejich nástrojů a problémů těchto technologií pro kybernetickou bezpečnost v současnosti. Mimo jiné, praktická část demonstruje schopnost zkoumaných nástrojů generovat malware, ransomware, phishingové e-maily, keylogger a SQL injection. Pomocí těchto nástrojů také došlo k úspěšné tvorbě jednoduchého škodlivého programu na základě předem stanoveného scénáře. Praktická analýza odhalila, že oba nástroje mohou generovat různorodé obsahy, které mohou být potenciálním rizikem pro kyberbezpečnost. Bylo zjištěno, že dokonce i uživatel bez pokročilých znalostí může tyto nástroje využít k vytváření škodlivého obsahu, přičemž klíčem k úspěchu je vhodná formulace a jazyk příkazů. Toto zjištění zdůrazňuje potřebu dalšího výzkumu v oblasti prompt inženýrství a zkoumání, jak různé jazykové varianty mají vliv na výstupy z LLM nástrojů či modelů. |
| Keywords: | Kyberbezpečnost; kybernetická bezpečnost; ChatGPT-4; LLM; Velké jazykové modely; Gemini |
| Thesis title: | Harmful Content Generation: ChatGPT-4, Gemini, and Cybersecurity |
|---|---|
| Author: | Tran, Duc Trung |
| Thesis type: | Bachelor thesis |
| Supervisor: | Kovářová, Marie |
| Opponents: | Maryška, Miloš |
| Thesis language: | Česky |
| Abstract: | This bachelor thesis focuses on the issue of using ChatGPT-4 and Gemini tools for generating malicious content with potential risks to cybersecurity. It provides theoretical foundations regarding cybersecurity, LLM models, their tools, and the problems these technologies pose to cybersecurity today. Moreover, the practical part demonstrates the ability of the examined tools to generate malware, ransomware, phishing emails, keyloggers, and SQL injections. Using these tools, a simple malicious program was also successfully created based on a predetermined scenario. The practical analysis revealed that both tools can generate a wide range of contents that could be a potential risk to cybersecurity. It was found that even users without advanced knowledge can use these tools to create malicious content, with the key to success being the correct formulation and language of commands. This finding emphasizes the need for further research around prompt engineering and examining how different language variants affect the outputs from LLM tools or models. |
| Keywords: | Cybersecurity; cyber security; LLM; Large language models; ChatGPT-4; Gemini |
Information about study
| Study programme: | Aplikovaná informatika |
|---|---|
| Type of study programme: | Bakalářský studijní program |
| Assigned degree: | Bc. |
| Institutions assigning academic degree: | Vysoká škola ekonomická v Praze |
| Faculty: | Faculty of Informatics and Statistics |
| Department: | Department of Information Technologies |
Information on submission and defense
| Date of assignment: | 1. 10. 2023 |
|---|---|
| Date of submission: | 30. 4. 2024 |
| Date of defense: | 14. 6. 2024 |
| Identifier in the InSIS system: | https://insis.vse.cz/zp/82710/podrobnosti |
Files for download
Private annex
Private file Download
Private file Download
Private annex
Private file Download
Private file Download