Implementation of Q&A dialogue system

Thesis title: Implementation of Q&A dialogue system
Author: Výboch, Peter
Thesis type: Diploma thesis
Supervisor: Vencovský, Filip
Opponents: Beranová, Lucie
Thesis language: English
Abstract:
Recent neural network architectures, transformers, enabled development of powerful language models pretrained on large sample of language data. Such models can be fine-tuned for downstream tasks. While fine-tuning is not nearly as effortful as training a model from scratch, for complex tasks which require dramatic alterations to the input, it can prove to be effortful. In our work we explore how task of knowledge-base question answering can be cast for a stock RoBERTa transformer pretrained for STS without any fine tuning.
Keywords: relation; BERT; question-answering; knowledge-base; NLP
Thesis title: Implementácia QA dialógového systému
Author: Výboch, Peter
Thesis type: Diplomová práce
Supervisor: Vencovský, Filip
Opponents: Beranová, Lucie
Thesis language: English
Abstract:
Súčasné architektúry neurónových sietí umožnili vývoj výkonných modelov prirodzenéhojazyka, pretrénovaných na veľkých vzorkách jazykových dát. Takéto modely môžu byť ďalejdoladenéna konkrétne aplikácie. Kým toto je podstatne menej náročné ako vývoj podobnéhomodelu na zelenej lúke, pre komplexné aplikácie, vyžadujúce značné zmeny na vstupe modelu,vie aj doladenie byť náročné. V predkladanej práci skúmame možný prístup ako namapovaťquestion-answering pre RoBERTa transformer predtrénovaný na STS bez potreby ďalšiehodolaďovania.
Keywords: question-answering; báza znalostí; NLP; BERT; relácie

Information about study

Study programme: Aplikovaná informatika/Podniková informatika
Type of study programme: Magisterský studijní program
Assigned degree: Ing.
Institutions assigning academic degree: Vysoká škola ekonomická v Praze
Faculty: Faculty of Informatics and Statistics
Department: Department of Information Technologies

Information on submission and defense

Date of assignment: 1. 2. 2020
Date of submission: 27. 4. 2021
Date of defense: 2. 6. 2021
Identifier in the InSIS system: https://insis.vse.cz/zp/74814/podrobnosti

Files for download

    Last update: