Implementation of Q&A dialogue system
Thesis title: | Implementation of Q&A dialogue system |
---|---|
Author: | Výboch, Peter |
Thesis type: | Diploma thesis |
Supervisor: | Vencovský, Filip |
Opponents: | Beranová, Lucie |
Thesis language: | English |
Abstract: | Recent neural network architectures, transformers, enabled development of powerful language models pretrained on large sample of language data. Such models can be fine-tuned for downstream tasks. While fine-tuning is not nearly as effortful as training a model from scratch, for complex tasks which require dramatic alterations to the input, it can prove to be effortful. In our work we explore how task of knowledge-base question answering can be cast for a stock RoBERTa transformer pretrained for STS without any fine tuning. |
Keywords: | relation; BERT; question-answering; knowledge-base; NLP |
Thesis title: | Implementácia QA dialógového systému |
---|---|
Author: | Výboch, Peter |
Thesis type: | Diplomová práce |
Supervisor: | Vencovský, Filip |
Opponents: | Beranová, Lucie |
Thesis language: | English |
Abstract: | Súčasné architektúry neurónových sietí umožnili vývoj výkonných modelov prirodzenéhojazyka, pretrénovaných na veľkých vzorkách jazykových dát. Takéto modely môžu byť ďalejdoladenéna konkrétne aplikácie. Kým toto je podstatne menej náročné ako vývoj podobnéhomodelu na zelenej lúke, pre komplexné aplikácie, vyžadujúce značné zmeny na vstupe modelu,vie aj doladenie byť náročné. V predkladanej práci skúmame možný prístup ako namapovaťquestion-answering pre RoBERTa transformer predtrénovaný na STS bez potreby ďalšiehodolaďovania. |
Keywords: | question-answering; báza znalostí; NLP; BERT; relácie |
Information about study
Study programme: | Aplikovaná informatika/Podniková informatika |
---|---|
Type of study programme: | Magisterský studijní program |
Assigned degree: | Ing. |
Institutions assigning academic degree: | Vysoká škola ekonomická v Praze |
Faculty: | Faculty of Informatics and Statistics |
Department: | Department of Information Technologies |
Information on submission and defense
Date of assignment: | 1. 2. 2020 |
---|---|
Date of submission: | 27. 4. 2021 |
Date of defense: | 2. 6. 2021 |
Identifier in the InSIS system: | https://insis.vse.cz/zp/74814/podrobnosti |