Rychlé diskriminativní neuronové sítě pro opravu textu

Abstract

Cieľom tejto práce je návrh a implementácia architektúry rýchlej diskriminatívnej neurónovej siete s jediným dopredným priechodom, ktorá deteguje a opravuje chyby v texte. Boli navrhnuté a implementované viaceré architektúry zvlášť pre detekciu a opravy chýb. Tieto modely využívajú najmä konvolučné a LSTM vrstvy a CTC stratovú funkciu. jednotlivé modely boli trénované a následne vyhodnotené na datasetoch z troch rôznych textových korpusov. Vyhodnotením a experimentami bola ukázaná schopnosť architektúr detegovať a opravovať chyby v texte na úrovni znakov jediným dopredným priechodom.The goal of this work is to propose and implement a fast discriminating neural network with only one forward pass, to detect and correct mistakes in text data. Multiple architectures were implemented for detection and correction separately. These models make use of convolution layers, LSTM layers and CTC loss function. Models were trained and evaluated on datasets made from three different text corpora. Experiments and evaluation present the ability of these models to detect and correct mistakes on character level with only one, fast forward pass.