Voorbij ‘Leesmodus’ met Machine Learning

Onderzoekers uit Zuid-Korea hebben met machine learning een verbeterde methode ontwikkeld om daadwerkelijke inhoud van webpagina’s te extraheren, zodat de ‘meubels’ van een webpagina – zoals sidebars, footers en navigatiekopteksten, evenals advertentieblokken – voor de lezer verdwijnen.

Hoewel een dergelijke functionaliteit in de meeste populaire webbrowsers is ingebouwd of gemakkelijk beschikbaar is via extensies en plug-ins, zijn deze technologieën afhankelijk van semantische opmaak die mogelijk niet aanwezig is in de webpagina of die door de site-eigenaar opzettelijk is aangetast om te voorkomen dat de lezer de ‘volle’ ervaring van de pagina verbergt.

Een van onze eigen webpagina’s ‘afgeslankt’ met Firefox’s ingebouwde Reader View-functionaliteit.

In plaats daarvan gebruikt de nieuwe methode een grid-gebaseerd systeem dat de webpagina doorloopt, waarbij wordt beoordeeld hoe relevant de inhoud is voor het centrale doel van de pagina.

De content-extractiepijplijn deelt de pagina eerst op in een grid (bovenste rij) voordat de relatie van gevonden relevante cellen met andere cellen (midden) wordt beoordeeld en de goedgekeurde cellen uiteindelijk worden samengevoegd (onder). Bron: https://arxiv.org/ftp/arxiv/papers/2110/2110.14164.pdf

Zodra een relevante cel is geïdentificeerd, wordt de relatie met naburige cellen ook beoordeeld voordat deze wordt samengevoegd met de geïnterpreteerde ‘centrale inhoud’.

Het centrale idee van de benadering is om code-gebaseerde markup als index van relevantie te verlaten (d.w.z. HTML-tags die normaal gesproken het begin van een alinea aangeven, bijvoorbeeld, die kunnen worden vervangen door alternatieve tags die schermlezers en utilities zoals Reader View kunnen ‘bedriegen’) en de inhoud te bepalen op basis van de visuele verschijning alleen.

De benadering, genaamd Grid-Center-Expand (GCE), is door de onderzoekers uitgebreid tot Deep Neural Network (DNN)-modellen die Google’s TabNet exploiteren, een interpretatieve tabulaire leerarchitectuur.

Ga ter zake

Het artikel heeft als titel Lees niet, kijk alleen: Extractie van hoofdinhoud uit webpagina’s met visueel zichtbare kenmerken en komt van drie onderzoekers aan de Hanyang University en één van het Instituut voor Convergentie Technologie, allemaal gevestigd in Seoel.

Verbeterde extractie van centrale webpagina-inhoud is potentieel waardevol niet alleen voor de gebruiker, maar ook voor machines die zijn belast met het verwerken of indexeren van domeininhoud voor Natural Language Processing (NLP) en andere sectoren in AI.

Op dit moment moet, als niet-relevante inhoud is opgenomen in dergelijke extractieprocessen, deze handmatig worden gefilterd (of gelabeld), tegen grote kosten; erger nog, als de ongewenste inhoud wordt opgenomen met de centrale inhoud, kan dit van invloed zijn op hoe de centrale inhoud wordt geïnterpreteerd en het resultaat van transformer- en encoder/decoder-systemen die afhankelijk zijn van schone inhoud.

Een verbeterde methode, betogen de onderzoekers, is vooral noodzakelijk omdat bestaande benaderingen vaak falen met niet-Engelstalige webpagina’s.

Franse, Japanse en Russische webpagina’s worden genoemd als degenen met de laagste scores in succespercentages voor de vier meest voorkomende ‘Reader View’-benaderingen: Mozilla’s Readability.js; Google’s DOM Distiller; Web2Text; en Boilernet.

Datasets en training

De onderzoekers hebben datasetmateriaal verzameld met behulp van Engelstalige trefwoorden in de GoogleTrends-2017 en GoogleTrends-2020 dataset, hoewel ze opmerken dat er in termen van resultaten geen praktische verschillen waren tussen de twee datasets.

Bovendien hebben de auteurs niet-Engelstalige trefwoorden verzameld uit Zuid-Korea, Frankrijk, Japan, Rusland, Indonesië en Saoedi-Arabië. Chinese trefwoorden werden toegevoegd vanuit een Baidu-dataset, aangezien Google Trends geen Chinese gegevens kon bieden.

Testen en resultaten

Bij het testen van het systeem vonden de auteurs dat het hetzelfde niveau van prestaties bood als recente DNN-modellen, terwijl het betere accommodatie bood voor een bredere variëteit aan talen.

Om bijvoorbeeld de Boilernet-architectuur, die een goed prestatieniveau behoudt bij het extraheren van relevante inhoud, past zich slecht aan aan Chinese en Japanse datasets aan, terwijl Web2Text volgens de auteurs ‘relatief slechte prestaties’ heeft in het algemeen, met linguïstische kenmerken die niet meertalig zijn en niet geschikt zijn voor het extraheren van centrale inhoud uit webpagina’s.

Daarnaast werd Mozillas Readbility.js gevonden om aanvaardbare prestaties te behalen over meerdere talen, inclusief het Engels, zelfs als een regelgebaseerde methode. Echter, de onderzoekers vonden dat de prestaties aanzienlijk daalden op Japanse en Franse datasets, waarmee de beperkingen van het proberen om kenmerken van een specifieke regio volledig te parseren met regelgebaseerde benaderingen werden benadrukt.

Intussen werd Googles DOM Distiller, die heuristieken en machine learning-benaderingen combineert, gevonden om over het algemeen goed te presteren.

Tabel met resultaten voor de geteste methoden, inclusief de GCE-module van de onderzoekers. Hogere nummers zijn beter.

De onderzoekers concluderen dat ‘GCE niet hoeft te blijven bij de snel veranderende webomgeving omdat het afhankelijk is van de menselijke natuur—echt globale en meertalige kenmerken’.