Umelá inteligencia TrollWall je slovenský nástroj, ktorý aktuálne "zarezáva" na československom Facebooku a Instagrame. Jeho hlavná devízia spočíva v tom, že dokáže analyzovať komentáre a následne moderovať diskusiu. Zvládne tak zakročiť aj proti vulgárnym či nenávistným prejavom. Aj vďaka nemu sme zistili, že slovenský Facebook je plný nenávisti.
Tvorcovia neurónovej siete TrollWall ju trénovali na vyše štvrť milióne komentárov zo sociálnych sietí. K analýze prispeli aj anotácie od nezávislých expertov a schopnosť reagovať na kľúčové slová. AI vďaka tomu dokáže spoľahlivo detegovať vulgarizmy či iný nenávistný obsah. Vývojársky tím TrollWallu dokonca upozorňuje, že ich umelá inteligencia dokáže rozoznať aj kontext.
Ako príklad uvádzajú, že AI označila spojenie „ty si potkan“ za hejt, zatiaľ čo „uhryzol ma potkan“ považovala za regulérnu vetu. Počas vývoja bol kladený veľký dôraz na etické aspekty a dôležitosť nezaujatého hodnotenia komentárov. Výsledkom má byť nezávislá moderácia diskusií a eliminácia nenávisti na internete. O jeho kvalitách svedčí aj to, že na ho používa napríklad Denník N alebo kancelária českého prezidenta Petra Pavla.
Zdroj: tlačová správa
Diskusia k článku: