Нейросеть научили вычислять оскорбления в Сети

НИА-Хакасия
Ученые из Корнеллского университета в США создали уникальный алгоритм, который способен отличить вежливое общение в Сети от «токсичного».
В процессе обучения алгоритма ученые задействовали базу данных Wikipedia — Talk pages, передают «Актуальные новости». Платформа ориентирована преимущественно на редакторов статей, обменивающихся своими мнениями относительно верификации информации.
Всего было обработано более 1,2 тысячи диалогов, в рамках чего нейросеть обучили отличать вежливые фразы и комбинации слов от оскорбительных. В частности, те беседы, что начинались со слова «Ты», чаще всего отличались язвительностью и негативным окрасом.
В ходе исследования с участием людей и нейросети точность респондентов при выявлении «токсичности» беседы составляла 72%, когда искусственный разум пока демонстрирует показатель 65%. В будущем ученые надеются его усовершенствовать.