11 May 2016
5,070 0

Определения тематик доноров по LDA

Мы внедрили алгоритм LDA для определения тематик доноров ссылок.

Подробнее об алгоритме — https://en.wikipedia.org/wiki/Latent_Dirichlet_allocation

Суть алгоритма лежит в текстовом анализе сайтов или документов, при котором исследуемый сайт сравнивается с заданной коллекцией. В качестве базовой коллекции мы взяли сайты, разбитые по категориям Яндекс Каталога.

Для каждого из исследуемых сайтов рассчитывает тематический вектор, который сравнивается с векторами, посчитанными для сайтов из каждой тематической категории. По самому близкому вектору категории определяется тематика для исследуемого сайта или документа.

Для полного обновления базы внешних ссылок нам потребуется ещё месяц, но уже сейчас данные по размеченным донорам начали появляться в отчетах: