Как работают Яндекс.Новости Татьяна Исаева

2 Задачи Яндекс.Новостей Миссия Яндекса – отвечать на заданные и незаданные вопросы пользователей Яндекс.Новости: На главной странице Яндекса удовлетворяют потребность пользователей в актуальной информации Незаданный вопрос: «Что сейчас происходит?» В Поиске отвечают на явно сформулированные вопросы пользователей Заданные вопросы: «синагога в Твери», «Хамовнический суд», «танцующий мост в Волгограде»

Модель сервиса 3 Обеспечивают быструю трансляцию контента (~40 тыс. сообщений в сутки) Получают читателей (1,5 млн переходов в сутки) Узнают новости на Яндексе (15 млн человек в сутки) Читают подробности у источников (1 млн человек в сутки) Задают вопросы о новостях (500 тыс. запросов в сутки) Читатели Издания

4 Принципы Яндекс.Новостей Полностью автоматический сервис Партнерский сервис Единые требования для всех партнеров Зеркало русскоязычной медиа-среды Цели: отразить новостную картину дня и дать ссылки на источники, содержащие наиболее полную информацию о событиях 4

Релевантный новостной ответ Алгоритм, формирующий ответ на новостные запросы пользователей, ориентируется на следующие свойства сообщений: –принадлежность первоисточнику –оперативность –цитируемость –информативность Источники, у которых доминируют такие сообщения, предлагаются пользователям в первую очередь. 5

Требования к сообщению Формат (не подходят для трансляции реклама; не обработанные силами редакции пресс-релизы; новости сайта; аудио- и видеоматериалы, не сопровождаемые связным печатным текстом; таблицы и списки, не сопровождаемые связным печатным текстом) Технология (если текст сообщения на сайте был изменён, необходимо поместить его в экспортный файл в изменённом виде или прислать запрос на удаление неактуального сообщения) Требования законодательства (аккуратное цитирование; нормы литературного русского языка) 6

Что такое *дубликат Дубликаты – документы, в большой степени совпадающие с оригинальным сообщением. Они автоматически определяются до формирования сюжета, не представлены в сюжетах и не участвуют в поиске по сервису. Из каждой группы дубликатов остается по одному сообщению («мастеру»), которое может быть представлено на страницах сюжета и в результатах поиска. «Мастер» определяется: –по времени публикации сообщения на сайте; –по сравнительному анализу текстов; –по цитированию источника (учитываются гиперссылки, текстовые упоминания). 7

Статистика «копипейста» Доля дубликатов сообщений в российских интернет-СМИ - 20% Доля изданий, которые ни разу не перепечатывали чужие материалы «вчистую» - тоже 20% Доля сообщений, содержащих ссылки на первоисточники (названия других СМИ или гиперссылки) – всего 8% По данным аналитического отчета Яндекса «Медиасфера Рунета», зима media_winter_2009.pdf

Сюжет в Яндекс.Новостях 9

Создание поискового запроса из ключевых слов документа, построение матрицы близости документов Аннотирование сюжета: выбор заголовка и фрагментов сообщений, содержащих основные факты сюжета Выбор основных заголовков сюжета Выбор статей и интервью Схема создания сюжета 10

Выбор заголовка сюжета Соответствие региону пользователя Лексическая и фактологическая «ядерность» Актуальность фактов Информативность и читаемость Цель: первый по времени заголовок, наиболее полно отражающий актуальную фактическую сторону сюжета, не содержащий нехарактерных для сюжета слов и фактов. 11

Создание аннотации сюжета (дайджеста) Из всех сообщений сюжета автоматически выделяются наиболее значимые объекты, имена людей, названия организаций, географические объекты, даты и числа. Они, наряду с ключевыми словами сюжета и новостными запросами, определяют выбор текстов для аннотации. Цель: показать предложения из сообщений, содержащие основные факты события 12

Аннотация сюжета. Информативность 13

Заголовок сюжета. «Ядерность» лексики 14

15 Выбор основных заголовков сюжета Цитирование источника в сюжете Дата публикацииВес источника Цель: Должны быть представлены первоисточник(и), наиболее цитируемые источники и заголовки, отражающие актуальное состояние сюжета

Выбор заголовков для первой страницы. Цитируемость в сюжете 16

Определение жанра сообщения Лента – короткие новостные сообщения Новость – более развёрнутое сообщение Интервью – диалог, оформленный по правилам пунктуации русского языка Статья – большой по объёму текст (от 500 слов), представляющий собой анализ события, ситуации etc, в котором представлены разные точки зрения 17

Выбор главных новостных сюжетов Цель: отобрать самые освещаемые в СМИ, общезначимые, актуальные и вызывающие интерес пользователей события. 18

Определение веса сюжета Время создания Вес источника Соответствие тематики сюжета специализации агентства Вес отдельного сообщения Плотность потока сообщений Динамика кликабельности новости на главной странице Время жизни в топе Динамика сюжета Количество новостных запросов к Яндексу Записи в блогах Место новости на сайтах партнёров Интерес пользователей 19

Вес источника Цитируемость учитывает, насколько часто ссылаются на источник другие новостные ресурсы Оперативность учитывает, насколько часто источник быстро реагирует на события Вес источников автоматически пересчитывается каждую неделю 20

Топ-10 самых цитируемых агентств (в алфавитном порядке) «Ведомости» «Интерфакс» «ИТАР-ТАСС» «Коммерсант» «Комсомольская правда» Lenta.ru «Первый канал» РБК РИА «Новости» «Российская газета» 21 По данным еженедельно обновляемого отчёта, формируемого роботом Яндекс.Новостей

22 Робот и человек в Яндекс.Новостях Человек 1.Принимает решение о сотрудничестве 2.Удаляет ссылку на сообщение из базы данных Яндекс.Новостей в случае, если текст сообщения изменён или отсутствует на сайте источника Робот 1.Скачивает и индексирует новостные сообщения 2.Определяет и исключает из поиска по Яндекс.Новостям дубли 3.Определяет жанр сообщения 4.Выделяет ключевые слова и факты 5.Объединяет сообщения в сюжет 6.Определяет рубрику 7.Ранжирует сюжеты

Спасибо за внимание! Вопросы? Татьяна Исаева, руководитель службы по работе с партнерами Яндекс.Новостей