Содержание

Тошнота текста — что это и какие должны быть нормы?

Привет всем начинающим авторам! Сегодня я познакомлю вас с ещё одним интересным понятием из мира копирайтинга и продвижения – заспамленностью (переспамом). Если вы хотите заниматься SEO-оптимизацией сайтов или писать крутые статьи, то садитесь поудобнее и готовьтесь узнать, что такое тошнота текста.

Никто из нас не рождается опытным копирайтером. Когда я впервые увидела в ТЗ “тошнота не более …%” — испугалась. А что это? Вдруг получится больше, чем надо? Как уменьшить? — эти страхи сильно тормозили выполнение работы.

Сейчас я без проблем набиваю текст без переспама. Проверяю только в конце, результатом остаюсь довольна без серьёзных правок. Годы за печатным станком не прошли даром.

Термин “тошнотность” ввели в 2006 году. Тогда начал меняться подход поисковых систем к контенту. Раньше можно было напичкать текст ключевыми словами через каждое предложение и он попадал на вершину топа поисковиков. Теперь же нужно писать для людей — кратко, понятно, полностью отвечать на вопрос.

Тошнота — это количество употреблений слов относительно всей статьи. Считается в процентах. Например, если слово “пластик” встречается 35 раз в работе объёмом 3 000 символов, уровень переспама по слову будет 11 %.

Здесь я научу вас работать с показателем, доводить его до нормы.

В комментариях вы можете поделиться своим опытом работы с заспамленностью.

Виды

Некоторые сервисы проверяют тексты на несколько видов тошнотности.

На практике есть 2 типа заспамленности:

  1. Классическая тошнота — корень квадратный от общего количества употреблений слова в статье. Допустим, “поезд” вы написали 25 раз в статье, какой будет показатель? Правильно, 5. Заказчики редко требуют соблюдать её.
  2. Академическая тошнота — отношение часто употреблённых слов к объёму работы. Помните, как в школе мы узнавали пропорционально количество процентов или предметов с одной неизвестной? Здесь всё так же. Если “кондитер” встречается 7 раз в 5 000 символах, то тошнотность будет равна 7*100/5 000 = 14 %.

Курс по копирайтингу

Курс по копирайтингу

Соблюдение этих показателей помогает сайту быстрее выйти в ТОП поисковой выдачи и избежать фильтра Баден-Баден в Яндексе.

Норма заспамленности

Никто не знает на 100 %, какой должна быть тошнотность, чтобы сайт не попал в чёрные списки поисковиков. Примерная норма вычислялась методом тыка. Оптимизаторы анализировали контент самых успешных сайтов, копирайтеры вычитывали и предлагали разные варианты.

Какая должна быть тошнота в идеале:

  1. Академическая — в пределах 7 — 9 % по Адвего, до 45 % по Текст.ру и не более 7 % на Миратексте.
  2. Классическая — не более 7 %. Менее 2,7 % у вас не получится, даже если слово употреблялось 6 раз, корень будет извлекаться из 7.

Для проверки качества текста на глаз можно анализировать страницы конкурентов.

Перечитывайте свою работу. Если она слишком объёмная, делайте перерывы. Чем дольше вы сидите над статьей, тем больше тавтологии получится.

Как понизить академическую тошноту?

Во время чтения статьи поняли, что с ней что-то не так? Проверили на заспамленность и получился высокий показатель? Нужно срочно избавляться от слов-повторюшек.

Чтобы академическая тошнота была допустимой, можно:

  • Заменить или убрать высокочастотные слова/фразы

Воспользуйтесь сервисами подбора синонимов, например, Орфограммкой или синонимайзером. Следите, чтобы они не выходили из контекста. Если много стоп-слов, их лучше убрать, перестроив предложение. Удалив их, вы понизите водность. Как проверить воду в тексте — узнаете в следующей статье.

  • Увеличить размер текста

Не всегда уместно. Если вас попросили написать описание товара для интернет-магазина до 1 000 символов, вы не сможете растянуть его до 5 000. Посмотрите, сколько ключей попросил вписать заказчик. Не более 5? Нормально. В других случаях снизить заспамленность и соблюсти ТЗ — невозможно.

Тошнотность не бывает нулевой.

Теперь хочу на практике показать, что методы работают. Для примера возьму отрывок из народной сказки “Снегурочка”. Анализ буду делать через Адвего. Что поделать, привыкла к нему.

Результат для SEO ужасен — 9,4 %. Попробуем с помощью замены, перестройки предложений уложиться в 8 %, сохранив смысл.

Проверка в АдвегоПроверка в Адвего

Из таблицы семантического ядра узнаём, что переспам вызван частым употреблением слов “все”, “снегурка”, “баба”, “в”, “и”, “а”.

Мне удалось понизить тошнотность до 7,1 %. А по слову она теперь не превышает 2,5 %.

Как уменьшить академическую тошнотуКак уменьшить академическую тошноту

Что я сделала? Удалила слова, изменила предложения.

Оптимизация сказкам не нужна. Мы любим их не за это. В народных сказках одни и те же слова встречаются часто, вот и взяла для примера.

Как уменьшить классическую тошноту?

Она измеряется по самому популярному слову в статье. Нельзя употреблять одно и то же слово более 15 раз.

Как снизить классическую тошноту:

  • Сократить количество повторяющихся слов

Посмотрите на таблицу семантического ядра. То слово, которое видите на первом месте, нужно убрать. Сервис для проверки на тошноту подскажет, как сделать лучше.

  • Уберите стоп-слова

Тошнотность может подлетать до небес из-за союзов — “по”, “для”, вводных конструкций — “конечно”, “к примеру”, “однако”. Они не красят текст, их уменьшают для читабельности.

Чем больше статья, тем выше классическая тошнота получается.

Как бы не хотелось написать одно и то же слово снова, старайтесь останавливать себя. Иначе конечная проверка разочарует.

Что делать, если тошнотность слишком маленькая?

Думали, что только переспам заставляет опуститься страницы на дно поисковиков? Нет. Если тематических слов будет недостаточно, поисковый робот подумает, что статья не отвечает запросу. А ключи и вовсе попали туда случайно.

Как повысить тошноту? Единственный способ — добавить еще 2 — 5 вхождений, в зависимости от размера статьи.

Где проверить на заспамленность — подборка лучших сервисов

Можно проверить текст на тошноту самостоятельно. При вычитке лишние слова портят впечатление о статье, создают впечатление лишнего.

Но перечитав 4 — 5 работ, вы начнёте пропускать ошибки. Почему? Снижается внимание, вы привыкаете к переизбытку одних и тех же слов.

Если вы усидчивый человек, любящий математику, то можно рассчитать заспамленность по формуле:

ЧС/ЧЗ*100 = Т%, где

ЧС — частота слов,

ЧЗ — общее число знаков,

Т% — тошнота в процентах.

У копирайтера не так много времени, чтобы тратить по 3 — 5 часов на проверку одной работы. Легче воспользоваться онлайн-сервисами, программами.

Для наглядности я буду делать анализ одного и того же текста, страницы сайта.

PR-CY

Документ анализируется по закону Ципфа. Согласно ему положение слова пропорционально его месту в тексте. Например, “компот” будет стоять на 2 месте, если оно встречается в два раза реже.

Чтобы перейти в раздел проверки, нужно на главной странице на панели кликнуть “Инструменты”. Там выбираем “Анализ Ципфа”.

PR-CYPR-CY

Вы можете отправить на проверку готовую страницу сайта или документа. Просто вставьте статью в пустое поле. Максимальное количество знаков — 15 000, минимальное — 100.

Анализировать текст и страницу PR-CYАнализировать текст и страницу PR-CY

Я получила такой результат. Тошнота до 7 % — отлично. Естественность для поисковиков хорошая. Квадратики показывают рекомендации. Красные — уменьшите количество указанного слова, зелёные — добавьте.

Естественность по PR-CYЕстественность по PR-CY

Я решила не останавливаться на достигнутом и проверила готовую страничку сайта.

Заспамленность по PR-CYЗаспамленность по PR-CY

Заспамленность зашкаливает. На первых позициях какие-то непонятные словечки из меню.

Показатели по Ципфу страницы и статьи — разные. Когда анализируется сайт, учитываются не только слова из вашей работы, но и всё, что видимо для пользователя — “Контакты”, “О компании” и др. Добиться нужных результатов сложней.

Я некоторое время работала в офисе копирайтером. Меня гоняли по этому показателю. Мне казалось нереальным выбить в первую десятку необходимые слова по странице. Уходило по 3 — 4 часа на работу в 2 000 — 2 500 символов. Но с опытом стало проще.

Удобная навигация, подробная статистика — хороший сервис, которому можно доверить текст.

Text

Оказывается, уровень переспама оценивают и по Текст.ру. Во время работы в компании я отталкивалась от этих показателей.

До 50 % норма, но требовательные заказчики просят не более 40 %.

Чтобы проанализировать документ, переходим по вкладке “SEO анализ”, вставляем его в рабочую область, нажимаем “Проверить SEO-данные”.

SEO анализ по text.ruSEO анализ по text.ru

Тошнотность 49 % — не очень. Тёмно-фиолетовым выделены слова с высокой частотностью: “ребёнок”, “брокколи”. Бледные — низкочастотные: “белок”, “развиваться”.

Показатели тошнотности по Text.ruПоказатели тошнотности по Text.ru

Подробная статистика помогает быстро очистить статью от тавтологии. Правда, ждать ответа от сервиса приходится долго. Адвего, PR-CY работают шустрее.

Адвего

Адвего — ветеран по проверке семантического ядра. Большинство заказчиков просят равняться по его показателям. Анализ не требует установки ПО, результаты выдаёт за несколько секунд.

Как узнать заспамленность? Сейчас разберёмся. Заходим сразу в семантический анализ текста Advego, чтобы долго не блуждать по сайту. Вставляем текст, запускаем проверку нажатием кнопки внизу.

Академическая тошнотаАкадемическая тошнота

Академическая тошнота 8.2 %, классическая — 3.74. Приемлемо, но могло быть лучше.

Семантический анализ по адвего

Семантический анализ по адвего

Если фраза повторяется 3 — 4 раза, она отражается в семантическом анализе целиком.

Ниже мы видим количество стоп-слов.

Стоп словаСтоп слова

Это текстовый мусор, по возможности удаляем лишнее.

Люблю Advego, полагаюсь на него. Никогда не подводил.

Istio

Istio не хуже Адвего, просто не популярен. Даже разница в показателях на сотые.

Выбираем вкладку “Анализ текста”, вставляем текст в рабочую область, запускаем проверку, нажав на синюю кнопку “Анализ”.

IstioIstio

Хотите знать число вхождений ключевых слов, их расположение? Вводите ключи через запятую в строку над кнопками.

Результаты по istioРезультаты по istio

Мне показало тошнотность без предлогов, вводных конструкций. Если вы хотите узнать полную статистику, выбираете вкладку “Со стоп-словами”.

Сервис работает быстрее Advego. Есть все необходимые инструменты для копирайтеров и заказчиков.

Textus PRO

Хотите иметь SEO-помощника под рукой? Надоело постоянно открывать онлайн-сервисы? Тогда ПО Textus PRO — ваш вариант. Скачиваете установочный файл. Он весит 600 Кб, ставите на ПК за 2 минуты.

Активируете после установки, кликнув на ярлык рабочего стола. Интерфейс программы прост. Вставляете текст, сразу получаете готовый результат.

Сайт textus.proСайт textus.pro

Высокая заспамленность? Будете редактировать? Для удобства можно поставить галочки вверху. Они замажут стоп-слова, знаки препинания, которые отвлекают вас.

Справа находится подробная статистика. Показана классическая тошнота. Проверка настраивается. Есть возможность отключить подсчёт чисел, стоп-слов.

Можно заранее рассчитать стоимость работы. В строке “цена за тысячу” указываете расценку, программа сама всё умножает.

Показывает классическую тошноту Textus PROПоказывает классическую тошноту Textus PRO

Статистика фраз и слов помогает узнать количество точных вхождений — видны в таблице. Они подсвечиваются синим. Если показатели не соответствуют ТЗ, с лёгкостью заменяйте их на синонимы, убирайте.

Miratext

Долгое время не догадывалась, что у Миратекст есть собственный сервис проверки. Так хорошо его спрятали. Искала в поисковиках. Чтобы вы не накручивали круги в поисках этого инструмента, даю ссылочку на семантический анализ текста от Миратекст.

Мы можем проанализировать документ, целую страницу сайта. Миратекст ведёт статистику по закону Ципфа, более сложной версии проверки на заспамленность.

Вводим текст, нажимаем на кнопку.

Переспам на MiratextПереспам на Miratext

Получаем подробный результат.

Закон ЦипфаЗакон Ципфа

Вверху простенькие, обобщённые данные — тошнота, число знаков, естественность текста по Ципфу для поисковых систем.

Повторяемые слова на MiratextПовторяемые слова на Miratext

Далее идёт подробная статистика по словам и фразам. Смотрим всё ли нормально? Удаляем высокочастотные, поднимаем в списке низкочастотные.

Подробная статистика по словам и фразамПодробная статистика по словам и фразам

Моё любимое — ТОП 20 самых употребимых слов. Для оптимизации сеошники просят копирайтеров, чтобы в десятку попали тематические ключи. Для сайта про двери нужно вывести в лидеры “двери”, “межкомнатные”, “входные”, “купить”, “цена”, “интернет-магазин”, “каталог” и т. п.

ТОП 20 самых употребимых словТОП 20 самых употребимых слов

Ниже показаны рекомендации. Можем прислушаться к ним или нет, катастрофы не будет.

Как писать без переспама сразу?

Писать без переспамаПисать без переспама

Ох, эта тошнотность. Пишешь-пишешь, проверяешь онлайн, а потом ещё 2 часа правишь.

Чтобы не делать работу над ошибками, следите за потоком слов. После каждого 4 предложения задумайтесь — не повторяетесь ли вы.

Избежать заспамленности помогают перерывы, чтение книг. Читайте любую литературу — художественную, узкоспециализированную. Вы отвлечётесь от темы, в голове родятся новые фразы.

Чтобы не тратить драгоценные минуты своего времени на анализ текста, советую пройти обучение копирайтингу. Вы научитесь писать красивые, полезные статьи без переспама.

Заключение

Тошнота текста — важный показатель. Никогда не шутите с ним. Для копирайтеров переспам закончится доработками и отказами, а для вебмастеров, владельцев сайтов — выходом из поисковой выдачи.

Проверяйте статью по семантике в ходе работы, если чувствуете неестественность, или оставляйте это напоследок. Уменьшить, увеличить тошнотность можно всегда. Главное — вовремя на это обратить внимание.

Дорогие копирайтеры, на этой ноте я прощаюсь с вами. Пишите в комментариях своё мнение о переоптимизации текстов.

Если вам нравится изучать мир SEO и копирайтинга вместе с нами, подписывайтесь на блог. До встречи!

Формула расчета академической тошноты в инструменте seo-анализа текста, DELETED — Advego.com

Тип текста: Любой Копирайтинг Рерайтинг без источника Перевод

Язык: Любой Russian — РусскийEnglishGermany — DeutschSpanish — EspañolFrench — FrançaisChinese — 中国Ukrainian — УкраїнськаJapanese — 日本のPortuguese — PortuguêsPolish — PolskiItalian — ItalianoTurkish — TürkArabic — العربيةVietnamese — tiếng ViệtKorean — 한국의Urdu — اردوPersian — فارسیHindi — हिन्दीDutch — HollandskFinnish — suomalainenAnother language — другой язык

Категория: Любая Без категорииIT, софтАвиация, военная техника, ГОАвто, мотоАзартные игры, казино, покерБытовая техникаДизайн и предметы интерьераДомашние животныеДомашние растения, цветы, растительный мирЗакон и ПравоИгрушки, товары для детейИнтернет-маркетинг, SEO, SMM, создание сайтовИстория, религия, традиции и обрядыКиноКомпьютерные игры, видеоигры и приставкиКрасота и здоровье, питание, диеты, фитнесКулинарияКультура и искусствоЛандшафтный дизайн и архитектураМатериалы 18+Мебель и аксессуарыМедицина, лечение и профилактика болезнейМобильные игры и приложенияМода и СтильМузыкаНаука, открытия, высокие технологииНедвижимостьНепознанное: фэн-шуй, астрология, гороскопыОбразование, учеба, тренингиОтдых, активные игры, охота и рыбалкаОтношения, знакомства, личная жизньПолиграфия, рекламная продукция, маркетингПолитика: аналитика и обзорыПраздники и торжества, свадьбаПрирода и экологияПромышленность и оборудованиеПсихологияРабота и карьера, фрилансРемонт и обустройствоРукоделие, хобби, handmadeСад и огород, сельское хозяйствоСемья, воспитание детей, беременность и родыСобственный бизнес, ForexСпорт и спортивный инвентарь, велотехникаСтихи и поздравленияСтроительный инструмент и материалы, садовая техникаСтроительство домов, дачное хозяйствоТуризм, достопримечательностиУслуги и сервисФинансы, банки и кредиты, экономикаФототехника, искусство фотографииЭлектроника: гаджеты, мобильные телефоны, компьютеры, телевизорыЮмор

как проверить и исправить. Инструкция для новичков

Текст — главный инструмент коммуникации между бизнесом и покупателем в мире digital, самый простой и одновременно самый сложный путь общения. Он встречается в разных формах: надписи на кнопках, рекламные слоганы на баннерах, призывы к действиям, статьи на листингах, статьи на блоге.

Есть два традиционных варианта использования этого мощного инструмента:

1. «Чтобы было»

Грубо говоря, «захламить» сайт словами, надеясь, что пользователь сам разберется… Да и вообще, кто эти тексты читает? Как правило, копирайтеры выбираются по одному критерию: самая низкая стоимость за 1000 символов, а что он напишет — без разницы, лишь бы уникальность была 100%.

сео текст чтобы было

2. Качественный текстовый контент

Встречается крайне редко, я бы сказала, практически никогда. Но если встречается — дает отличные результаты. Давайте разбираться, что такое хороший текст для сайта и каким он должен быть.

Подготовка технического задания

Написание текста начинается с создания технического задания с параметрами будущего текста:

  • ключевые слова — слова или словосочетания, задают вектор написания текста. Они описывают, о чем будет будущий текст;
  • объем текста — как правило, заказчик дает диапазон символов, но идеальный объем текста — это полный ответ на вопрос пользователя;
  • тезисы — краткие основные посылы текста, будущие подзаголовки;
  • уникальность — процентный показатель отличия текста от существующих в интернете. Стремится к 100%;
  • плотность ключевых слов — частота использования ключевых слов в тексте. Очень скользкий показатель, варьируется от текста к тексту.

качественный текстовый контент

Параметры текста подобрали, техническое задание составили, передали копирайтеру и он написал текст. Теперь нужно его проверить. Давайте рассмотрим, как это делать.

Шаг 1. Проверка тезисного плана

Берем готовый текст, читаем и сопоставляем с тезисами технического задания. Универсального рецепта по проверке не существует, но в тексте должен быть четкий «ответ» на тезис.

Например, даны тезисы:

  1. Что такое пасхальный декор?
  2. Виды пасхального декора.
  3. Как подготовить дом к Пасхе?
  4. Топ 3 идей для пасхального декора.

После прочтения вы должны узнать о каждом из тезисов. Если этого не случилось, дописывайте текст и добавлять информацию.

Шаг 2. Проверка уникальности

Уникальность — процентный показатель отличия текста от существующих в интернете.

Есть много программ для проверки уникальности текста. Чаще всего каждый текст проверяется отдельно — мы копируем готовый текст, вставляем в интерфейс программы и получаем показатель.

Существуют ситуации, когда на эти действия уйдет слишком много времени, например, нужно проверить весь сайт и определить страницы с неуникальным контентом или на проверке 1000 текстов и проверять каждый отдельно не представляется возможным. В таких ситуациях помогает «пакетная проверка уникальности» — загружаются все тексты оптом и автоматически проверяются. Рассмотрим самые популярные программы проверки уникальности.

Advego Plagiatus

Одна из самых популярных программ по проверке уникальности текста.

Плюсы: удобный интерфейс, быстрая работа, глубокая проверка текста, можно добавить домены для исключения, гибкие параметры настройки.

Недостатки: нужно устанавливать на ПК.

Скачиваем программу с официального сайта. Выбираем нужную версию операционной системы.выбираем версию операционной системы

Устанавливаем тип проверки «Написать текст в программе». 

написать текст в программе

При первом запуске программы нужно выставить настройки. Для этого заходим в пункт «Настройки» — «Настройки проверки».

настройка проверки

Вставляем список прокси, если мы хотим их использовать при проверке.

Прокси — это IP-адрес, посредник между вами и целевым сервером.

использовать прокси

Настраиваем «Соединение» и «Поиск»:

  • размер шингла — количество слов, по которым будут искаться совпадения. Здесь не учитываются знаки препинания и стоп-слова. Оптимально 4 слова;
  • прерывать при совпадении более % — останавливает проверку, если найдено совпадение текста на %. Можно установить 30%, чтобы не тратить время на лишнюю проверку заведомо неуникального текста;
  • ограничение на размер страниц — лучше установить на максимум. Все зависит от того, какие тексты планируете проверять;
  • тайм-аут — задержка в секундах между запросами. Если не используете прокси, не нужно выставлять менее 3 секунд;
  • ограничение на размер бинарных файлов — лучше установить на максимум;
  • учитывать совпадения от % — минимальный процент совпадения с источником, который учитывать при проверке. Устанавливаем 0.5%;
  • поисковая фраза — размер фразы в поиске. Ставим 4.

выбираем размер поисковой фразы

Если используете сервисы антикапчи — для них есть поля ниже. Все, настройка завершена. Сохраняем настройки:

  • в окно программы вставляем наш текст для проверки;вставляем текст для проверки
  • отмечаем нужные поисковые системы, они отображаются значками на нижней панели;отмечаем нужные поисковые системы
  • в Advego есть 2 вида проверки: быстрая и полная. Быстрая поверхностно проверяет текст, а полная даст более исчерпывающие результаты, тщательно проверит текст на копипаст или рерайт. Выбираем «Полная проверка». Ждем результат на вкладке «Результат проверки»;ждем результат проверки

Результат, как видите, точный:

точный результат проверки

Content-Watch

Онлайн-сервис, часто используется специалистами.

Плюсы: простой, быстрый, есть доступ онлайн, можно добавить страницы на постоянный мониторинг уникальности.

Недостатки: бесплатно можно проверить текст длиной до 10000 символов или 3 проверки в день, API платный.

Заходим на сайт Content-Watch, вставляем текст и жмем «Проверить».

проверит в content watch

Если нужно проверить текст на сайте, нужно добавить домен в ячейку «Игнорировать сайт».добавить домен в ячейку игнорировать сайт

Ждем результат. Готово.

результат уникальности текста

ETXT — программа для проверки уникальности

Еще одна отличная программа для проверки уникальности. Можно использовать наравне с предыдущими.

Плюсы: простой, быстрый, есть доступ онлайн, можно проверять картинки, есть пакетная проверка.

Недостатки: нужно устанавливать.

Скачиваем программу, устанавливаем ее и задаем настройки. 

настройки etxt

Выставляем настройки аналогичные Advego Plagiatus.

настройки аналогичные advego

Вставляем текст и выбираем метод проверки уникальности. Тут их несколько: стандартная, экпресс, глубокая и на рейрайт. Выбираем нужный тип.

вставляем текст проверяем уникальность

Вот такие результаты получили:

результаты проверки в etxt

Пакетная проверка в ETXT

Есть ситуации, когда нужно проверить уникальность большего количества фрагментов сразу. Например, агентство прислало на проверку 50 текстов и, чтобы не тратить время даром, можно провести пакетную проверку и отсеять часть на доработку:

  1. Скачиваем ETXT и выставляем настройки, как описано выше.
  2. Выбираем «Пакетная проверка» на панели инструментов. Задаем настройки: директорию, откуда будут браться тексты, и две директории для сохранения проверенных текстов по заданному условию. Выбираем тип проверки и наслаждаемся процессом.

Шаг 3. Проверка использования ключевых слов в тексте

На этапе создания технического задания специалист подбирает ключевые слова и фразы для копирайтера. В зависимости от назначения текста требования к использованию ключей варьируются.

Чтобы быстро проверить ключевые слова в тексте можно использовать одну из программ:

«Семантический анализ текста» — онлайн-инструмент от Advego.

Заходим на ресурс, вставляем в форму готовый текст и нажимаем на кнопку «Проверить». 

проверить семантический анализ текста

Практически мгновенно получаем статистику использования фраз в тексте с такими общими показателями: 

статистика текста в advego

Важно обратить внимание на показатели:

  • «Семантическое ядро текста» — таблица показывает частоту использования всех слов в тексте, включая фразы. Оптимально ориентироваться на 3-3,5% (для ключевой фразы и/или слова). Естественно, если вы пишите текст о лодках, ключ «лодка» будет встречаться в тексте чаще всех остальных слов;
  • «Вода» — примерное процентное количество слов без смысловой нагрузки. Если «воды» относительно много (более 70%) — тщательнее перечитайте текст. Сам показатель очень условный и ориентироваться на какой-либо числовой порог не стоит;
  • «Классическая тошнота» — коэффициент, показывающий заспамленность текста самым повторяющимся словом. Нужно обращать внимание, но ориентироваться на числовой порог не нужно;
  • «Академическая тошнота» — показатель характеризует «естественность текста». Если в статье много различных повторов слов —показатель академической тошноты будет большим;

Таблица «Слова» показывает частоту отдельных слов из текста (здесь фраз не будет). Используется аналогично «Семантическому ядру»;статистика текста в advegoБлок «Стоп-слова» показывает статистику использования в тексте слов без самостоятельного значения (предлоги, например).слова в advego

Семантический анализ текста онлайн — инструмент от istio.com

Заходим на ресурс, вставляем текст в поле и жмем кнопку «Анализ».

семантический анализ текста онлайн istio

Результаты анализа показывают частоту использования ключевых слов в тексте. Общие показатели текста: количество символов, количество слов, водность, тошнота.результаты анализа использования ключевых слов

Значение параметров здесь немного отличается от Advego, но смысл тот же. Подробнее можно почитать на официальной странице справки сервиса.

Все показатели частотности ключевых фраз очень приблизительны — на них можно ориентироваться при беглом первичном анализе текста, но вывод о качестве текста может сделать только специалист после вычитки.

Использование ключей в тексте также можно проверить ручным методом через функцию «Поиск» любого текстового редактора.

Самый важный показатель качества при проверке текста на вхождение ключевых фраз (или слов) — его читабельность. Если в процессе вычитки текста, чтобы понять текст, вам пришлось перечитать фразу несколько раз — предложение нужно переписывать. Главное, помнить, что текст пишется для читателя.

Шаг 4. LSI-копирайтинг. Проверка использования LSI

LSI-копирайтинг ( latent semantic indexing — латентно-семантическое индексирование) — это слова, задающие тематику, за исключением ключевых фраз. Прочитав список этих слов, сразу становится понятно, о чем текст, хотя ни одного ключа в списке нет.

Например, в поиске вбивается слово «плита». Плита — слишком неоднозначный ключ, если рассматривать только его, но, подключив LSI «кухонная, газовая, конфорки, электрическая, техника, доставка», становится понятно, что речь идет о кухонной плите, а не, к примеру, о бетонной.

Существует несколько популярных бесплатных методов для подбора LSI-ключей.

Поисковые подсказки и рекомендации поисковиков

Их можно собирать непосредственно из выдачи.

рекомендации поисковиков

А можно использовать автоматические сервисы, например, Serpstat.

поисковые подсказки serpstat Парсинг подсветок из Инструментов Арсенкина

Сервис бесплатный, но нужна регистрация.

Загружаем список ключевых слов, выбираем регион (не всегда это важно, например, в Москве и Киеве термин «кухонная плита» означает одно и тоже), глубину проверки и жмем «Найди мне подсветки».

найдите мне подсветки

Результаты показывают самые частые слова в сниппетах. Убираем мусор и используем в нашем тексте.

результаты самые частые слова в сниппетах

SEO-анализ текста от Megaindex

Этот сервис выдает не просто список слов, а автоматическое техническое задание на написание текста. Его лучше использовать в качестве вспомогательного инструмента.

  1. Выбираем поисковую систему и регион.органика megaindex
  2. Вводим ключ или ключевые фразы и жмем «Показать».регион megaindex
  3. Результаты чистим и убираем мусорные.чистим результаты mefaindex

Шаг 5. Вычитка текста

Самый важный этап проверки текста. При вычитке обязательно нужно внимательно и вдумчиво перечитывать текст. Если вы несколько раз перечитываете фразы или предложения, — смело переписывайте их заново или выбрасывайте.

Всегда нужно учитывать целевую аудиторию сайта. Например, текст написанный для молодых мамочек и для мужчин-рокеров будет иметь абсолютно разную стилистическую окраску.

Плотность ключевых слов, соответствие тематике, водность и тошнота — все эти показатели не дают точную оценку, в отличие от вычитки.

Главное правило на этом этапе — текст должен легко восприниматься, фразы не должны «резать слух» и статья должна быть интересной.

Вывод

Проверка текстов — процесс творческий и для него не существует шаблонов и универсальных правил. Проверяйте основные параметры, но обязательно руководствуйтесь здравым смыслом.

Основные этапы проверки текстов:

  1. Проверка тезисного плана — после вычитки текста, все тезисы должны быть освещены в статье.
  2. Проверка уникальности — не тратьте время на неуникальный контент, пользы от него все равно не будет.
  3. Проверка ключевых слов — ключи должны использоваться в тексте, но без фанатизма.
  4. LSI — если пишите текст для своего читателя, используете их даже без списка от сеошника.

Если вы используете другие варианты проверки, делитесь ими в комментариях. Всем хороших читабельных текстов, недорого цена в Киеве и Украине с доставкой.

что это такое и как добиться нужных параметров

Здравствуйте, если вы новичок или продвинутый копирайтер, то знаете, как необходимо придерживаться определенных требований к контенту. Тошнота текста – один из важных показателей, говорящий о качестве работы. Определить числовое значение можно в различных программах, но этого мало. Самое главное знать, как создавать тексты с нужной тошнотностью. Я подскажу, как написать работу на “отлично”.

Продвижение сайта — это в первую очередь его выход в первые позиции поисковиков. Раньше статья, переполненная ключевыми словами, автоматически попадала в авангард. С 2006 года, после введения тошноты, заспамленные статьи не индексировались поисковиками, не говоря уже о потребителе контента. Знаете ли вы, как создать правильный контент?

Показатель тошноты в SEO появился не случайно, ведь именно этот параметр стал определять одни из ключевых позиций хорошего, грамотного сайта. Ключевым параметром качества стала тошнота.

Что такое тошнота текста

Тошнотой является процент употребления конкретных слов относительно всего объема печатных знаков. Ее еще называют заспамленность. Увидеть тошноту в поисковиках можно в процентах. Определить спамность очень просто, если взять за основу часто повторяющиеся слова и разделить количество вхождений на общий объем работы и умножить на сто процентов.

Копирайтер с опытом работы уже знает, что значит заспамленность текста. Взглянув на первые строки выдачи, понятно, какое слово превысило лимит и какой объем занимает. Более подробно подскажут программы для проверки, с их же помощью можно довести работу до идеальных требований.

Тошнота текста

Нормы тошноты

Понятия нормы тошноты размыты и даже копирайтер со стажем точно не может сказать, какой текст считается идеальным и самое главное – будет расценен поисковой системой на высшем уровне. Если сравнить работу нескольких проверочных программ, то там единства тоже не обнаружить – каждая из них выдает свои параметры.

Например, норма в процентах для Адвего от 7 до 9% академической тошноты, а Text.ru считает правильным показатель до 7%. Такой же стратегии придерживается и программа Miratex. И даже если слово употреблялось минимальное количество раз, то все равно можно лишь приблизиться к нижней границе, но не достичь ее.

Нормы тошноты текстаНормы тошноты текста

Чтобы понять, как писать с низкой тошнотой, почитайте информацию о теме, по которой пишете работу. После ознакомления появятся идеи, какими аналогами заменить повторяющиеся слова без потери смысла. Это первый шаг к тому, чтобы не повторяться и создать живой, интересный контент не для поисковой машины, а для целевого контингента вашего сайта.

Классическая и академическая тошнота

Тошнота текста бывает академической и классической. Они отличаются по процентам и по методам подсчета результатов.

Академическая тошнота – отношение частотных слов к общему количеству символов. Что означает академическая тошнота – знает каждый копирайтер, гораздо труднее с классическим параметром.

Используется показатель для расчета плотности ключевых слов. Это влияет на очередность выдачи документа в поисковой системе. При наличии слишком большой плотности ключевых слов система посчитает его низкокачественным, “машинным”, поэтому понизить показатель страницы и она не попадет в первые страницы выдачи. Это повлечет снижение рейтинга ресурса. Поэтому не стоит размещать ключевые слова везде, где можно — это отнюдь не украсит статью и не поднимет позиции.

Классическая тошнота – еще один важный показатель, но рассчитывается он более сложно. Цифра, получившаяся при проверке, — это квадратный корень и общего количества слов, которые встречаются чаще всего. Здесь не важен объем, поскольку применяется другая методология расчета. Минимальный показатель классической тошноты – 2,64.

Как привести параметры в норму

При выполнении проверки каждый копирайтер хочет вздохнуть с облегчением, увидев нужные параметры тошнотности. Добиться этого получается не с первого раза, а в ряде случаев над статьей придется знатно попотеть. Чтобы исправить заспамленность, необходимо понимать механизм – как снизить или повысить параметр.

Обычно исправлений требует академическая тошнота, которая может просто зашкаливать при частом повторении слов. Обратите внимание на те слова, которые в выдаче стоят первыми. Их содержание в тексте очень велико, поэтому необходимо заменить синонимами. Если аналоги сразу не приходят на ум или текст узкопрофильный, то можно воспользоваться программами-синонимайзерами. Они не только предложат синоним, но и укажут, в каком контексте это слово станет равноценной заменой.

Не старайтесь вставлять в синонимайзер части работы – в этом случае велик риск погрешностей и выдачи текста со словами неподходящего значения. Всегда лучше заменить отдельные слова вручную.

Вторым вариантом является замена слов на местоимения. Этим не стоит увлекаться, но как метод снижения заспамленности этот способ работает. Исправляйте текст аккуратно и учитывайте падеж, число, склонение дальнейших слов в тексте, иначе возникнет несуразица.

Как привести параметры в нормуКак привести параметры в норму

Среди способов устранения высокой тошнотности можно применить чисто математический подход – увеличить количество текста. Это означает, что процент спамности непременно снизится. Такой вариант решения не всегда подойдет, если копирайтер строго ограничен в знаках. Но и при отсутствии ограничений не нужно “лить воду”, чтобы устранить проблему. Водный контент лишен конкретики и по большей части приводит читателя в уныние, заставляя искать другие ресурсы.

Последняя палочка-выручалочка, как уменьшить тошноту, – пересчет необходимых вхождений ключевых слов. Если минимум 3 вхождения, но слово встречается чаще, достаточно просто привести этот показатель в соответствие. Тогда можно существенно понизить академическую тошноту.

Методы проверки тошноты

Проверка проводится разными программами, и каждая из них имеет свои способы подсчета и показатели нормы. Приступая к работе над текстом, ознакомьтесь с программой, которой предлагают проверять контент.

Если программа на ваш выбор, то здесь проще – у копирайтеров со стажем уже выработалась “внутренняя совместимость” с программами и статьи обычно входят в указанные рамки. Для примера приведем несколько распространенных проверочных сервисов, помогающих определить тошноту.

Text.ru

Программа Text.ru наиболее требовательна к словам, поэтому работать в текст.ру не просто.  Уже в антиплагиате выдается, что это за сео-параметры и означают ли они норму. Методика подсчета такова, что даже при глобальной замене повторяющихся слов процент удастся снизить всего на 1-2 единицы.

Показатель заспамленности программой воспринимается таким образом:

  • текст до 30% считается не содержащим ключевых слов либо написанным в естественном изложении;
  • показатель от 30 до 60% допускается, это “оранжевая зона” текста, в которую попадает большинство работ с правильно вставленными ключевиками, поэтому такой текст считается релевантным;
  • процент свыше 60 – плохой показатель, заспамленность сразу становится красного цвета, показывая копирайтеру о недопустимости количества вхождений определенных слов.
Итоги заспамленности по Text.ruИтоги заспамленности по Text.ru

Для борьбы с заспамленностью посмотрите наиболее часто встречающиеся слова и подсветите их в тексте. Они выделены фиолетовым цветом различной интенсивности. В первую очередь нужно бороться с самыми ярко окрашенными вхождениями – именно они наиболее проблематичны и уводят текст все дальше от идеала.

Istio

Сервис Истио очень удобен для проверки, он выдает много параметров, в том числе и тошнотность. Для пользователя анализ указывает, какие 10 слов повторяются чаще всего – уже с них можно начать, если бороться со спамностью.

По этому сервису можно увидеть количество вхождений слова, проценты релевантности, соотношение в ядре и к общему количеству знаков. Для удобства выделите ключи – они подсвечиваются красным и подскажут как избавиться от тошнотности. Воспользуйтесь опцией “Карта” – здесь наиболее частотные слова выделены крупнее остальных. Широкие возможности программы делают ее удобной в использовании. Здесь можно выбирать наиболее значимые параметры, наглядно видеть слова, замена которых необходима.

Istio - <spantrueкачественный сервис проверки тошноты” width=”700″ height=”500″ data-mce-src=”https://irinabuzikova.com/wp-content/uploads/2020/03/istio-kachestvennyj-servis-proverki-toshnoty-1024×732.png”> Istio – качественный сервис проверки тошноты

Адвего

Одним из популярных сервисов проверки является Адвего. Программа работает давно и полюбилась многим копирайтерам за свой функционал. Здесь очень удобная и быстрая проверка тошноты. Нормой для академической тошноты по Адвего являются параметры от 5 до 15%. После проверки результат можно увидеть в разделе “Статистика текста”, где отображены основные показатели.

В разделе “Семантическое ядро” отображены слова по мере их частотности. Чтобы уменьшить тошноту, начинайте заменять слова, стоящие в ТОПе ядра. Это поможет быстро привести в порядок параметры.

Показатели тошноты текста по Адвего - одни из самых точныхПоказатели тошноты текста по Адвего – одни из самых точных

Textus PRO

В программе Textus PRO документы анализируются по особому подходу. Позиция слова будет пропорциональна его месту в работе. Редкие слова опускаются вниз, а наиболее частотные, как и в других поисковиках, появляются вверху. Для анализа текста достаточно ста знаков, а максимум – 15 тысяч. Если тошнота до 7%, то такой показатель считается отличным, поисковик посчитает контент естественным и выдаст его в верхних позициях.

Показатели тошноты текста в программе Textus PROПоказатели тошноты текста в программе Textus PRO

Очень удобной подсказкой, как убрать заспамленность текста, является указание в правой стороне сервиса количества слов, которые нужно убрать или добавить. У сервиса отличная навигация, понятный интерфейс и подробно расписанная статистика.

Статистика фраз и слов в программе Textus PROСтатистика фраз и слов в программе Textus PRO

Привыкнуть к запросам Textus PRO сложно, но потом работа с платформой дает плодотворный результат.

Miratext

Собственный сервис проверки Miratext – отличный способ проверить тошноту текста. Здесь очень удобный функционал, программа быстро анализирует текст на воду и тошнотность и выдает общие показатели в таблице.

Общая статистика текста в сервисе Miratext Общая статистика текста в сервисе Miratext

Очень ценным является отдельная выборка по “водным” словам. Они часто остаются незамеченными, примелькались, как слова-паразиты, и не несут смысловой нагрузки. Безжалостно удаляйте “водность”, чтобы улучшить качество текста.

Облако частотности слов для наглядности имеет вхождения, выделенные разным шрифтом. Наибольший шрифт соответствует самым встречаемым словам.

Облако частотности - удачный способ визуализации тошноты текста в MiratextОблако частотности – удачный способ визуализации тошноты текста в Miratext

Для удобства частотность показана как для одного слова, так и для словосочетаний из двух и трех слов. Для наглядности можно воспользоваться графиком, который покажет 20 самых частотных вхождений, с которыми и придется поработать, если текст не соответствует нужным параметрам. Как и Textus PRO, сервис Miratext предлагает слова, количество которых необходимо отрегулировать.

Еще один вариант градации вхождений в MiratextЕще один вариант градации вхождений в Miratext

Как создать идеальный текст

При написании статей важно не только ставить задачу, как повысить показатели, а и сочетать их со здравым смыслом. Оптимальной является тошнота до 10%. Уложиться в нее просто, если писать живым языком, с применением синонимов, местоимений и других приемов по замене слова.

При заспамленности выше 10 учитывайте направленность текста. Если это медицинская или техническая статья, то здесь трудно подобрать синонимы ко всем частым словам. Во многих случаях понижение заспамленности ведет к ухудшение смысловой нагрузки, появлению существенных ошибок, о которых автор работы может и не подозревать. Стоит ли рисковать ради нескольких процентов качеством контента и своей репутацией?

Учтите, что современные поисковики учитывают не только цифровые параметры, но и тематику контента. Поэтому узкоспециальный текст при повышенном проценте спамности вполне может занять ТОПовую позицию.

Вывод

Начинающим авторам трудно уследить за показателем тошнотности, особенно не зная, что такое заспамленность текста и вода. Много времени уходит на то, чтобы писать не спамные работы, а еще больше – на переработку “брака”. Для этого на первом этапе нужно четко разобраться, что означает каждый показатель.

Чтобы не стать заложником процентов проверяющих программ, расширяйте свой словарный запас, читайте специальную литературу перед тем, как начать работу с узкоспециальной, малознакомой темой. Статьи станут естественными, ориентированными на запросы читателей. Добиться этого несложно, если чаще практиковаться в написании контента, изучать программы-проверки и осваивать просторы профессии копирайтера.

Не забывайте проверять свои работы на уникальность, об этом параметре я уже рассказала.

А как вы боретесь с тошнотой в тексте? Поделитесь своими наработками с коллегами и оставляйте комментарии для новичков.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Как сделать нужную тошнотность для статьи

Если вы хотите продвинуть свой сайт или блог, мало наполнить его интересным контентом. Чтобы поисковые роботы присваивали материалам высокий рейтинг и размещали в его ТОПе выдачи, нужно не только писать статьи, но еще и правильно оптимизировать их. Одним из инструментов такой оптимизации является тошнота текста, варьируя процент которой, вы сделаете контент более или, наоборот, менее привлекательным для поисковиков.
О том, что означает этот параметр, как он высчитывается, а также каким способом изменить показатель тошноты, мы расскажем далее.

Как Повысить или уменьшить Тошноту текста: Виды и Определение Тошнотности Текста

Что такое тошнотность текста

Для начала разберемся, что же такое тошнота текста. Этот показатель влияет на SEO, поэтому важен для продвижения сайтов — с ним в работе постоянно сталкиваются сео-оптимизаторы и копирайтеры, создающие контент для страниц сайтов. Начинающим авторам нужно знать об этом параметре, чтобы не удивляться, встречая его в заказах, а также не задавать заказчику лишних вопросов.

Тошнота — выраженное в процентном соотношении частотности ключевых слов к общему объему текста. Поисковые роботы высоко оценивают только те статьи, в которых ключевые слова содержатся в оптимальном количестве — не больше и не меньше, чем должно быть.

Стоит упомянуть и о том, зачем вообще нужен такой параметр в работе поисковиков. Каким бы парадоксом это не выглядело, но он, в конечном итоге, нужен для людей.
К примеру, до 2006 года он не оказывал влияния на результаты поисковой выдачи, поэтому в ТОПе по любому запросу оказывались те статьи, в которых встречалось наибольшее количество ключевиков.

Можно только вообразить, как перенасыщены этими «повторами» были наиболее «выигрышные» статьи, и как тяжело было читать их обычным пользователям, ищущим ответ на свой вопрос. Ключ мог быть вставлен буквально в каждом предложении — и это лишь повышало рейтинг такого контента. Согласитесь, не слишком удобно пользоваться поисковой системой, работающей по такому принципу.

Как Повысить или уменьшить Тошноту текста: Виды и Определение Тошнотности Текста

За прошедший с тех пор десяток лет многое изменилось, в том числе и принцип работы поисковых роботов. Они стали «умнее» и качественнее анализировать статьи, а также «угадывать», действительно ли контент отвечает на запрос пользователя. Теперь роботы «предугадывают», сможет ли та или иная статья решить проблему пользователя, и даже больше — насколько контент удобоварим и легок для восприятия его обычным человеком.

Разумеется, поисковики не умеют «думать» — они лишь анализируют общие данные, сверяя их со статистическими. Параметр тошноты играет в этом анализе не последнюю роль. Так, если ее процент очень высок, значит, какое-то слово или несколько повторяются очень часто.

Зависимость этого показателя от общего объема текста также обоснована. К примеру, если в статье размером 8-10 тысяч символов, одно слово повторяется 15 раз, это будет вполне уместно и не бросится в глаза читателю. Но если оно встретится те же 15 раз при объеме в 2-3 тысячи символов — его будет слишком много.

Если такой перенасыщенный ключевыми словами контент встретится поисковому роботу, тот «сделает вывод», что читать статью пользователю будет трудно, а значит, она должна находиться как можно дальше в строке поисковой выдачи.

При этом если в статье будет слишком мало ключевых слов, поисковик «сделает вывод», что она, вероятно, не содержит нужной пользователю информации, и также не поместит ее в ТОП.

Таким образом, рейтинг статьи напрямую зависит от показателей тошнотности, наравне с уникальностью и стилистическим оформлением, также влияющими на сео-оптимизацию.

Виды тошноты

При оптимизации для лучшего ранжирования поисковиками анализируется классическая и академическая тошнота текста. Эти два показателя – важные, однако при написании текстов, как правило, копирайтеры и оптимизаторы больше внимания уделяют категории академической тошнотности. О том, что они означают и как редактируются, мы расскажем далее.

Классическая тошнота

Словом классическая тошнота обозначают количество повторов одних и те же слов, предлогов и союзов. То есть, по данному параметров можно сделать вывод, насколько бедна или, наоборот, разнообразна речь автора. Также этот параметр дает оценку и количеству «мусора» в статье: это так называемые «стоп-слова», состоящие из союзов или «слов-сорняков», перегружающие статью, но не несущие какого-либо смысла.

Значение классической тошноты вычисляется путем извлечения квадратного корня из числа повторений одного и того же слова. Так, если слово «автомобиль» вы употребили 25 раз, показатель по нему будет равняться 5.

Академическая тошнота текста

Несмотря на ту пользу, которую привносит оптимальный уровень классической тошноты для простоты восприятия контента читателем, для оптимизации под поисковые системы важнее другой его параметр — академическая тошнотность.

Она представляет собой частоту употребления самых распространенных слов в статье — ключевиков. Так, если контент перенасыщен ключевыми словами, он будет иметь высокие показатели этого параметра, и не попадет в ТОП выдачи.

Однако если ключей в тексте будет слишком мало, поисковики также не покажут пользователю такую статью, так как она, судя по семантическим данным, не будет соответствовать его запросу.

Уровень академической тошноты — именно в этом преимущество или недостаток текстового контента с точки зрения поисковых роботов, присваивающих рейтинг. Важнее данного показателя, пожалуй, только уникальность статьи.

Академическая тошнота тесно связана с тошнотой по отдельным словам. Этот показатель дает понять, какие слова чаще всего встречаются в статье и, таким образом, составляют ее семантическое ядро — по мнению поисковых роботов, ее «суть».

Сервис Адвего позволяет увидеть, какие слова являются самыми часто употребимыми.
При оптимизации статьи стоит убедиться:

  1. Что тошнота по слову не превышает рекомендуемый уровень.
  2. Что самыми «частыми» являются именно ключевые слова, а не другие, особенно «слова-паразиты».

Какая должны быть тошнота текста

Тошнота текста — это показатель, который должен быть на определенном уровне, чтобы статья «понравилась» поисковикам. И главное для правильной оптимизации — не убавлять количество ключей в тексте ниже определенной границы, но и не превышать их содержание.

Как Повысить или уменьшить Тошноту текста: Виды и Определение Тошнотности Текста

Однозначного ответа на вопрос, каким должен быть «идеальный» показатель этого параметра, нет. Алгоритмы поисковых сервисов подчиняются своим системам, и работа их не является «прозрачной».

Однако мастера, которые занимаются оптимизацией, методом проб и ошибок вычислили «правильные» показатели, соблюдение которых чаще приводит ту или иную статью в ТОП выдачи:

  • Так, показатели классической тошноты документа должны варьироваться от 3 до 5%. Не рекомендуется превышать отметку в 7%.
  • Академическая должна находиться в промежутке от 7 до 9%. Рекомендуется придерживаться 8%, а вот отметку в 9% превышать не стоит.
  • Частотность ключевых слов не должна превышать 2,6%.

Как измеряется частотность слова

Теперь уделим внимание тому, как именно считается тот или иной показатель тошнотности. Так:

  • Классическая высчитывается по самому частотному слову статьи. Именно квадратный корень из количества этих повторяющихся слов и будет показателем классической тошноты.
  • Академическая документа высчитывается на основе показателей самых частотных слов статьи при использовании специальной формулы: X = 100*Y/Z, где Y — количество вхождений, а Z — объем текста.
  • Тошнота по слову определяется отношением количества вхождений того или иного слова к общему объему статьи.

Определяем уровень тошноты по Адвего

Как видно из формул расчета, проверка текста на тошноту — несложный процесс, но он может быть достаточно трудоемким, если не использовать специальные сервисы, часто предоставляемые биржами контента.

Самая быстрая и точная оценка определения тошноты текста — онлайн-сервис биржи Адвего, полезный не только оптимизаторам, но и копирайтерам, создающим контент для сайтов.

О том, как с помощью него проверить тошноту текста, а также какие еще параметры он дает возможность определить, и как внести правки после того, как будете знать, какая должна быть тошнота текста — расскажем далее.

Первое и весомое преимущество сервиса семантического анализа текста онлайн от Адвего — текст можно проверить, не регистрируясь на самой бирже. Кроме того, большинство пользователей ценят Адвего за оперативность — проверка документа даже большого объема занимает всего несколько секунд.

Помимо классической и академической тошноты сервис позволяет проверить контент на:

  • Количество символов
  • Количество символов без учета пробелов
  • Количество слов
  • Количество уникальных слов
  • Количество значимых слов
  • Количество стоп-слов
  • Содержание воды
  • Наличие грамматических ошибок

Также Адвего позволяет определить тошноту по слову. Иногда повторяемой может быть и целая фраза, в том случае, если такое словосочетание встречается очень часто.

Пример: если слов «аллергическая» и «реакция» будет много, и они будут во всех случаях стоять в таком порядке, сервис будет показывать их совместную тошноту — «аллергическая реакция».

Чтобы определить уровень тошноты по Адвего, нужно всего лишь зайти на сайт в раздел «Инструменты мастера» — «Семантический анализ» и скопировать текст в указанную графу.

Семантический анализ тошнотности текста

Семантический анализ текста (Рис-1)

После того как вы нажмете «Проверить», сервис откроет страницу с семантическим анализом.

Семантический анализ текста на тошнотность

Семантический анализ текста (Рис-2)

Тошнота — классическая и академическая — будет указана в первой же таблице «Статистика». Тошнота по слову — во второй, «Семантическое ядро».

Как убрать лишнюю тошноту текста

После того, как анализ выполнен, переходите к следующему этапу работы — снижать или повышать показатель; как снизить тошноту по Адвего — расскажем далее.

Если вы заметили, что уровень тошноты получился высокий или низкий, это будет оказывать влияние на SEO. При этом опытным путем было установлено, что распространенная причина понижения рейтинга контента — академическая, а не классическая тошнота. По этой причине большинство оптимизаторов уделяют ей основное внимание.

Как правило, пользователи программы задают следующий вопрос по использованию Адвего: можно ли исправлять показатели прямо на сайте после проверки? К сожалению, такой возможности не предусмотрено. Вам придется редактировать текст, а затем, когда вы это сделали, проверять его снова.

Как уменьшить классическую и академическую тошноту

Теперь рассмотрим, как уменьшить академическую тошноту. Поскольку ее показатель — это отношение количества вхождений ключевых слов к объему всего текста, пути для редактирования очевидны: либо уменьшать содержание «ключей», либо увеличивать объем статьи.

Второй способ, по многим причинам, является менее приоритетным. Во-первых, объем — тоже важный параметр для SEO-оптимизации, и его увеличение может негативно отразиться на рейтинге статьи. Во-вторых, это более трудоемкий процесс, нежели простое избавление текста от нескольких «лишних» слов.

Таким образом, чтобы показатель тошноты был низким, понижают именно количество вхождений, так как понизить его проще всего.

Для этого посмотрите, какие слова и фразы – самые повторяемые, и удалите их из текста. Также можно заменить их синонимами, или перестроить предложения таким образом, чтобы они «выпадали» из них.

Теперь о том, как поднять, или увеличить этот показатель; чтобы повысить академическую тошноту, добавьте ключевые слова в статью таким образом, чтобы количество их вхождений возросло.

Как Повысить или уменьшить Тошноту текста: Виды и Определение Тошнотности Текста

Что касается классической, то поднимать ее специально не требуется для оптимизации. А вот понизить ее можно, удалив несколько вхождений самого популярного слова, а также очистив статью от «стоп-слов», которые при анализе сервисом Адвего будут приведены в специальной таблице.

Как уменьшить количество воды в тексте

Подводя итоги, стоит отметить и некоторые другие моменты по оформлению текста, которые также влияют на оптимизацию страницы и учитываются поисковиками. Например, содержание воды.

Иногда заказчику важна «водность» текста, что может вызывать вопросы по заказам и отнимать много времени у неопытных копирайтеров.
Содержание воды устанавливается как по сервису Адвего, так и по онлайн-сервису бирже Текст.ру.

Во втором случае, выбрав нужную категорию проверки, вы увидите не только показатель воды, но и рекомендации по его снижению — «водные» слова в тексте будут подсвечены голубым цветом. Удалите их или замените синонимами, и контент станет легче для восприятия читателями.

Рекомендуемый процент воды — 45-55% по Адвего и 15-20% по Текст.ру. А так же,определить и слить лишнюю воду поможет сервис Главред.

Тошнота текста академическая и классическая

SEO копирайтинг

23.06.2020

7 комментариев

С тех пор как поисковые алгоритмы модернизировались — продвигать сайты стали иначе. Но про SEO тексты не забывают, учитывают академическую и классическую тошноту страницы.

Тошнота текста – показатель, дающий представление о том, сколько раз в текст автор вставил одно слово, неважно в каком падеже. Тошнота важна для продвижения SEO-статей и для привлечения органического трафика.

Считаются все склонения слова по падежам. В каждой статье нужно следить за повторениями, это не особая прихоть оптимизаторов, а необходимость для внутренней оптимизации страницы.

Как появилась тошнота текста?

Для понимания термин «тошнота» ввели, чтобы представлять в цифровом выражении сколько раз допускается использовать ключевой запрос в статье. Если их будет много, этот документ будет не сильно ценным и направлен на привлечение поисковика. Читать его невозможно, нужно грамотно проводить внутреннюю оптимизацию.

Тошнота текста стала важна, когда поисковики стали оценивать качество на страницах и формальные признаки документов перешли на второй план. Вполне понятно, что тексты, созданные не для людей (машинные) с помощью программ по размножению, не будут проходить ни по уникальности, ни по другим параметрам.

В этот период в SEO стали вводиться ограничения, позволяющие отслеживать уровень академической и классической тошноты. Параллельно стали вводить переспам слов в тексте.

Для академической рекомендуемый показатель — 7-8% по Адвего (это по всему документу).

Для классической — 3%, когда в тексте объемом от 5 000-10 000 символов повторений слова будет не более 9-11 раз. Чем длиннее статья — тем больше повторений, за этим необходимо следить.

Виды тошноты статьи

Всего выделяют 2 вида тошноты текста и каждый выполняет свою роль, поэтому учитывают два показателя. Хотя, если автору специально в ТЗ не указывать на них, то этот показатель останется без внимания. Разбираемся, что такое академическая тошнота и чем она отличается от классической. И влияют ли такие показатели на ритм текста, насколько это ухудшает или улучшает подачу информации?

Академическая тошнота

Для нее вывели формулу, которая в результате показывает в процентах, сколько раз использовалось слово относительно других слов в статье.

Академическая тошнота подразумевает процентное выражение отношения ключевых фраз ко всем словам в статье. Частота употребления слова на конкретной странице.

Формула выглядит вот так:
16 раз слово — X %
599 слов в статье — 100 %
X= 16*100/ 599 = 2,86% — именно такие цифры будут в сервисах.

Классическая тошнота

Классическую тошноту документа показывает сервис Адвего. Она определяется по формуле: это значение корня квадратного из количества повторений слова.

Если слово повторялось только 10 раз, то корень извлекается из 10. Чтобы наглядней было, извлечем корень из 16 повторений, будет 4. Такое количество считается нормальным, если текст величиной не менее 7000 сим без пробелов.

На малый объем документа повышенная тошнота текста считается губительной, искусственным добавлением слов, что строго карается и возможен фильтр на сайт.

Ранее добавляли в документ максимальное количество ключей, которые увеличивали тошноту, а теперь за это страница наказывается Баден-Баден.

Ошибки в работе с тошнотой текста

Большая тошнота

Одна из крайностей, которая пользовалась успехом и давала результат. Добавив максимальное число повторений ключевых фраз, можно попасть в ТОП по высокочастотному запросу. Теперь приветствуется LSI-копирайтинг  с их смежными словами, которые подходят к запросу и необходимы.

Недостаточная тошнота

Когда статья нерелеватная по смыслу, ключевые слова вставлены в текст для галочки, то поисковый робот может не принять ее всерьез, не показывать в выдаче по главному запросу. Потому отсутствие оптимизации статьи или недостаточное количество необходимых слов по теме могут привести в тому, что робот не покажет вашу статью.

Текст не будет ответом на запрос и статья может уйти далеко вниз, куда посетители вряд ли доходят.

Как снизить тошноту текста?

Уменьшать классическую и академическую тошноту нужно разными способами.

Для уменьшения академической тошноты подойдут такие способы:

  • Расширяем статью и увеличиваем количество текста. Даже при ограниченных объемах, но с четким следованием всех параметров, этот способ работает. Если на 1000 знаков требуют вписать около 7-10 ключевых фраз с повторяющимися словами, то увеличивать надо и говорить об этом заранее.
  • Удаляем высокочастные фразы. Желательно использовать синонимы и снижать водность с помощью уменьшения стоп-слов. Программа синонимайзер поможет в этом.

Классическую тошноту уменьшают так:

  • Делаем анализ семантики статьи. Выделяем самое популярное слово, которое повторяется и удаляем его. Если использовать сервис проверки тошноты, то он покажет сколько слов находится на втором и третьем месте по популярности.
  • Вычеркните все стоп-слова. Когда часто используют союзы, особенно если их можно опустить. Неуместно добавлены вводные конструкции: «однако», «например», «конечно». Говорим не о разом использовании, а о постоянном повторении этих слов.

Где проанализировать статью?

Можно применить способ визуального анализа документа и прочитать статью, если какие-то слова будут попадаться слишком часто — это необходимо убрать. У этого метода анализа есть недостаток: после 3 или 4 статьи глаза начинают привыкать к тематикам, пропускать какие-то выражения, потому что все смешивается.

Второй способ популярный и действенный, отнимает мало времени — воспользоваться онлайн сервисами для проверки тошноты текста.

Онлайн-сервис Адвего

Увидим в результате анализа что такое тошнота текста и какая она бывает. Сервис помогает смотреть на количество фраз в документе, а не только по одному слову. Если ключ состоит из 3 слов, его использовать n-е количество раз в статье, то Адвего покажет частоту фразы полностью.
Чтобы это посмотреть нужно опустить курсор ниже.

Смотрим теперь цифры по каждой фразе:

Показатели в норме, потому что не превышают 3%, цифра 2,46 еще допускается.

Сервис istio.com

Сервис показывает общую тошноту текста и количество используемых фраз. Общая может повышаться благодаря неразумному использованию предлогов «и» и «в». Если она превышает 7 баллов, то такие статьи вряд ли станут популярными и займут сразу ТОП.  Хотя, может быть всякое.

Семантический анализ в тексте

Сервис SEO-прорыв

Предлагается несколько вариантов SEO анализа сайта: разовый анализ, пакет из 10 проверок и ручной премиум аккаунт.
Сервис помогает с переспамом, позволяет увидеть, с каких страниц сайта трафик ушел, где статья поднялась вверх.
В результате анализа дается таблица показателей, где можно увидеть значения.

Анализ в сервисе сеопрорыв

Программа TextusPro

Ее надо скачивать на компьютер и в окно вносить текст, потом она самостоятельно посчитает тошноту текста и покажет количество повторений. Программу создали под руководством копирайтера — Дениса Каплунова.

Удобно, что в программе можно отслеживать статистику текста и статистику фраз и слов в документе.

Программа проверки тошноты

Как убрать тошноту текста?

Не все копирайтеры пишут идеальные тексты. У некоторых материал появляется после нескольких корректировок.

Проверяем текст в Адвего. Находим слова, которые часто употребляются, выписываем их частотность, начинаем корректировать. Заменяем ключевые слова на синонимы, а где-то вовсе их удаляем.

Понадобится больше времени на написание материала, но результат оправдает. Редактируя предложения, желательно не только уменьшать тошноту, но и переспам (фразы повторяются в предложениях), безжалостно вычеркивать стоп-слова, смотреть на тавтологию.

Тошнота определяет количество ключевых фраз в статье и их повторений в разных падежах. По слову показывает, сколько раз оно использовано. Если вам понравилась статья на Редачим, то ставьте «нравится» и ждем вашего мнения в виде комментариев.

Главный редактор Редачим

кто хочет в группу единомышленников присоединяйтесь к нам

Присоединиться

1

2

3

4

5

6

7

8

9

10

11

12

Интересное: Главный редактор Редачим

Проверка текста на тошноту – что это простыми словами

Как снег на голову мне на голову упал снег, и я пошел по заснеженному полю, сбивая снежинки и снеговые кучи…

Вас не стошнило? Чувствуете перебор слова «снег». И если такой текст режет слух читателю, то поисковыми роботами он воспринимается как заспамленность контента. Чтобы не пропустить в интернет подобные шедевры была разработана специальная программа, фильтры Гугл и Яндекс, которые отслеживают тошнотность всех текстов на сайте и ставят страницу на определенное место в поисковой выдаче.

Что такое тошнота или тошнотность текста

Проверка текста на тошноту осуществляется простым подсчетом однокоренных слов. Всех. Поэтому в статье может быть перебор не только ключевых запросов, но и любых других слов. Существует два показателя: классическая и академическая тошнота текста.

  1. Академическая показывает процент частотности определенного слова по отношению к другим словам.
  2. Классическая, это математически выведенная единица: квадратный корень от числа повторов самого тошнотного слова, независимо от объема текста. 

Хорошим результатом проверки на тошноту считается:

  • частотность по слову не более 2,5 %;
  • классическая тошнота до 3.5%;
  • академическая до 7,5%.

Перед вами скрин первых двух подзаголовков этого текста. Как видите, результаты отвратительные. И слов мало и перебор по тошноте огромный.

Как убрать тошноту текста

Алексей Трудов, известный интернет-маркетолог, который много лет проводит исследования на тему как влияет качество статьи на ранжирование текста однозначно заявляет, что показатель тошнотности, сам по себе, играет не большую роль для продвижения сайта.

Но все дело в том, что многие сайты создаются такими же дилетантами как я, которые учатся и работают одновременно. И для нас важно исправить все, на что хватает знаний, и сократить претензии от поисковиков везде, где только можно. Поэтому привести в порядок текст по показателям тошноты, воды и уникальности самое простое, что мы можем сделать.

Тошнота сео текста приводится в норму простой заменой частых слов на синонимы. Есть достаточно сервисов, где можно подобрать синонимы, например, на бирже копирайтинга Text sale. Внизу правого меню есть специальная кнопка «В помощь копирайтеру. Подбор синонимов.»

Программа синонимайзер. Это не просто подбор синонимов, это замена всего текста, часто с потерей смысла. Пользуясь таким подсказчиком будьте очень внимательны, результат не предсказуем.

Вторая проблема, с которой может столкнуться копирайтер — нехватка ключевых запросов. Желательно, чтобы ключей в тексте было максимальное количество по сравнению с другими словами. Выход из положения аналогичный – добавляем ключевые запросы в разбавленном вхождении и повышаем тошноту ключами, а не дополнительными словами.

Где сделать анализ тошноты текста

Любую статью, независимо от платформы публикации тяжело читать, если в ней встречается стойкое повторение одних и тех же понятий. Это как слово «Класс!» которым подростки выражают всю гамму чувств и одновременно дают оценку происходящему. Поэтому проверять свою работу необходимо сразу после написания и перед сдачей заказчику или публикацией на сайте. Сервисы проверки.

Биржа копирайтинга Advego. Автору будет достаточно проверить работу, перейдя во вкладку «Сео анализ». Регистрировать на странице для получения бесплатной проверки не требуется.  Кроме тошнотности, здесь отслеживают уровень воды, количество знаков, указывают на процент стоп слов, которые не несут смысловой нагрузки.

Платформа Istio.com. Удобна как для автора, так и для вэб мастера. Четкий и быстрый анализ покажет и общее количество переспама и подсветит конкретные слова, которые влияют на большой уровень тошноты. Онлайн, в окне проверки можно сделать коррекцию текста и перепроверить свою работу.

Но! После того, как вы скопируете переделанную, отлично оптимизированную работу, готовьтесь к тому, что статья потеряет свое первоначальное форматирование. Исчезнут списки, выделения, стили, и получится красивая статья для роботов, а для людей придется сделать оформление заново.

Тургенев. В 2017 году Яндекс запустил новый фильтр под интересным названием «Баден Баден», в Гугл используется алгоритм «Панда», который проверяет контент на сайте буквально на все, в том числе и на спам, и, как результат, многие блоги перестали ранжироваться (быть видными пользователям).

В ответ на это гении с противоположного лагеря разработали платформу Тургенев, где даже копирайтерам новичкам легко работать. Править статью можно на странице сервиса бесплатно, количество правок не ограничено, Тургенев дает ссылку на результат. Регистрация необходима.

Ну а теперь, когда эта статья дописана, давайте проверим ее на тошнотность. Если Вы заметили, вторая часть практически не содержит этих заезженных слов «проверить тошноту». И вот результат. Все отлично, проверяем уникальность, исправляем грамматические ошибки и публикуем. Всем удачи.

Тошнотность текста – на что влияет данный параметр и как сделать анализ

Посмотрите интересное видео, и у Вас больше не возникнет вопросов, что такое тошноте и с чем ее, простите, едят.

Строка
— алгоритм вычисления релевантности ключевого слова к короткому тексту (50 — 100 слов)
Переполнение стека
  1. Товары
  2. Клиенты
  3. Случаи использования
  1. Переполнение стека Публичные вопросы и ответы
  2. Команды Частные вопросы и ответы для вашей команды
  3. предприятие Частные вопросы и ответы для вашего предприятия
  4. работы Программирование и связанные с ним технические возможности карьерного роста
  5. Талант Нанимать технический талант
  6. реклама Связаться с разработчиками по всему миру

Загрузка…

,

Подсчет частот слов с помощью Python

Содержание

Цели урока

Ваш список теперь достаточно чист, чтобы вы могли начать анализировать его содержимое значимым образом. Подсчет частоты конкретных слов в списке может предоставить иллюстративные данные. Python имеет простой способ считать частот, но это требует использования нового типа переменной: словарь . Прежде чем начать работу со словарем, рассмотрите процессы, используемые для расчета частот в списке.

файлов, необходимых для этого урока

Если у вас нет этих файлов, вы можете скачайте (zip) файл, содержащий весь код из предыдущих уроков этой серии.

Частоты

Теперь мы хотим посчитать частоту каждого слова в нашем списке. Вы имеете Уже было видно, что обработать список легко, используя цикл для . Пытаться сохранение и выполнение следующего примера. Напомним, что + = говорит Программа для добавления чего-либо в конец существующей переменной.

  # count-list-items-1.py

wordstring = 'это были лучшие времена, это были худшие времена'
wordstring + = 'это был век мудрости, это был век глупости'

wordlist = wordstring.split ()

wordfreq = []
для w в списке слов:
    wordfreq.append (wordlist.count (ж))

печать ("String \ n" + wordstring + "\ n")
print ("Список \ n" + str (список слов) + "\ n")
print ("Частоты \ n" + str (wordfreq) + "\ n")
print ("Pairs \ n" + str (list (zip (список слов, wordfreq))))
  

Здесь мы начинаем со строки и разделяем ее на список, как мы сделали перед.Затем мы создаем (изначально пустой) список с именем wordfreq , иди через каждое слово в словарном списке и посчитайте, сколько раз слово появляется во всем списке. Затем мы добавляем количество каждого слова к нашему wordfreq список. Используя операцию zip , мы можем сопоставить первую слово из списка слов с первым номером в списке частот, второе слово и вторая частота и так далее. В итоге мы получаем список пары слов и частот. Функция str превращает любой объект в строка, так что это может быть напечатано.

Вы должны получить что-то вроде этого:

  Строка
это были лучшие времена, это было  
.
Представление текста в обработке естественного языка | Мишель Кана, к.т.н.

Понимание написанных слов: тщательный обзор Word2vec, GloVe, TF-IDF, Bag-of-word, N-граммы, методы кодирования 1-hot

Michel Kana, Ph.D

В этой статье рассматривается представление язык для обработки естественного языка (НЛП). Если вы один из тех редких гуру глубокого обучения, вы, скорее всего, не узнаете здесь ничего нового. Если нет, погрузитесь со мной в увлекательный мир превращения слов в некоторые представления, которые могут понять алгоритмы.Мы мотивируем, почему мы хотели бы сделать это, какие подходы существуют, и как они работают на простых примерах. Мы будем избегать как можно большего количества математики и будем использовать легкий стиль написания, чтобы увеличить шансы на то, что вы действительно прочитаете статью до конца. Хотя статья кажется довольно длинной, заниматься серфингом весело.

История языкового происхождения повторяется каждый раз, когда ребенок начинает говорить. Действительно, язык зародился, когда люди начали называть объекты, действия и явления, которые появились в реальной жизни.Глядя на веру в божественное творение, разделяемое миллиардами людей, мы можем думать о том, что языки так же стары, как и люди. Каждый раз, когда мы пишем короткое сообщение, твит, чат, электронное письмо, пост или даже веб-страницу, статью, блог или книгу, мы превращаем мысли в слова или символы. Благодаря языку люди могут превращать невидимые идеи в видимые вещи. Кроме того, человеческие мысли становятся доступными для других людей, а также для… угадайте, что? Компьютеры! Если люди способны восстанавливать мысли из слов, могут ли компьютеры это делать?

С недавним ажиотажем, называемым искусственным интеллектом, весьма полезно иметь компьютеры, способные обрабатывать, понимать и генерировать человеческий язык.Перевод Google — хороший пример, полезный. Google начал с сканирования большого количества книг из университетских библиотек и списков веб-страниц, включая их человеческие переводы, и изучения шаблонов между источником и целью (статистический машинный перевод). Сегодня благодаря Google Translate и его последовательным моделям (нейронный машинный перевод) мы можем получить доступ к мыслям, закодированным на любом языке, на котором мы еще не говорим.

Другим примером является текстовой категоризации .Люди очень хорошо разбираются в категориях, например, «хорошо» и «плохо». Они делают это целую вечность. В то же время люди очень хорошо умеют генерировать и записывать информацию в форме текста. По данным Google, во всем мире насчитывается около 129 864 880 книг. Спорим, вы не хотите классифицировать их вручную, даже если вам предоставлена ​​самая большая библиотека в мире с достаточным пространством и полками. В то же время вам действительно нужно классифицировать эти книги, по крайней мере, по жанрам: комиксы, кулинария, бизнес, биографии и т. Д.Здесь вы бы включили компьютерную программу, которая считывала бы содержание книги и автоматически определяла ее жанр. Давайте на минутку уйдем от книг. Среди нас все больше людей, которые не читают книги и предпочитают новостные ленты. Они обычно получают сотни сообщений, сообщений или статей каждый день. Сортировка спам-сообщений и поддельных новостей из соответствующих обновлений, например, о промышленности и рынке, стала очень актуальной задачей для них, если это делается с помощью компьютерной программы.Вероятно, вы читаете эту статью, потому что алгоритм рекомендаций отсортировал ее по многим другим статьям и отправил в почтовый ящик или мобильное приложение. Этот алгоритм должен был распределить по категориям тысячи статей и выбрать эту статью-победителя, которая вам, скорее всего, понравится, конечно же, исходя из вашей истории чтения и вашего умного взгляда.

Ответы на вопросы ботов — еще одна шумиха в наши дни. Представьте себе, сколько времени вы, как специалист службы поддержки клиентов, сэкономили бы, если бы у вас была копия, отвечающая на десятки звонков, которые вы получаете каждый день от ваших клиентов, задающих одни и те же вопросы снова и снова.Мы все слышали об Amazon Alexa, Apple Siri или Google Assistant. Эти системы автоматически отвечают на вопросы людей на естественном языке.

Надеемся, что приведенные выше примеры мотивируют, почему компьютеры, обрабатывающие естественный язык, являются интересной темой для вас. Если нет, то если вы посмотрите на другие примеры, иллюстрирующие распознавание речи , имитацию речи и синтез речи , вы наверняка поразитесь.

Теперь, почему все эти разговоры о языке и компьютерах? Вы печатаете текст в своем любимом текстовом редакторе или программном обеспечении электронной почты каждый день.Итак, почему компьютеру должно быть трудно понять ваш текст? Язык неоднозначен на всех уровнях: лексическом, фразовом, семантическом. Язык предполагает, что слушатель знает мир, контекст и методы общения. Если вы вводите «информацию о мышке» в поисковой системе, вы ищете домашнее животное или инструмент? Представление текста очень важно для производительности многих реальных приложений.

Теперь, как мы можем превратить язык в то, чем пользуются компьютерные алгоритмы? В основе процессоры в компьютерах выполняют простую арифметику, такую ​​как сложение и умножение чисел.Это причина, почему компьютеры любят цифры? Кто знает. Во всяком случае, эта проблема хорошо решена для изображений. Например, область, отмеченная кружком на рисунке ниже, представлена ​​тремя матрицами чисел, по одной для каждого цветового канала: красным, зеленым и синим. Каждое число указывает уровень красного, зеленого или синего в месте расположения пикселя. (0,0,0) отображается черным, а пиксель, компоненты цвета которого (255,255,255), отображается белым.

источник

Процесс преобразования текста в числовой материал, аналогичный тому, что мы сделали с изображением выше, обычно выполняется путем построения языковой модели .Эти модели обычно назначают вероятности, частоты или некоторые непонятные числа словам, последовательностям слов, группе слов, разделу документов или целым документам. Наиболее распространенные методы: 1-горячее кодирование, N-граммы, пакет слов, векторная семантика (tf-idf), семантика распределения (Word2vec, GloVe). Посмотрим, поймем ли мы, что все это значит. Мы должны быть в состоянии. Мы не компьютеры. Вы, по крайней мере.

Если в документе есть словарь с 1000 слов, мы можем представить слова с горячими векторами.Другими словами, у нас есть 1000-мерные векторы представления, и мы связываем каждое уникальное слово с индексом в этом векторе. Чтобы представить уникальное слово, мы устанавливаем компонент вектора равным 1 и обнуляем все остальные компоненты.

источник: Основы глубокого обучения, Н. Будума, 2017

Это представление довольно условно. Это пропускает отношения между словами и не передает информацию об их окружающем контексте. Этот метод становится крайне неэффективным для больших словарей.В следующих нескольких разделах мы рассмотрим более интересные подходы.

Мы начинаем смотреть на самую основную модель N-граммы. Давайте рассмотрим наше самое любимое предложение из нашего детства: «Пожалуйста, ешьте свою еду». 2 грамма (или биграмма) — это последовательность из двух слов, таких как «пожалуйста, ешьте», «ешьте свое» или «ваша еда». 3 грамма (или триграмма) будут представлять собой последовательность из трех слов, например «пожалуйста, ешьте свою» или «ешьте свою еду». Модели N-грамматического языка оценивают вероятность последнего слова с учетом предыдущих слов.Например, учитывая последовательность слов «пожалуйста, ешьте свое», вероятность следующего слова выше для «еды», чем для «ложки». В последнем случае наша мама будет менее счастлива. Лучший способ вычислить такую ​​вероятность для любой пары, тройки, четверки, … слов — это использовать большой объем текста. На изображении ниже показано несколько вероятностей, полученных из сравнительно небольшого текста, содержащего вопросы и ответы, касающиеся ресторанов и продуктов питания. За «я» часто следует глагол «хочу», «есть» или «тратить».

источник: Jurafsky et al., 1994

Google (снова) фактически предоставляет больший набор вероятностей для 1 грамма, 2 грамма, 3 грамма, 4 грамма и 5 граммов на нескольких языках. Они рассчитали их по источникам, напечатанным между 1500 и 2008 годами! Google Ngram Viewer позволяет вам загружать и использовать эту большую коллекцию n-грамм для проверки орфографии, автозаполнения, определения языка, генерации текста и распознавания речи.

Чем длиннее контекст, в котором мы обучаем N-граммовую модель, тем более согласованными могут быть предложения.На рисунке ниже показаны 3 предложения, сгенерированные случайным образом из 1-граммовых, 2-граммовых и 3-граммовых моделей, вычисленных из 40 миллионов слов Wall Street Journal.

источник: Jurafsky et al., 2018

Даже с очень большим корпусом, в целом, N-грамм является недостаточной моделью языка, потому что язык имеет дальние зависимости. Например, в предложении «Компьютер, который я только что положил в машинное отделение на пятом этаже, разбился». Хотя слова «компьютер» и «разбился» расположены на расстоянии 15 позиций друг от друга, они связаны между собой.5-граммовая модель пропустит эту ссылку, и администратор нашего компьютера может подумать, что компьютер на пятом этаже работает безупречно. А теперь как насчет самого длинного предложения в немецкой литературе, которое, как утверждается, содержит 1077 слов! Кто хочет обучить N-граммовой языковой модели, которая понимает те обычно длинные чересстрочные немецкие предложения?

Кроме того, модель N-граммы сильно зависит от тренировочного корпуса, используемого для расчета вероятностей. Одним из следствий этого является то, что вероятности часто кодируют конкретные факты о данном учебном тексте, что не обязательно может применяться к новому тексту.Эти причины побуждают нас взглянуть на дальнейшие языковые модели.

Когда мы заинтересованы в категоризации текста, его классификации на основе настроений или проверке того, является ли это спамом, мы часто не хотим смотреть на последовательную последовательность слов, как это предлагается в языковых моделях N-граммы. Скорее мы представили бы текст как пакет слов, как если бы это был неупорядоченный набор слов, игнорируя при этом их исходное положение в тексте, сохраняя только их частоту.

источник: Jurafsky et al., 2018

Давайте проиллюстрируем текстовое представление в виде простого слова в простом примере анализа настроений с двумя классами: положительным (+) и отрицательным (-). Ниже у нас есть 5 предложений (также называемых документами) с их известными категориями, а также 1 предложение с неизвестной категорией. Цель состоит в том, чтобы классифицировать последнее предложение как положительное или отрицательное.

источник: Jurafsky et al., 2018

Эта задача решается с помощью так называемого наивного байесовского классификатора , который использует частоты слов в пакете слов каждого класса для вычисления вероятности каждого класса c , а также условная вероятность каждого слова данного класса, следующим образом.

В нашем примере отрицательный класс имеет вероятность 3/5. Положительный класс будет иметь вероятность 2/5. Немного алгебры покажет, что вероятность появления слов «предсказуемо», «с», «нет» и «весело» для отрицательного класса выше, чем выборочная вероятность для положительного класса. Поэтому предложение «предсказуемо без веселья» будет классифицировано как отрицательное на основании данных обучения.

В языковых моделях мешков слова используется термин частота TF, определяемый как число раз, которое слово встречается в данном тексте или документе.Мешок слов помогает в анализе настроений. Он отлично подходит для определения языка, на котором написан текст. Он также используется для определения авторства, такого как пол и возраст. Мы также можем использовать термин «информация о частоте» для обозначения дополнительных функций, таких как количество слов в положительном лексиконе («отличный», «хороший», «приятный») или количество первых и вторых местоимений («я», «я»). , «Вы») и обучать более сложные классификаторы на основе логистической регрессии и даже нейронных сетей. Но давайте пока не будем так болеть.

Несмотря на славу, сами по себе модели N-граммы и мешка слов не позволяют нам делать полезные выводы, которые помогут нам решить связанные со смыслом задачи, такие как ответы на вопросы, обобщение и диалог. Вот почему мы рассмотрим семантику в следующем разделе.

Как мы должны представлять значение слова? Слово «мышь» можно найти в лексическом словаре, но его форма множественного числа «мыши» не будет описываться отдельно. Аналогично «петь», как будут описаны леммы для «петь», «петь», «спет», но его напряженные формы не будут.Как мы можем сказать компьютеру, что все эти слова означают одно и то же? Слово «растение» может иметь различное значение в зависимости от контекста (например, «Тесла строит новые растения», «Изменение климата отрицательно влияет на растения»). Векторная семантика в настоящее время является лучшим подходом к построению вычислительной модели, которая успешно работает с различными аспектами значения слова, включая смыслы, гипоним, гиперним, антоним, синоним, омоним, сходство, родство, лексические поля, лексические рамки, коннотацию.Приносим свои извинения за языковой жаргон. Давайте построим интуицию вокруг векторной семантики, взглянув на концепцию и контекст .

В нашем примере предложения «Тесла строит новые растения», если мы посчитаем слова в контексте слова «растение» во многих других предложениях, написанных людьми, мы будем склонны видеть такие слова, как «строить», «машина». »,« Рабочий »и даже« Тесла ». Тот факт, что эти слова и другие подобные контекстные слова также встречаются вокруг слова «фабрика», может помочь нам обнаружить сходство между «растением» и «фабрикой».В этом случае мы не будем склонны придавать значение «овощ» слову «растение» в нашем предложении «Тесла строит новые растения». Мы скорее будем думать, что Тесла строит новые заводы.

Поэтому мы можем определить слово, посчитав, какие другие слова встречаются в его окружении, и мы можем представить слово вектором, списком чисел, точкой в ​​N-мерном пространстве. Такое представление обычно называется встраиванием . Компьютер может использовать этот обман, чтобы понять значение слов в их контексте.

Представление Word-документа

Чтобы лучше понять векторную семантику, давайте предположим, что у нас есть набор текстов (документов), и мы хотим найти документы, которые похожи друг на друга. Эта задача актуальна для поиска информации, например, в поисковых системах, где документы являются веб-страницами. В качестве иллюстрации каждый столбец в таблице ниже представляет один из 4 документов со следующими заголовками: «Как вам это понравится», «Двенадцатая ночь», «Юлий Цезарь» и «Генрих V».Слова, которые появляются в документах, представлены в виде строк. Эти слова создают наш словарный запас. Из таблицы видно, что слово «битва» встречается 7 раз в документе «Юлий Цезарь». Эта таблица также называется матричным документом-термином , где каждая строка представляет слово в словаре, а каждый столбец представляет документ, раздел, абзац, твит, SMS, электронное письмо или что-либо еще.

источник: Jurafsky et al., 2018

Теперь мы можем представить каждый документ вектором документа , e.грамм. [7 62 1 2] для «Юлия Цекара». Мы можем даже нарисовать такие векторы в двумерном векторном пространстве для любой пары слов. Ниже приведен пример такого графика. Мы видим пространственную визуализацию векторов документа пространства, построенного по измерениям «дурак» и «битва». Можно сделать вывод, что документы «Генрих V» и «Юлий Цезарь» имеют схожее содержание, которое больше связано с «битвой», чем с «дураком». Для извлечения информации мы также представим запрос вектором документа, также длиной 4, показывающим, как часто в запросе встречаются слова «битва», «добро», «дурак» и «остроумие».Результаты поиска будут получены путем сравнения вектора запроса со всеми четырьмя векторами документов, чтобы определить, насколько они похожи.

источник: Jurafsky et al., 2018

Представление слова в слове

Посмотрев строки матрицы термина-документа, мы можем извлечь векторы слов вместо векторов столбцов. Как мы увидели, что похожие документы имеют тенденцию иметь похожие слова, похожие слова имеют похожие векторы, потому что они, как правило, встречаются в похожих документах. Если мы теперь используем слова в качестве столбцов матрицы термина-документа, вместо документов, мы получаем так называемую матрицу слова-слова , матрицу термина-термина , также называемую матрицей контекста .Каждая ячейка описывает количество раз, когда слово строки (цели) и слова столбца (контекста) совместно встречаются в некотором контексте в некотором корпусе обучения. Простой случай, когда контекст является документом, поэтому в ячейке будет указано, как часто два слова появляются в одном документе. Более частый случай состоит в том, чтобы подсчитать, как часто слово столбца появляется в окне слов вокруг слова строки. В приведенном ниже примере «данные» появляются 6 раз в контексте «информации», когда рассматривается окно из 7 слов вокруг «информации».

источник: Jurafsky et al., 2018

Приведенная выше матрица предполагает, что «абрикос» и «ананас» похожи друг на друга, потому что «щепотка» и «сахар» имеют тенденцию появляться в их контексте. Сходство между двумя словами v и w может быть точно вычислено с использованием их соответствующих векторов слов путем вычисления так называемого косинусного сходства , определенного следующим образом:

В приведенном ниже примере сходство между «цифровым» и «цифровым» «Информация» равна косинусному подобию между векторами слов [0 1 2] и [1 6 1].Применяя приведенную выше формулу, мы получаем 0,58, что выше косинусного сходства 0,16 между «абрикосом» и «информацией».

Векторы слов и косинусоподобие являются мощным инструментом в работе с содержанием на естественном языке. Однако есть ситуации, когда они не так хорошо тренируются, как мы увидим в следующем разделе.

Модель языка TF-IDF

Векторные семантические модели используют необработанную частоту совместного вхождения двух слов. На естественном языке грубая частота очень искажена и не очень различима.Как показано на гистограмме ниже, слово «the» является просто частым словом и имеет примерно эквивалентные высокие частоты в каждом из документов или контекстов.

Есть несколько способов решения этой проблемы. Алгоритм TF-IDF на сегодняшний день является доминирующим способом взвешивания матриц совместного использования при обработке естественного языка, особенно при поиске информации. Вес TF-IDF вычисляется как произведение частоты термина и частоты обратного документа. Это помогает нам придавать значение более разборчивым словам.Два компонента, используемые для расчета веса TF-IDF для каждого члена t в нашем документе d , описаны ниже.

Частота термина

Частота слова или слова рассчитывается как число раз, когда слово появляется в документе. Поскольку слово, встречающееся в документе 100 раз, не повышает вероятность того, что это слово в 100 раз будет иметь отношение к смыслу документа, мы используем натуральный логарифм, чтобы немного снизить частоту необработанного текста. Слова, встречающиеся в документе 10 раз, имели бы tf = 2.Слова, встречающиеся в документе 100 раз, означают, что tf = 3, 1000 раз означают tf = 4 и т. Д. частота обратных документов — это отношение общего количества документов к частоте документов. Это придает больший вес словам, встречающимся только в нескольких документах. Из-за большого количества документов во многих коллекциях естественный логарифм обычно применяется к частоте обратных документов, чтобы избежать перекоса распределения IDF.

Ниже с левой стороны изображения мы видим TF и ​​IDF, рассчитанные для слов из нашего примера, представленного ранее. В правой части изображения мы показываем необработанную частоту каждого слова в данном документе, а также взвешенное значение TF-IDF в нижней таблице. Поскольку слово «хорошо» встречается с высокой частотой во всех документах, его значение TF-IDF обнуляется. Это позволяет уделять больше внимания различающему слову «битва», которое изначально имеет очень низкую частоту.

источник: Jurafsky et al., 2018

Несмотря на то, что модели Bag-of-word, дополненные TF-IDF, являются отличными моделями, в них есть семантические нюансы, которые они не могут уловить. Покажем это на следующих предложениях: «Кот сидел на сломанной стене » и «Собака перепрыгнула через кирпичную конструкцию » . Хотя оба предложения представляют два отдельных события, их смысловые значения похожи друг на друга. Собака похожа на кошку , потому что они разделяют сущность под названием животное. Стена может рассматриваться как аналог конструкции из кирпича . Поэтому, хотя предложения обсуждают разные события, они семантически связаны друг с другом. В классической модели мешка слов (где слова были закодированы в их собственных измерениях), кодирование такого семантического сходства невозможно. Кроме того, такие модели демонстрируют немного вычислительных проблем, когда используется большой словарный запас и векторы слов становятся больше. Мы представляем лучший подход в следующем разделе.

Представление слов или документов редкими и длинными векторами практически неэффективно. Эти векторы обычно разрежены, потому что многие позиции заполнены нулевыми значениями. Они длинные, потому что их размерность равна размеру словарного запаса или размеру коллекции документов.

Что такое вложение слов?

В отличие от разреженных векторов, плотных векторов могут быть более успешно включены как функции во многие системы машинного обучения. Плотные векторы также подразумевают меньшее количество параметров для оценки.В предыдущем разделе мы увидели, как вычислить значения tf и tf-idf для любого данного слова в нашем корпусе. Если вместо подсчета того, как часто каждое слово w встречается в контексте другого слова v , мы вместо этого обучаем классификатор задаче двоичного предсказания «Вероятно ли слово w появляться около v ?», То мы можем использовать изученные веса классификатора как вложений слов . Они становятся непрерывными векторными представлениями слов.Если мы хотим вычислить некоторое семантическое сходство между словами, мы можем сделать это, посмотрев на угол между двумя вложениями, т.е. их косинусное сходство, как мы видели ранее.

Как мы вычисляем вложения слов?

Векторы вложения обычно имеют длину по меньшей мере около 100-мерной длины, чтобы быть эффективными, что означает, что существует более десятков миллионов чисел, которые необходимо настроить классификатору, когда у нас есть словарь на 100 000 слов. Как мы определяем эти вложения для данного корпуса? Это именно то, для чего предназначена модель языка word2vec.

Word2vec доступен в двух вариантах: модель CBOW и модель скип-грамм (предложено Миколовым и др., 2013, в Google (снова!)). В варианте с пропуском грамматики слова контекста предсказываются с использованием целевого слова, тогда как вариант, в котором слово цели прогнозируется с использованием окружающих слов, представляет собой модель CBOW. Обычно люди используют реализацию word2vec и предварительно обученные вложения в больших корпусах.

Теперь мы разработаем интуицию, стоящую за вариантом скип-граммы модели word2vec.Давайте предположим следующее предложение, где «абрикос» — целевое слово, а «столовая ложка», «из», «джем» и «а» — его контекстные слова при рассмотрении окна из 2 слов.

Мы можем построить двоичный классификатор, который принимает любую пару слов (t, c) в качестве входных данных и прогнозирует True , если c является реальным контекстным словом для t и False в другом месте. Например, классификатор вернет True для (абрикос, столовая ложка) и False для (абрикос, щепотка). Ниже мы видим больше примеров из положительных и отрицательных классов при рассмотрении абрикосов в качестве цели.

Сделав еще один шаг, мы должны разделить каждую пару (контекстное окно, цель) на примеры (вход, выход), где вход — это цель, а выход — это одно из слов из контекста. В целях иллюстрации пара ([из, абрикос, щепотка], джем) создаст положительный пример (джем, абрикос), , потому что абрикос является реальным контекстным словом джема . (варенье, лимон) будет отрицательным примером. Мы продолжаем применять эту операцию к каждой паре (контекстное окно, цель) для построения нашего набора данных. Наконец, мы заменяем каждое слово его уникальным индексом из словаря, чтобы работать с одноразовыми векторными представлениями.

Учитывая набор положительных и отрицательных обучающих примеров и начальный набор из
вложений Вт, для целей и С для контекстных слов, цель классификатора состоит в том, чтобы настроить эти внедрения так, чтобы мы максимизировали сходство (точка произведение) вложений положительных примеров, и мы минимизируем сходство вложений отрицательных примеров.Обычно логистическая регрессия решает эту задачу. В качестве альтернативы используется нейронная сеть с softmax. Обучение

d-мерным встраиваниям в словарь V-размера — источник: Jurafsky et al., 2018

Почему нам нравится Word2vec?

Удивительно, но вложения Word2vec позволяют исследовать интересные математические отношения между словами. Например, если мы вычтем вектор для слова «мужчина» из вектора для слова «король», а затем добавим к результирующему вектору вектор для работы «женщина», мы получим вектор для слова «королева».

источник: Z. Djordjevic, Harvard

Мы также можем использовать поэлементное добавление векторных элементов для задания таких вопросов, как «German + Airlines», и, посмотрев на ближайшие токены к составному вектору, получим впечатляющие ответы, как показано ниже.

источник: З. Джорджевич, Гарвард

Векторы Word2vec должны иметь сходную структуру при обучении на сопоставимых корпусах на разных языках, что позволяет нам выполнять машинный перевод.

источник: Z. Djordjevic, Harvard

Вложения также используются, чтобы найти самые близкие слова для указанного пользователем слова.Они также могут обнаружить гендерные отношения и множественные числа в единственном числе между словами. Векторы слов также могут быть использованы для получения классов слов из огромных наборов данных, например, выполняя кластеризацию K-средних поверх векторов слова.

В этом разделе мы говорили о вариантах Word2vec CBOW и Skip gram, которые являются методами локального контекстного окна. Они хорошо работают с небольшими объемами обучающих данных и представляют даже слова, которые считаются редкими. Однако они не в полной мере используют глобальную статистическую информацию, касающуюся совпадений слов.Поэтому давайте рассмотрим другой подход, который претендует на решение этой проблемы.

GloVe (глобальные векторы) использует иной подход, чем Word2vec. Вместо того, чтобы извлекать вложения из нейронной сети или логистической регрессии, которая предназначена для выполнения задачи классификации (прогнозирования соседних слов), GloVe оптимизирует вложения напрямую, так что скалярное произведение двух векторов слов равно логу числа раз два слова будут появляться рядом (например, в окне из 2 слов).Это заставляет векторы внедрения кодировать частотное распределение слов, которые встречаются рядом с ними. Мы подумали, что некоторые читатели могли пропустить код Python в этой статье. Отныне мы сделаем их немного счастливее.

Ниже мы покажем, как использовать вложения слов из предварительно обученной модели GloVe. Мы используем пакет Python Gensim.

Прелесть вложений (векторов слов) в том, что вам не нужно реализовывать какой-либо алгоритм Пропускания грамм или создавать большую коллекцию текста и самостоятельно вычислять весовые коэффициенты.Вы можете использовать векторы, которые щедрые люди уже подготовили для публики, используя очень большие корпуса и тонны графических процессоров. Мы будем использовать предварительно обученные векторы слов glove.6B , которые были обучены на корпусе из 6 миллиардов токенов и содержат словарь из 400 тысяч слов, полученных из различных массивных веб-наборов данных (среди прочего, Википедия). Каждое слово представлено вектором вложения 50, 100, 200 или 300-мерности соответственно. Мы будем использовать 100-мерные векторы, которые хранятся в одном файле.Первым шагом является преобразование формата файла GloVe в формат файла word2vec. Разница лишь в добавлении маленькой строки заголовка. Это можно сделать, вызвав функцию glove2word2vec (). Каждая строка начинается со слова, за которым следуют все значения соответствующего вектора для этого слова, каждое из которых разделено пробелом, как вы можете видеть на изображении ниже для слова «the».

Как мы объясняли в предыдущем разделе, эти действительные векторы слов оказались полезными для всех видов задач обработки естественного языка, включая синтаксический анализ, распознавание именованных объектов и машинный перевод.Например, мы находим, что утверждения, подобные следующему, относятся к связанным векторам слов:

король — мужчина + женщина — королева

То есть слово «королева» — самое близкое слово с учетом вычитания понятия «мужчина» от «короля» и добавив слово «женщина». «Мужественность» в «короле» заменяется на «женственность», чтобы дать нам «королеву». Такая базовая алгебра по векторам позволяет делать забавные семантические рассуждения.

 >>> result = model.most_simil (положительный = ['woman', 'king'], 
отрицательный = ['man'],
topn = 1)
>>> print (result) [('queen' 07698541283607483)]

Используя аналогичный гаджет встраивания слов, мы даже можем спросить, какое слово означает «Россия», как «Париж» означает «Франция»?

 >>> результат = model.most_simil (положительный = ['Россия', 'Париж'], 
отрицательный = ['Франция'],
topn = 1)
>>> print (result) [('moscow' , 0.8845715522766113)]

Почему это так хорошо работает? Давайте подробнее рассмотрим вложения для четырех слов «россия», «москва», «франция», «париж». Мы можем проецировать векторы из 100 слов в двумерное пространство, используя первые 2 компонента

.
Классификация естественного языка с использованием глубокого обучения и Word2Vec | Mathéo Daly

Для этого шага убедитесь, что папка, содержащая ваши отзывы, находится в той же папке , что и ноутбук.

Я использовал данные обзоры фильмов, которые можно найти здесь: Обзоры фильмов. Я взял «набор данных полярности предложения v1.0». Я взял «набор данных полярности предложения v1.0». Я выбрал их, потому что я могу сравнить свои результаты с работой «Сверточные нейронные сети для классификации предложений» (Yoon Kim, 2014).Эта статья имеет преимущество в представлении нейронной сети для этого набора данных, но она сравнивает свой результат с другими алгоритмами в таблице 2, что действительно интересно, потому что у нас есть много алгоритмов из другой статьи для сравнения наших результатов.

Извлеките файл, который вы скачали по ссылке.
Хорошо, в общем, теперь у нас есть одна папка с именем «rt-polaritydata» и два файла в ней с именами «rt-polarity.neg» и «rt-polarity.pos» (соответственно ,, отрицательные отзывы и положительные отзывы). Наша работа здесь будет заключаться в том, чтобы помещать все данные в фреймы данных панд для их анализа. Начните конвертировать их в файлы CSV.

Теперь мы создаем «метки» наших данных, 1 означает положительный отзыв, а 0 — отрицательный.

Теперь результат должен быть следующим:

Рисунок 1: Наш Dataframe с текстом обзора и его меткой

Хорошо, это выглядит здорово! Теперь у нас есть все отзывы в нашем фрейме данных pandas, называемые «отзывы», с определенным ярлыком (1 для положительного отзыва, 0 для отрицательного отзыва).

Word2Vec — хорошая модель нейронных сетей, используемых для встраивания слов. Он используется главным образом для того, чтобы иметь контекст подобия слов. Мы будем обучать модель на наших данных, чтобы иметь расстояние между всеми нашими словами, чтобы увидеть, какие из них семантически близки друг к другу. Есть и другие модели, но я выбрал эту по двум причинам:

  1. Это модель, которую Юн Ким использовал в своей статье
  2. Это модель, разработанная Google, кажется, она полностью рекомендуется, документацию легко найти, и Эта статья: Эффективная оценка представлений слов в векторном пространстве (Миколов и др., 2013) хорошо объясняет весь процесс.

Теперь ваш фрейм данных должен выглядеть примерно так:

Рисунок 2: Фрейм данных с токенами

Для обучения важно, чтобы каждый обзор был представлен в виде списка слов, как в столбце «токены».

Во-первых, вам нужно скачать набор данных здесь: Google News Dataset.
Затем извлеките его в свою папку. Я извлекаю его в подпапку с именем «модель»

Это так просто! Теперь у вас есть модель «w2v_model» , которая обучена и содержит каждое слово в наборе данных, представленное как векторы.

Вы также можете обучить модель на ваших личных данных. Однако я не рекомендую эту технику для небольших документов, потому что Word2Vec не сможет правильно отразить контекст ваших слов, и он не даст удовлетворительного результата. Я проверил это на своих данных для этой статьи, и результаты были заметно лучше с предварительно обученным Google Word2Vec. Для другого набора данных со средним значением 200 слов на документы он был более надежным и в некоторых случаях показывал даже лучший результат, чем предварительно обученная модель.

Мы разделим работу на 3 этапа.

  1. Word2Vec () . Инициализируйте модель со всеми ее параметрами
  2. .build_vocab () Составьте словарь из последовательности предложений
  3. .train () Мы обучаем нашу модель

Теперь мы можем проверить нашу модель с несколькими словами, чтобы увидеть какие из них имеют наибольшее сходство с ними.
Мы проверяем его с помощью:

  1. фильма
  2. художественной литературы
  3. хорошо

Для слова «хорошо» у меня есть эти результаты

Рисунок 3: Слова, которые наиболее похожи на «хорошо»

Эти результаты получены с предварительно обученный набор новостей Google.

Мы видим, однако, что модель не идеальна и не отражает семантику слов, потому что у нас [отлично, плохо, потрясающе, достойно]. Это может быть проблемой, потому что хорошее «семантически» здесь близко к плохому. Действительно, их можно использовать в одном контексте, но их значение не одинаково.

Выше приведен график из 10 000 слов нашего набора данных. Те, кто семантически близки, находятся рядом на карте. Я использовал bokeh, чтобы сделать карту динамичной, мы можем взаимодействовать с ней, и вы можете навести курсор мыши на точку, чтобы увидеть слово, которое ей соответствует.
Теперь мы можем ясно видеть отношения между всеми словами, и какие из них являются близкими или отдаленными.

Рисунок 4: Боке-диаграмма из 10000 слов нашего набора данных

Теперь, когда у нас есть наш фрейм данных, нам нужно разделить наши данные на обучающую переменную и тестовую переменную. В ходе обучения наш алгоритм изучит его параметры, а в ходе тестирования мы проверим их.
Мы разделяем обучение и тестирование, чтобы увидеть, нет ли проблем с переобучением , что часто встречается в области глубокого обучения.Это означает, что наша модель имеет отличные результаты с данными, с которыми она ознакомилась, но у нее есть проблема с обобщением, и она будет иметь плохие результаты для других наборов данных, и это , явно не цель .

То, что мы делаем здесь, это использование TfidfVectorizer от sklearn . Эта функция отражает силу слова в документе.
Мы используем строку tfidf = dict (zip (vectorizer.get_feature_names (), vectorizer.idf_)) , чтобы поместить все слова в вектор с именем tfidf , как вы можете видеть чуть выше, если вы выполните его.
Это был совет, который я нашел в этом удивительном блоге Ахмеда БЕСБЕСА. Это действительно интересно и заслуживает прочтения.

Теперь просто для забавы и для наглядности я использовал WordCloud, чтобы изобразить 100 самых важных слов из нашего словаря. Мы можем видеть такие слова, как play, movie, scene и story , которые, очевидно, важны для набора данных о кинокритиках.
Я использовал другой блог Ахмеда БЕСБЕСА, чтобы использовать эту библиотеку.

Рисунок 5: Самые «важные» слова в нашем корпусе

Теперь мы создадим функцию, которая будет вычислять «среднее» для данного критика.Наш w2v_model дал нам, какие слова близки друг к другу, поэтому для каждого из них мы умножаем их на их значение в «словаре»: w2v_model [word] .reshape ((1, size)) * tfidf [word] ,
Примечание: мы используем функцию изменения формы, потому что мы делаем это для каждого текста нашего корпуса, так как у нас есть, например, 8529 текстов в X_train , если мы применим эту функцию к ней, у нас будет двумерная матрица формы (8529,300).

  1. 8529 обозначает количество текстов в нашем корпусе.
  2. 300 обозначает размер вектора, созданного Word2Vec.

И это все, теперь мы делим это на количество наблюдений, и нам приятно иметь среднее значение всего этого.

Исчисление может быть возобновлено следующим образом:

Рис. 6: Формула среднего значения слов по степени их смешения с их Tf-idf

Где:

  1. n — количество слов в тексте
  2. Wi это вектор Word2Vec размера 300 для заданного слова i
  3. Ti это значение tfidf для заданного слова i

Теперь мы применим эту функцию к нашим данным.
Как я уже сказал, buildWordVector имеет два аргумента, токены и размер. Размер равен 300, поскольку из-за модели word2vec мы получили форму 300. Для токенов она будет увеличиваться в цикле, чтобы охватить все 8529 текстов нашего учебного корпуса и 2133 нашего тестового корпуса.

Первая нейронная сеть — это просто простая искусственная нейронная сеть с двумя плотными слоями и выпадением 0,7, чтобы избежать переобучения. Для этого мы берем средние векторы каждого слова в данном обзоре в качестве входных данных.

Вот характеристики этого простого классификатора.

  • Количество плотных слоев: 2
  • Функция активации: relu и sigmoid для последнего плотного слоя
  • Выпадение: 0,7
  • Оптимизатор: Adadelta
  • Потери: Binary Cross
Рисунок 7: сводка классификатора

Теперь мы обучаем нашу нейронную сеть нашим тренировочным данным с размером пакета batch 50 и 20 эпохами.
Делать больше эпох не похоже на изменение точности. Может быть полезно выполнить поиск по сетке с другим размером batch_size и количеством эпох, чтобы увидеть лучшие параметры.

Наконец, мы строим историю обучения, чтобы увидеть эволюцию и сравнить прогнозы обучения и теста

Рисунок 8: точность и потеря для первого классификатора

В конце мы имеем точность обучения 0,8342 и тест точность 0,7286. Это не плохо, и важно отметить, что у нас не так много переоснащения.

CNN в основном используется для классификации изображений, поскольку он может распознавать шаблоны по их картам фильтров. Но в 2014 году, когда Юн Ким опубликовал свою статью, он показал, что они могут быть полезны и для классификации текста. На самом деле эта идея не совсем сумасшедшая, потому что предложения также имеют шаблоны.

Сначала мы пытаемся найти все параметры для построения нашей нейронной сети. Это будет CNN, но вместо того, чтобы давать ему среднее значение всех слов вектор в предложении, мы дадим ему все векторы слов в данном предложении.
Кроме того, структура немного меняется, с большим количеством нейронов в каждом слое.

Рисунок 9: структура нашей CNN

Наша нейронная сеть такая же, как и та, что была построена Yoon Kim (2014), которую я описал выше.

  • Количество сверточных слоев: 3
  • Количество плотных слоев: 2
  • Количество карт характеристик: 128 на сверточность
  • Функция активации: relu и сигмоид для последнего плотного слоя
  • Размер фильтра: 3, 4 и 5
  • Выпадение: 0.5
  • Оптимизатор: Adadelta
  • Потеря: Бинарная перекрестная энтропия

Есть несколько различий между этим CNN и тем, который использовал Юн Ким:
1. У него только 1 плотный слой
2. Он никогда не использовал sigmoid
3. Он использовал 100 карт функций на свертку вместо 128

. Однако с этими небольшими изменениями у меня были лучшие результаты, поэтому я сохранил их в таком виде.

Чтобы построить его, нам понадобятся некоторые параметры, размер вложения (размер вектора word2vec), максимальный размер словаря (сколько у нас уникальных слов) и максимальная длина последовательности (максимум слов в обзоре).
Приведенный ниже код дает вам все эти параметры, если вы тестируете его с другим набором данных, просто измените три переменные с результатом этого кода:

Теперь мы создадим входные данные поезда и теста, которые мы будем использовать в нашем CNN. Для каждого документа, который содержит меньше, чем максимум слов, мы заполняем их «0». Это не меняет наши результаты, потому что CNN распознает шаблоны, и шаблон будет таким же, как в определенный момент или в другой. Например, для изображения это означает, что если изображение меньше других, мы добавим к нему черные рамки.Это не изменит изображение.

Результат сводки должен быть следующим:

Рисунок 10: Сводка CNN

И давайте пойдем на тренировку из 10 эпох и снова с размером партии 50!

Рисунок 11: Точность и потери для CNN

В конце 10 эпох у нас есть точность для тренировочного набора 0,915 и 0,7768 для тестового набора. У нас есть небольшое переоснащение, и потеря проверки довольно нестабильна, но результаты здесь. Я тренировал это с большим количеством эпох, но это, кажется, лучшее, что мы могли бы иметь.

Мы можем ясно видеть, что CNN лучше для этой задачи, и с моими другими фреймами данных у меня лично были те же результаты.
Но он все еще имеет неудобства, он намного глубже, имеет гораздо больше параметров и требует больше времени для обучения. Для этого небольшого набора данных разница не так уж важна, но мне пришлось обучить ее на основе данных для моей работы, и простой классификатор занял 13 минут, когда CNN занял 5 часов! Так что вам решать, какой из них вы хотите использовать.
Эти два классификатора все еще показывают некоторые хорошие результаты, и я заметил, что чем больше у них данных и чем важнее длина документа, тем они лучше.Для набора данных из 70 000 данных и максимальной длины документа 2387 моя точность теста составила 0,9829, так что это довольно обнадеживает!

У меня есть две основные идеи, чтобы попытаться добиться лучших результатов. Во-первых, с помощью первого классификатора мы могли бы использовать другую более сложную нейронную сеть, такую ​​как рекуррентная нейронная сеть (CA-RNN: использование рекуррентных нейронных сетей с выравниванием по контексту для моделирования сходства предложений (Chen, Hu & al., 2018).), или Сеть внимания, которая начинает использоваться сейчас (Иерархические сети внимания для классификации документов (Yang & al., 2016)).
Вторая идея для встраивания слова, в 2018 году Google показала новую модель под названием BERT (BERT: предварительная подготовка глубоких двунаправленных преобразователей для понимания языка (Devlin, Chang & al., 2018)), которые имеют преимущество в использовании сегментации токенов. Например, если в наших данных есть слово «археолог», оно может запомнить «археологию», а когда появится слово «археология», оно будет знать, что оно связано с археологом, где word2Vec просто игнорирует слово, которого нет знать.



Отправить ответ

avatar
  Подписаться  
Уведомление о