Burstiness и Perplexity — удивительные и плавные тексты

Задумайтесь: писать — это действительно здорово. Мы берём свои мысли и идеи и облекаем их в слова, чтобы другие люди могли понять, что мы имеем в виду. Но даже в этих словах не всё всегда бывает прямолинейным. Некоторые фрагменты оказываются сложными и неожиданными.

скачкообразность

Если задуматься, писать действительно здорово. Это наш способ делиться мыслями и идеями, превращая их в слова, чтобы другие могли понять, что мы хотим сказать. Однако использование языка имеет свои особенности и неожиданности. Так что возникает вопрос: могут ли машины научиться справляться с этими языковыми нюансами?

Да, могут. Обычно, когда люди говорят о сложных особенностях письма — например, о его неожиданности или сложности, — они подробно разбирают математические формулы и трудные для понимания теории. Но здесь я объясню всё просто. Так вы сможете улучшить навыки письма, не погружаясь в числа и чрезмерно подробный анализ.

О словах и частоте их использования

По сути, речь идёт о том, какие слова мы используем и как часто. Для тех, кто пишет тексты или создаёт контент, результат может быть слишком предсказуемым. Кроме того, иногда выбранные слова появляются группами, или «всплесками». Давайте внимательнее рассмотрим оба аспекта.

Что такое перплексия?

Это математическая формула, используемая для расчёта перплексии.

перплексия

Эта формула помогает определить, насколько легко угадать следующее слово, которое вы прочитаете. Представьте, что вы читаете рассказ и пытаетесь угадать следующее слово. Если угадать легко, значение формулы будет низким — значит, текст несложно предсказать. Если угадать трудно, значение будет высоким, то есть текст окажется более непредсказуемым.

Что это значит для вашего текста? Если слишком легко угадать, что будет дальше, он может показаться скучным. Но если угадать продолжение слишком трудно, текст может запутать читателя и усложнить восприятие. Главное — найти золотую середину, чтобы сохранить интерес читателей и помочь им понять вашу мысль.

Что такое скачкообразность?

Иногда мы, авторы, слишком часто используем одни и те же слова. Представьте, что вы пишете рассказ о праздновании дня рождения. В начале, описывая обстановку, вы можете часто повторять слово «торт». Но после того как вы его описали, скорее всего, будете упоминать «торт» гораздо реже. Это и называется скачкообразностью.

Когда в рассказе появляются новые персонажи, их имена сначала часто повторяются. Но ближе к концу — уже не так часто. Почему? Потому что к этому моменту читатель хорошо их знает. Это и называется скачкообразностью.

Почему это особенно важно для тех, кто пишет тексты? Более частое использование слов в отдельных частях рассказа может менять то, на что обращают внимание читатели. Некоторые авторы активно используют этот приём — он становится их отличительной чертой. А повторение слов помогает подчеркнуть главную мысль. Как и в головоломках, правильный баланс играет важную роль в создании качественного текста.

Как связаны запутанность и резкие изменения? 

Непредсказуемость и резкие изменения могут казаться совершенно разными явлениями, но на самом деле они связаны. Если в тексте много резких изменений, предсказать следующее слово становится сложнее, поскольку текст менее однороден. В одних текстах или статьях таких изменений может быть больше, чем в других. Во многом это зависит от индивидуального стиля автора. 

По мере развития AI и появления инструментов, способных понимать тонкости человеческой речи, включая непредсказуемость и резкие изменения, эти инструменты будут делать больше, чем просто проверять грамматику и орфографию. Вскоре они смогут помогать авторам определять, не слишком ли предсказуем их текст, и подсказывать, где добавить больше неожиданности. Благодаря этому авторы смогут делать свои работы интереснее, разнообразить стиль и экспериментировать с предсказуемостью текста.

Как это влияет на ваш текст? 

Почти в любом тексте важно добавлять всплески необычной лексики. Представьте, что в любовном романе появляются военные термины. Это подсказывает читателю, что впереди конфликт или серьёзная проблема. В некоторых видах текстов необычные слова встречаются чаще, чем в других. Например, в научных и учебных материалах время от времени появляются специальные термины, создавая характерные всплески необычной лексики. Иногда авторы намеренно используют много таких слов.

Хороший пример — речь Мартина Лютера Кинга-младшего «У меня есть мечта». Он снова и снова повторяет некоторые слова, чтобы усилить свои идеи и сделать их более запоминающимися. В ваших текстах изменение частоты таких лексических всплесков может сделать содержание интереснее. Это поможет дольше удерживать внимание читателей.

Зачем нужны математика и предсказание слов при обучении AI?

Зачем вообще нужны математические расчёты и предсказание или группировка слов? Почему это важно? Эти методы помогают обучать AI и такие инструменты, как Originality.ai, которые определяют тексты, созданные AI. При обучении понимать и создавать речь AI анализирует огромное количество текстов. Он пытается предсказать следующее слово на основе уже известных ему слов. В основе всего лежит распознавание закономерностей.

Показатель perplexity помогает оценить, насколько хорошо AI умеет предсказывать следующее слово. Если он часто угадывает правильно, perplexity низкая. Если же часто ошибается, perplexity высокая. Поэтому разработчики AI пробуют разные подходы, чтобы создать модель, которая лучше всего предсказывает слова. Они выбирают варианты с низкой perplexity, поскольку это означает, что модель работает лучше. 

Теперь поговорим о так называемой burstiness. Это распространённая особенность устной и письменной речи: например, когда в рассказе появляется новый персонаж и его имя начинает часто повторяться. AI должен понимать и воспроизводить такую манеру речи, чтобы хорошо справляться с текстами, особенно рассказами и романами.

Важно не допускать, чтобы AI слишком часто использовал одни и те же слова или постоянно выражал мысли одинаково. Текст должен звучать естественно и легко для восприятия — насколько это возможно. Поэтому разработчикам AI нужно разнообразить его речь, как это делают авторы-люди. Также необходимо обучать AI на самых разных типах текстов, а не только на одном жанре или виде историй. Это помогает ему осваивать разные способы письма.

Почему это важно? 

Есть две основные причины, по которым мы обучаем AI и создаём системы обнаружения AI-текстов: 

Во-первых, разработчики хотят, чтобы AI хорошо общался с людьми. Для этого его речь должна звучать максимально естественно. Чтобы добиться этого, разработчикам необходимо управлять степенью сложности и неожиданности речи AI. Благодаря этому его тексты становятся больше похожи на человеческую речь.

Чем больше мы узнаём о качестве работы AI, тем лучше разработчики могут совершенствовать его в будущем. Не существует единственного способа сделать AI идеальным для всех. Разработчики постоянно вносят изменения, чтобы AI писал и говорил всё больше похожим на нас образом. 

Коротко говоря, понимание того, насколько сложным или непредсказуемым может быть текст, действительно важно. Это необходимо не только для написания текстов, но и для улучшения AI в создании и обнаружении материалов, звучащих естественно. Настраивая процесс обучения AI и машин, разработчики добиваются более точного воспроизведения человеческой речи. Благодаря этому тексты AI звучат реалистичнее, а инструменты обнаружения AI-текстов работают эффективнее.

Русский