Борис Агатов, независимый эксперт по инновациям в ритейле, футуролог, идеолог концепции «Магазин 4:0» — о том, чем опасны для ритейла тексты, написанные машиной.

— С ноября месяца, когда стала доступна технология GPT3 и другие генерационные речевые модели стала стираться грань между текстом, созданным машиной и человеком.

Тексты, сделанные машиной настолько хороши, что уже многие используя их стали издавать книги, полностью сгенерированные машиной, писать части диссертаций, я уж не говорю о различных новостях.

Внезапно остро стал вопрос, как отличить, что написала машина, а что человек. Приведу небольшие выдержки из статьи Technology Review Массачусетского инженерного института об этой проблеме.

Почему встала такая задача? Машина хорошо всё формулирует, но она не отвечает за качество контента, т.е. простыми словами это может быть красивая брехня. Тем не менее эта технология в этом году станет невероятным прорывом в ритейле, поэтому нужно знать и риски. Вас, к примеру, начнут бомбить ваши покупатели с претензиями выбивая скидки или возврат денег, а это будет GPT3. Всё очень серьёзно.

Маленький спойлер: отличить практически невозможно, но есть кое-что на что можно опереться.

1. Этот алгоритм — это статистический попугай, поэтому он будет искать для составления фраз часто употребляемые слова. Это должно вас насторожить, если нет редких слов, то значит машина.

2. Текст, написанный человеком, изобилует опечатками и крайне изменчив, включает в себя разные стили и сленг, в то время как языковые модели очень, очень редко допускают опечатки. Они гораздо лучше генерируют идеальные тексты. Если есть опечатки, то это человек.

Вот и всё, согласитесь негусто.

Проблема настолько остра, что стоит задача обязать помечать машинные тексты своего рода водяными знаками, чтобы все видели, что это текст от машины или добавить функцию обнаружения прямо в браузере.

Фото со страницы Бориса Агатова ВКонтакте