Российские власти задумались о необходимости маркировки контента, который создан с помощью нейросетей. Сегодня искусственный интеллект уже способен написать настолько грамотный текст, что это может ввести людей в заблуждение, а также повышает вероятность фишинговых атак, констатирует «Ъ-Review». Корреспонденты издания  разбирались, как может быть реализована такая маркировка и что она принесет как IT-индустрии, так и простым пользователям.

Старший исследователь данных в «Лаборатории Касперского» Дмитрий Аникин пояснил изданию, что сами по себе генеративные модели не плохие и не хорошие: важно то, как они применяются на практике. В частности, на них все чаще обращают внимание злоумышленники — например, для реализации скам-схем. «Развитие ИИ-технологий делает любой контент, созданный нейросетями, практически неотличимым от того, что делает человек. Это дает широкий простор для различных манипуляций, фейков и подлогов»,— отмечает и ведущий эксперт по сетевым угрозам и web-разработчик «Код безопасности» Константин Горбунов. — Если государство обяжет общественные ИИ-сервисы автоматически маркировать созданный нейросетями контент, пользователи будут понимать, что увиденная ими картинка или видео — ненастоящие».

Партнер Лиги цифровой экономики Александр Данилов указывает, что новый закон позволит создать определенные рамки и повысит уровень безопасности — маркировка контента от нейросетей будет информировать потребителя. Также она позволит урегулировать этические вопросы распространения контента с использованием визуальных образов или голосов известных личностей и сформирует ожидания у аудитории, для которой предназначается информация.

Единого мнения о том, как именно должна быть реализована маркировка контента от нейросетей, в экспертном сообществе пока нет, отмечает «Ъ-Review».

По мнению ведущего юриста Европейской юридической службы Юрия Ганзе, скорее всего, будут разработаны или применены уже существующие технологии, позволяющие наносить водяные знаки на контент, созданный либо измененный ИИ,— подобные технологии маркировки уже используются в Китае. «При этом не стоит забывать, что в российском законодательстве уже есть случаи маркировки информации, размещенной в интернете: к примеру, обязательной маркировке подлежит размещаемая там реклама»,— поясняет собеседник издания.

Контент, созданный нейросетями, может быть маркирован аналогичным способом, полагают эксперты. «Вероятно, что каждый контент будет маркироваться каким-либо знаком, а также ему будет присваиваться идентификатор соответствующим оператором»,— считает ведущий юрист Европейской юридической службы Олег Абраменков. Также эксперт не исключает, что на Роскомнадзор возложат функции регулятора распространения информации, созданной с помощью искусственного интеллекта, а также регистрации алгоритмов.

По мнению Олега Абраменкова, за нарушения маркировки ответственность будет наступать по аналогии с нарушением маркировки интернет-рекламы. По части 16 статьи 14.3 КоАП РФ за него предусмотрены штрафы в 30–100 тыс. руб. для граждан, в 100–200 тыс. руб.— для должностных лиц и в 200–500 тыс. руб.— для юрлиц.