Южная Корея приняла первый в мире комплексный свод законов, регулирующий разработку и использование искусственного интеллекта. Документ вступит в силу в 2027 году и установит единые стандарты для создания, тестирования и внедрения ИИ-систем, включая обязательную маркировку контента, сгенерированного алгоритмами.

Контроль человека и требования к прозрачности

Одним из ключевых положений закона стало требование о сохранении человеческого контроля в критически важных отраслях. К ним отнесены ядерная безопасность, системы водоснабжения, транспорт, здравоохранение, а также финансовые сервисы — в том числе оценка кредитоспособности и рассмотрение заявок на кредиты.

Кроме того, компании будут обязаны заранее информировать пользователей о том, что в продукте или услуге используется высокоэффективный либо генеративный ИИ. Отдельное внимание уделяется результатам работы алгоритмов, которые трудно отличить от реальности: такие материалы должны быть чётко и однозначно маркированы.

Переходный период и санкции

Закон предусматривает для бизнеса переходный период продолжительностью не менее одного года, в течение которого штрафные санкции применяться не будут. По его завершении за нарушения требований предусмотрены значительные штрафы. Так, отсутствие маркировки контента, созданного с помощью генеративного ИИ, может обойтись компании в 30 млн вон (около 20,4 тыс. долларов).

При этом размеры санкций в Южной Корее заметно ниже, чем в Евросоюзе. В рамках европейского регулирования штрафы могут достигать от 1% мирового оборота за незначительные нарушения до 7% — за несоблюдение запретов на использование высокорисковых ИИ-систем.

Принципы безопасности и надзор

Закон также закрепляет четыре базовых принципа безопасного развития искусственного интеллекта: ответственность разработчиков и операторов, прозрачность алгоритмов, защиту прав человека и технологическую устойчивость. Для контроля за соблюдением новых правил власти Южной Кореи планируют создать специальный государственный орган.

Принятие закона отражает стремление страны не только минимизировать риски, связанные с быстрым развитием ИИ, но и сформировать предсказуемую регуляторную среду для бизнеса и разработчиков технологий.