В министерстве науки и информационных технологий Южной Кореи заявили, что страна стала первой в мире, где на законодательном уровне начали регулировать работу ИИ. Помимо обязательной маркировки контента теперь работа нейросетей в критически важных областях должна будет напрямую контролироваться людьми. К ним были причислены ядерная безопасность, производство питьевой воды, транспорт, здравоохранение и финансовые услуги.
Компании получат годовой период на исполнение новых правил, после истечения которого будут налагаться административные штрафы.
— Страну захлестнула волна дискриминирующих дипфейк-видео, жертвами которых становились обычные женщины, и именно это стало триггером для ужесточения законодательства, — объяснил Metro основатель компании Sistemma и разработчик российского ИИ Сергей Зубарев. — Но главный вопрос всё же заключается не в том, как регулировать сам ИИ, алгоритмы и модели, а в том, как бороться с его неправомерным применением. И тут Южная Корея даёт показательный пример.
Маркировка контента — это минимальная и довольно мягкая мера, которая не запрещает технологию, объяснил специалист. Она лишь даёт людям понять, что перед ними синтетическое изображение или видео. Однако если копать глубже, то можно обнаружить гораздо менее очевидные области использования ИИ, о которых обычные люди и не задумываются.
— Речь идёт об алгоритмах, которые решают, дать вам кредит или нет, пригласить на собеседование или отсеять резюме автоматически, начислить страховую премию побольше или поменьше, и всё это без объяснения причин и возможности оспорить решение, — объяснил Зубарев. — Или же можно вспомнить автоматизированные системы в госсекторе, которые распределяют социальную помощь или оценивают риски в судебной системе. Тут ошибка алгоритма может стоить человеку пособия или даже свободы, и никакой живой чиновник на это решение даже не посмотрит.
Однако сама по себе технология нейросетей нейтральна — проблема в людях, которые используют её во вред другим, уточнил эксперт:
— Крупные компании вроде OpenAI или Midjourney и так уже внедряют водяные знаки, южнокорейский закон просто закрепит практику. А человек, который делает дипфейк с политиком накануне выборов, маркировку ставить не будет — возьмёт модель, лежащую в свободном доступе, или же просто удалит метаданные.
С вопиющими случаями злоупотребления будут разбираться постфактум через уголовное преследование за конкретный вред, считает Зубарев. За пример можно взять фоторедактор Photoshop — инструмент не запрещён, но за поддельный компромат можно понести наказание. И закон в Южной Корее скорее создаёт правовую базу, чтобы можно было наказывать за злоупотребления, а не создавать иллюзию тотального контроля над технологией.
Позиция законотворцев
Сергей Боярский, председатель комитета Госдумы по информационной политике
Помешает ли инновациям вмешательство властей в дела ИИ-компаний?
— Действительно, если начать что-то регулировать, не подготовившись и глубоко не погрузившись в тему, можно воспрепятствовать свободному и стремительному развитию рынка. Однако некоторые угрозы, связанные с развитием ИИ, уже становятся очевидны.
Какие области нужно взять под контроль?
— Лично меня беспокоит применение ИИ в сфере образования — дети перестали самостоятельно делать уроки. Искусственный интеллект заменяет их собственный. ИИ сильно облегчает им жизнь, оказывая медвежью услугу. Вместе с тем меня также беспокоит использование ИИ в медицине. Где определяется та грань, когда врачу можно полагаться на мнение машины больше, чем на своё? Не потеряем ли мы квалифицированных специалистов?
Планируются ли законы об использовании ИИ в России?
— В апреле в Госдуме пройдут открытые парламентские слушания. Одной из главных тем на них как раз станет регулирование искусственного интеллекта. Также вопрос обсудят в мае. Однако не стоит ожидать быстрых решений. Я сторонник очень взвешенного подхода. Не нужно торопиться и хватать, так сказать, политические флаги