Компания Илона Маска xAI подала в федеральный суд на власти Миннесоты за несколько дней до вступления в силу первого в США закона против ИИ-сервисов, которые могут создавать поддельные обнажённые изображения реальных людей.

С 1 августа владельцам сайтов, приложений и программ будет запрещено давать пользователям доступ к так называемой технологии nudification, буквально цифровому «раздеванию» человека на фотографии или видео. Штраф может достигать $500 тыс. за каждый незаконный доступ, скачивание или использование инструмента. ает, что Миннесота зашла слишком далеко. Компания не спорит с необходимостью защищать людей от интимных дипфейков, созданных без согласия, но утверждает, что закон запрещает гораздо больше. Под удар могут попасть даже изображения, созданные самим человеком или с его разрешения.

За юридическими формулировками скрывается спор, который затронет всю индустрию генеративного ИИ: кто должен отвечать за опасный результат, пользователь, который ввёл запрос, или компания, которая дала ему такой инструмент?

Что именно запретила Миннесота

Новый закон запрещает владельцам и операторам цифровых сервисов позволять пользователям «раздевать» людей на фото и видео с помощью искусственного интеллекта. Под запрет попадает и реклама подобных инструментов.

Речь идёт не только о специализированных сайтах, которые прямо предлагают загрузить чужую фотографию и получить обнажённую версию. Закон сформулирован так, что может затронуть универсальные нейросети с функциями редактирования изображений.

Одна из них, Grok от xAI. Чат-бот работает внутри социальной сети X, а также доступен через отдельные сервисы компании. Если пользователь сможет заставить его удалить одежду с фотографии реального человека, претензии могут возникнуть уже к самой xAI.

Пострадавший получит право обратиться в суд и потребовать компенсацию, включая возмещение морального вреда, судебных расходов и штрафные выплаты. Отдельно власти смогут взыскать до $500 тыс. за каждый случай незаконного доступа, скачивания или использования технологии. лает закон особенно опасным для крупных платформ. Один пользователь способен создать десятки изображений, а серия нарушений может превратиться в многомиллионный иск.

Почему xAI пошла в суд

Главная претензия компании заключается не в запрете интимных дипфейков как таковых. xAI утверждает, что закон наказывает разработчика за саму возможность создать изображение, даже когда пользователь нарушил правила сервиса или обошёл встроенные ограничения.

Компания указывает сразу на несколько проблем.

Во-первых, в законе нет полноценной защиты для платформ, которые установили фильтры и пытались предотвратить злоупотребление. Даже добросовестные меры не гарантируют освобождения от ответственности.

Во-вторых, запрет распространяется не только на изображения, созданные без согласия. По версии xAI, ответственность может наступить, когда совершеннолетний пользователь редактирует собственную фотографию или действует с разрешения изображённого человека.

В-третьих, компания считает слишком широким само определение интимных частей тела. По её мнению, под действие закона могут попасть изображения, которые не являются порнографическими и в других обстоятельствах законно публикуются открыто.

xAI утверждает, что такая конструкция нарушает Первую поправку к Конституции США, защищающую свободу выражения. Компания добивается остановки закона и предупреждает, что иначе ей придётся ограничить некоторые функции редактирования изображений Grok для жителей Миннесоты. у власти решили наказывать не только пользователей

Большинство законов против интимных дипфейков работают уже после того, как изображение создано или опубликовано. Ответственность обычно несёт человек, который изготовил материал, распространил его или использовал для травли и шантажа.

На федеральном уровне в США действует Take It Down Act. Он требует от интернет-платформ создать процедуру удаления интимных изображений, включая контент, созданный нейросетями.

Но такая система начинает работать только после причинения вреда. Жертва должна сначала найти изображение, обратиться к платформе и потребовать его удалить.

Миннесота выбрала более жёсткий подход: не ждать публикации, а попытаться остановить создание материала на уровне самого инструмента. Именно поэтому ответственность переносится с отдельного пользователя на владельца технологии. ластей понятна. Пользователь может скрываться за чужим аккаунтом, временной почтой или VPN. Платформа известна, управляет моделью и может менять её ограничения.

Для государства проще потребовать защиту от компании, чем искать каждого человека, который загрузил чужую фотографию и ввёл запрещённый запрос.

Проблема в том, что нейросеть нельзя сделать полностью безошибочной. Пользователи меняют формулировки, маскируют команды и находят способы обходить фильтры. Закон же создаёт риск наказания даже тогда, когда компания пыталась закрыть опасную функцию.

Позицию xAI ослабляет история самого Grok

Компания заявляет, что правила Grok запрещают незаконную активность, нарушение частной жизни и создание несанкционированных обнажённых изображений. За нарушение аккаунты могут блокировать, а подозрительный контент с участием детей передавать правоохранительным органам.

Однако спор возник не в пустом месте.

В начале 2026 года Grok оказался в центре международного скандала после того, как пользователи начали массово просить его сексуализировать фотографии реальных женщин и детей. Часть результатов появлялась непосредственно в X, поскольку бот отвечал на публичные сообщения.

После критики со стороны властей и общественных организаций xAI сообщила, что ограничила редактирование фотографий реальных людей в откровенной одежде и начала блокировать часть контента в странах, где он нарушает местные законы. Власти исходят из того, что пользовательское соглашение и блокировка аккаунта не возвращают человеку контроль над фотографией, если поддельное изображение уже создано и разошлось по сети.

Получается неприятный для xAI конфликт между обещаниями и результатом. Компания утверждает, что борется со злоупотреблениями, но именно возможности её продукта стали одним из аргументов в пользу жёсткого регулирования.

В чём закон действительно уязвим

Несмотря на очевидную цель, формулировки Миннесоты могут создать проблемы и для законного использования ИИ.

Совершеннолетний человек вправе редактировать собственную фотографию. Модель, фотограф или актёр могут дать разрешение на изменение изображения. Студии используют цифровые копии внешности в кино, рекламе и компьютерной графике.

Если закон не отделяет такие случаи от цифрового насилия, суд может признать его слишком широким.

Простого решения здесь нет. Галочку «у меня есть согласие» нарушитель нажмёт за секунду. Обязательная проверка документов и личности усложнит сервис и заставит компании собирать дополнительные чувствительные данные.

Платформе также трудно определить, кто изображён на загруженной фотографии. Это может быть сам пользователь, его партнёр, модель по договору или случайный человек из социальной сети.

Поэтому даже компании, способные технически выполнить требования, могут выбрать более дешёвый путь: полностью отключить спорные инструменты в Миннесоте.

Что изменится для обычных пользователей

Пока закон касается только одного американского штата, но последствия могут выйти далеко за его пределы.

Если суд оставит правила в силе, xAI придётся либо усилить ограничения Grok, либо закрыть часть функций для жителей Миннесоты. Остальные разработчики тоже начнут оценивать, способны ли их генераторы создавать запрещённые результаты.

Под потенциальное давление попадут не только чат-боты. Речь может идти о редакторах фотографий, сервисах генерации видео и приложениях, которые умеют менять одежду или внешность реального человека.

Наиболее вероятный результат, более жёсткие фильтры. Они могут блокировать не только вредоносные запросы, но и часть законного контента, когда система не понимает, дал ли человек согласие.

Для жертв интимных дипфейков решение суда, напротив, может открыть новый путь защиты. Вместо попытки найти анонимного пользователя они смогут предъявлять требования компании, предоставившей технологию.

Почему это дело важно для всей индустрии ИИ

До сих пор разработчики генеративных моделей чаще представляли себя поставщиками универсального инструмента. Пользователь вводит запрос, получает результат и сам отвечает за нарушение закона.

Миннесота предлагает другую модель. Если определённая функция предсказуемо используется для унижения, шантажа или сексуального насилия, компания должна сделать такой результат технически недоступным.

Если эта позиция устоит в суде, похожие правила могут появиться в других штатах. Для разработчиков это означает дополнительные расходы на фильтры, географические ограничения, модерацию и юридическую проверку продуктов.

Но автоматическое копирование закона Миннесоты тоже маловероятно. Другим штатам придётся учесть спорные места, добавить исключения для согласованного контента и определить, какие меры безопасности считаются достаточными.

Главный вопрос уже не в том, опасны ли интимные дипфейки. С этим почти никто не спорит. Суду предстоит решить, можно ли требовать от разработчика практически абсолютного контроля над каждым результатом генеративной модели.

Что будет дальше

Закон должен вступить в силу 1 августа 2026 года. До этого xAI попытается добиться временной блокировки его применения.

Суд может оставить правила в силе, полностью остановить их или ограничить наиболее спорные положения. Самыми уязвимыми выглядят нормы, затрагивающие изображения, созданные с согласия человека, а также отсутствие защиты для компаний, которые внедрили разумные меры безопасности.

Даже поражение Миннесоты не закроет вопрос. Штат сможет переписать закон, сузить формулировки и заменить требование абсолютного результата на перечень обязательных технических мер.

Спор xAI с Миннесотой показывает, как быстро меняется отношение властей к генеративному ИИ. Раньше от платформ требовали удалять вредный контент. Теперь от них хотят, чтобы часть такого контента невозможно было создать в принципе.

Именно решение суда покажет, станет ли такой подход исключением одного штата или началом новой системы ответственности для всей ИИ-индустрии.

История материала

Материал опубликован

Материал обновлён