ИИ-аватарки в соцсетях: почему массовое увлечение портретами от нейросетей пугает экспертов

Это были потребительские расходы внутри приложения, а не сумма, которую разработчики получили на руки: выручка, комиссии платформ и другие расходы — разные вещи.

Вирусная механика казалась простой: загрузить несколько селфи и получить стилизованные портреты, готовые для ленты. Но за красивым результатом стояла обработка фотографий в облаке, а условия этой обработки большинство участников тренда едва ли изучали. Отсюда и главный повод для беспокойства: дело не в том, что нейросеть «запоминает ваше лицо навсегда», а в том, что пользователь часто не знает, какие именно данные сервис получает, сколько их хранит и кому передаёт.

Миллионные тиражи и дофаминовый взрыв: как аватарки захватили ленты

Функция Magic Avatars в Lensa AI стала заметным вирусным трендом в конце 2022 года. Пользователь отправлял фотографии, выбирал стилизацию и получал созданные нейросетью портреты: от аниме-образов до иллюстраций с фантастическими костюмами. Картинки были достаточно узнаваемыми, чтобы человек видел в них себя, и достаточно непривычными, чтобы хотелось показать их другим.

Такой продукт удобно распространяется в соцсетях. Человек публикует результат, друзья спрашивают, в каком приложении его сделали, и сами пробуют сервис. В этом нет загадки и не обязательно есть тайный маркетинговый план: визуальный результат одновременно служит контентом и рекламой приложения. Когда портрет уже стал частью ленты, название сервиса и способ повторить эффект легко подхватываются.

У генеративных аватарок есть ещё одно преимущество перед обычным фильтром. Фильтр меняет фото здесь и сейчас, а генератор предлагает новый образ. Пользователь получает не просто сглаженную кожу или другой оттенок, а небольшую примерку альтернативных версий себя. Можно увидеть себя в эстетике обложки, фэнтези-арта или мультфильма, а потом выбрать, какой вариант больше нравится.

За это приходится платить вниманием и данными. Чтобы сохранить сходство, приложению обычно нужно несколько изображений лица. Точное число зависит от сервиса и его инструкции: универсального стандарта для всех генераторов нет. Чем больше фотографий загружает человек, тем больше материала получает система для обработки, но это само по себе не говорит, что именно сервис делает с данными после генерации.

Вирусность аватарок объясняется просто: результат хочется показать. А вот что происходит с исходными фотографиями после публикации портрета, из самой картинки уже не видно.

Анатомия генерации: почему алгоритмам нужны ваши селфи

В популярных приложениях итоговое изображение обычно получается не из одного действия. Сервис использует генеративную модель, уже обученную создавать изображения, и настраивает генерацию так, чтобы результат сохранял сходство с человеком на загруженных снимках. Конкретная технология зависит от продукта, поэтому описывать все приложения одной схемой было бы неверно.

Важно различать общий обучающий набор модели и фотографии, которые пользователь отправляет для персонализации. Модель может быть заранее обучена на больших массивах изображений и текстовых описаний. Например, в публичных обсуждениях Stable Diffusion часто упоминается набор LAION-5B. Вопросы о том, откуда взялись изображения для обучающих датасетов и на каких условиях они использовались, относятся к отдельной дискуссии о генеративном ИИ. Но наличие такого датасета не доказывает, что конкретное приложение сохраняет каждое загруженное селфи или включает его в дальнейшее обучение.

Персонализация тоже не обязательно означает, что фотографии навсегда встраиваются в основную модель. Для генерации сервис может анализировать изображения и создавать временные данные или отдельную настройку под задачу пользователя. Такие данные способны храниться отдельно от базовой модели, а срок и порядок их удаления зависят от реализации и политики конкретного сервиса. Утверждать, будто получившуюся модель невозможно удалить, нельзя: если разработчик сохраняет отдельные файлы или веса для персонализации, технически их можно удалить. Другой вопрос, какие копии существуют, кто имеет к ним доступ и предусмотрено ли удаление в правилах приложения.

Поэтому полезнее задавать не абстрактный вопрос, «запоминает ли нейросеть лицо», а несколько вполне конкретных:

• Какие фотографии нужно загрузить и можно ли обойтись меньшим количеством?
• Как долго хранятся исходники и данные, созданные при обработке?
• Используются ли фотографии только для разовой генерации или также для улучшения сервиса?
• Можно ли запросить удаление и распространяется ли оно на промежуточные файлы?
• Какие компании участвуют в обработке данных?

Ответы стоит искать в политике конфиденциальности и описании функции, а не выводить из того, насколько правдоподобно выглядит портрет. Красивое сходство говорит о качестве генерации, но ничего не сообщает о хранении данных.

Куда уходят гигабайты лиц: облачные провайдеры и тайны датасетов

Многие генеративные приложения обрабатывают запросы на сервере. В этом случае фотография покидает телефон и передаётся инфраструктуре сервиса, а итоговый портрет возвращается пользователю после обработки. Некоторые продукты могут использовать сторонних облачных подрядчиков. В черновиках политик конфиденциальности и описаниях таких сервисов иногда упоминаются крупные облачные платформы, включая AWS и Google Cloud Platform, однако сам факт существования этих провайдеров не доказывает, что любой конкретный генератор использует именно их.

Облачная обработка не означает автоматически утечку или бесконтрольное хранение. Она означает, что цепочка обработки может включать несколько технических участников, и пользователю важно понимать, кто отвечает за данные на каждом этапе. Если приложение обещает удалить исходные фото через определённое время, это обещание нужно читать в контексте: какие именно файлы удаляются, охватывает ли срок данные для генерации и предусмотрены ли исключения для резервных копий или журналов работы.

Само загруженное селфи также не даёт сервису всей информации о жизни человека. Из факта загрузки нельзя заключить, что приложение получает геолокацию, узнаёт устройство, на которое снимали фото, или знает, как часто владелец пользуется камерой. Некоторые сведения могут передаваться отдельно, например технические данные подключения или метаданные файла, но их получение зависит от приложения, настроек и способа загрузки. Не следует приписывать сервису доступ к информации, которой пользователь ему не предоставлял.

Это различие важно, потому что тревожные формулировки быстро превращаются в мифы. «Фото попало в облако» и «сервис составил полный профиль человека» — не одно и то же. Первое может быть частью обычной серверной обработки. Второе требует доказательств о конкретных данных и способах их использования.

Есть и более широкий вопрос: могут ли загруженные изображения использоваться для обучения или улучшения моделей. Здесь нельзя отвечать за все приложения разом. Условия различаются, а маркетинговое обещание сделать аватар не заменяет чтения правил обработки данных. Если в документе прямо указано, что фотографии удаляются после генерации и не используются для обучения, это одно. Если формулировки позволяют более широкое использование или оставляют исключения, пользователь принимает и такой риск.

Судебные иски и закон об Иллинойсе: почему разработчики попали под удар

Закон штата Иллинойс о защите биометрической информации, известный как BIPA, устанавливает требования к сбору и использованию определённых биометрических данных коммерческими организациями. В частности, закон предусматривает обязанности, связанные с уведомлением и согласием. Применимость конкретных требований зависит от обстоятельств и от того, какие данные обрабатывались.

В феврале 2023 года против Prisma Labs, разработчика Lensa, подали коллективный иск в федеральный суд Северного округа Калифорнии. Истцы утверждали, что компания собирала или использовала геометрию лиц без надлежащего информированного согласия, и ссылались на BIPA. Это описание позиции истцов, а не установленный судом факт нарушения. Подача иска означает, что претензии были заявлены в суде; сама по себе она не доказывает их истинность и не равна обвинительному решению.

Спор вокруг таких приложений показывает, насколько важна разница между фотографией лица и биометрическими данными, полученными из неё. Юридическая оценка зависит не только от того, что человек загрузил селфи, но и от того, какие сведения сервис извлёк, как их использовал и что сообщил пользователю до обработки. Без изучения материалов дела и позиции сторон нельзя уверенно подменять этот разбор лозунгом о том, что любой генератор нарушает закон.

Не менее важно не смешивать две вещи: претензию к конкретной компании и общий риск для всей индустрии. Даже если иск не устанавливает нарушение, он обращает внимание на вопросы, которые не исчезают оттого, что портрет получился удачным: было ли согласие достаточно ясным, понятны ли цели обработки, можно ли удалить связанные данные и кто несёт ответственность за их хранение.

Иск фиксирует спор о согласии и обработке данных. Он не заменяет судебного решения и не доказывает автоматически, что обвинения верны.

Скрытая изнанка тренда: баги фильтров и неконсенсусный эротический контент

У генеративных аватарок есть и другой риск: результат может оказаться сексуализированным, хотя пользователь отправлял обычные фотографии и такого образа не просил. Это не означает, что каждый сервис систематически создаёт откровенные портреты. Поведение зависит от модели, настроек, фильтров безопасности и конкретного запроса. Но если генератор работает с изображениями людей, ошибки модерации могут иметь неприятные последствия.

Особенно серьёзно проблема выглядит, когда изображение можно связать с реальным человеком и распространить без его согласия. Сгенерированный портрет не обязательно точно воспроизводит исходное фото, однако сходство может оказаться достаточным для узнавания. Поэтому «это нарисовала нейросеть» не снимает вопроса о согласии на публикацию и возможном вреде человеку.

На результат влияют и перекосы данных, на которых обучались модели. Если в обучающих примерах какие-то типы внешности, стили или образы представлены неравномерно, генерация может воспроизводить эти перекосы. Но конкретные выводы о том, насколько часто сервис сексуализирует женщин или как отличаются результаты для разных групп пользователей, требуют исследований именно этого продукта. Общая ссылка на большой датасет не заменяет таких доказательств.

Если приложение выдаёт нежелательные изображения, полезно не публиковать их ради шутки и не пересылать человеку, чей образ использован. Стоит сохранить информацию о сервисе и настройках, сообщить о проблеме разработчику и удалить исходные файлы там, где это возможно. Для публичной публикации изображений, похожих на других людей, действуют обычные правила согласия и уважения к частной жизни, даже если сам портрет создан алгоритмом.

Почему все ставят портреты от ИИ и что стоит за этой привычкой

Вирусные аватарки сгенерированные нейросетью быстро разошлись по лентам не только из-за качества картинок. Сработало сочетание личного любопытства и социального эффекта: хочется посмотреть на себя в незнакомом образе, а публикация сразу становится поводом для реакции друзей. Сервису не нужно убеждать пользователя читать длинное описание технологии. Достаточно показать привлекательный результат и сделать повторение простым.

Тут и возникает перекос восприятия. Пользователь видит готовый портрет, а перед этим совершает менее заметное действие: отправляет фотографии приложению и принимает условия обработки. Чем легче шаг до результата, тем проще пропустить детали. Это не обязательно означает, что человек согласился на неограниченное использование данных. Это означает, что кнопка генерации часто заметнее текста о том, как устроена обработка.

Риски популярности ИИ-фильтров полезно делить по степени определённости, а не складывать в одну страшную историю:

1. Передача фотографий сервису. Если генерация выполняется на сервере, изображения должны быть отправлены для обработки. Конкретный маршрут и срок хранения зависят от приложения.

2. Использование сторонней инфраструктуры. Такое участие возможно, но его нельзя приписывать всем приложениям без оснований. Сведения ищут в политике конфиденциальности и описании подрядчиков.

3. Неясность условий согласия. Именно такого рода претензии заявлялись в иске к Prisma Labs. Иск не доказывает нарушение, но показывает, что юридический спор касался не только эстетики результата.

4. Нежелательная генерация. Ошибки фильтров возможны. Их частоту и особенности нужно оценивать по конкретному сервису, а не по общему устройству нейросетей.

5. Кража доступа к банковскому счёту через аватарку. Не стоит смешивать сгенерированный портрет с фотографией, которую конкретная система использует для проверки личности. Утверждения о том, что публикация ИИ-аватарки сама по себе позволяет обойти биометрическую защиту, требуют доказательств.

Последний пункт не отменяет обычных мер безопасности. Он лишь помогает отделить правдоподобные вопросы о хранении и согласии от эффектных, но неподтверждённых страшилок.

Красивый портрет и невидимые условия

Портрет от нейросети может быть удачным, смешным или неожиданно похожим. Сам по себе этот результат не доказывает ни безопасную обработку фотографий, ни злоупотребление ими. Чтобы понять, на что соглашается пользователь, нужно смотреть на конкретное приложение: какие снимки оно просит, где обрабатывает данные, как долго хранит исходники и допускает ли их использование за пределами генерации.

Массовый успех таких сервисов объясним: они превращают несколько фотографий в контент, которым хочется поделиться. Но в этой простоте есть и ловушка. Публично виден портрет, а не путь, который прошли исходные файлы. Поэтому решение загрузить селфи стоит принимать не из общего страха перед нейросетями и не на автопилоте, а после проверки условий конкретного сервиса.

Красивую аватарку можно поставить на профиль. Вопрос в том, понимает ли пользователь, что именно он отправил вместе с ней.