В 2025 году специалисты по кибербезопасности наткнулись на ряд общедоступных хранилищ данных, принадлежащих разным сервисам для создания изображений на базе ИИ. Одна только эта находка ставит под вопрос отношение разработчиков к защите конфиденциальности клиентов. Однако еще сильнее настораживает не столько сам факт утечки, сколько то, какая именно информация там оказалась
Большое количество сгенерированных картинок в этих базах данных — изображения женщин в белье или вовсе обнаженных. Часть из них явно была создана на основе детских фотографий или же предполагала омоложение и оголение взрослых женщин. И наконец, самое неприятное. Некоторые порнографические изображения были сгенерированы на основе совершенно невинных фотографий настоящих людей, вероятно, взятых из соцсетей.
Что такое секс-шантаж
Секс-шантаж в эпоху Интернета превратился в настолько распространенное явление, что даже обрел в мире собственное название – sextortion (сочетание слов sex и extortion – вымогательство). В этой разновидности шантажа жертву запугивают публикацией интимных изображений или видео, чтобы заставить выполнить какие-то действия или выманить деньги. Ранее жертвами секс-шантажа обычно становились работницы индустрии для взрослых или женщины, поделившиеся интимным контентом с ненадежным человеком. Однако активное развитие искусственного интеллекта и особенно технологии преобразования текста в изображения (text-to-image) коренным образом изменило ситуацию. Теперь жертвой секс-шантажа может стать буквально любой человек, выложивший в публичный доступ свои самые невинные фотографии. Все дело в том, что генеративный ИИ дает возможность быстро, легко и достаточно правдоподобно «оголить» людей на любых цифровых изображениях или за несколько секунд подставить к голове человека сгенерированное обнаженное тело.
Разумеется, подобное было возможно и до ИИ, но на создание подобных подделок уходили долгие часы кропотливой работы в Photoshop. Теперь же достаточно просто описать словами желаемый результат. Что еще хуже — многие генеративные ИИ-сервисы не слишком заботятся о защите созданного с их помощью контента. За прошлый год исследователи обнаружили как минимум три базы данных таких сервисов с открытым доступом. А это значит, что сгенерированные оголенные изображения в них были доступны не только создавшему их пользователю, но и кому угодно в Интернете.
Как была обнаружена утечка базы ИИ-изображений
В октябре 2025 года исследователь кибербезопасности Джеремайя Фаулер обнаружил открытую базу данных, содержащую более миллиона изображений и видео, сгенерированных ИИ. По словам исследователя, подавляющее большинство этого контента носило порнографический характер, при этом база данных была не зашифрована и не защищена паролем — иными словами, любой пользователь Интернета мог получить к ней доступ. Название базы данных и водяные метки на некоторых изображениях позволили Фаулеру предположить, что ее источником была американская компания SocialBook, предлагающая сервисы для инфлюенсеров, а также занимающаяся цифровым маркетингом. Сайт компании, помимо прочего, дает возможность использовать инструменты для генерации изображений и контента с помощью ИИ.
Однако при дальнейшем анализе выяснилось, что сама SocialBook не занималась непосредственной генерацией этого контента. Ссылки из интерфейса сервиса вели к сторонним продуктам — ИИ-сервисам MagicEdit и DreamPal, которые и использовались для создания изображений. Эти инструменты позволяли пользователям генерировать картинки по текстовому описанию, редактировать загруженные фотографии и выполнять различные визуальные манипуляции, включая создание откровенного контента и подстановку лиц. Именно с этими инструментами была связана утечка, а база данных содержала результаты их работы, включая сгенерированные и отредактированные с помощью ИИ изображения. Часть изображений заставила исследователя предположить, что они были загружены в ИИ в качестве референсов для создания провокационных изображений. Порядка 10 000 фотографий добавлялись в базу данных каждый день. Компания SocialBook отрицает свою связь с этой базой данных. После того как исследователь проинформировал компанию об этой утечке, несколько страниц на сайте SocialBook, где ранее упоминались MagicEdit и DreamPal, перестали открываться и начали возвращать ошибки.
Как не стать жертвой
На фоне подобных инцидентов становится очевидно, что риски, связанные с секс-шантажом, больше не ограничиваются частной перепиской или обменом интимными материалами. В эпоху генеративного ИИ даже обычные фотографии, опубликованные в открытом доступе, могут быть использованы для создания компрометирующего контента. Данная проблема особенно актуальна для женщин, однако и мужчинам расслабляться не стоит: популярная схема шантажа «я взломал ваш компьютер и снимал через веб-камеру, как вы ходили на сайты для взрослых» благодаря ИИ-инструментам для генерации фото и видео может выйти на совершенно новый уровень.
Поэтому защита приватности в социальных сетях и контроль над тем, какие данные о нас доступны публично, становятся ключевыми мерами для защиты репутации и спокойного сна. Чтобы ваши фотографии не были использованы для создания сомнительного контента с помощью ИИ, мы рекомендуем сделать профили во всех соцсетях максимально приватными — ведь именно они могут стать источниками изображений для генерации ИИ-обнаженки.
Помимо этого, у есть отдельный сервис Privacy Checker — специально для тех, кто хочет быстро, но системно разобраться с настройками приватности везде, где только можно. В нем собраны пошаговые инструкции по защите аккаунтов в социальных сетях и онлайн-сервисах для всех популярных платформ. Обеспечить безопасность и приватность данных вашего ребенка поможет Kaspersky Safe Kids: с его помощью родители могут контролировать, в каких соцсетях проводит время ребенок. После этого можно настроить приватность в аккаунтах, чтобы опубликованные фотографии не использовались для создания неподобающего контента.
По материалам Касперский