В мае 2025 года редакция израильского русскоязычного издания Newsru.co.il обратила внимание на подозрительные посты в «Фейсбуке». Каждая публикация состояла из портрета и краткой биографии жертвы Холокоста. Оказалось, что снимки были сгенерированы с помощью искусственного интеллекта, а подписи по большей части выдуманы. На этом примере «Проверено» рассказывает, как нейросети (и изъяны в программах монетизации «Фейсбука») помогают зарабатывать жуликам.
«Любила свою скрипку»
Редакцию Newsru.co.il заинтересовали фотографии детей, безупречно красивых и изящно одетых. Сомнений в том, что это работа нейросети, не было. Тогда журналисты решили проверить тексты публикаций и обнаружили, что они в большинстве случаев также были фальсифицированы. Как правило, в них использовались имена реальных жертв Холокоста из базы музея «Яд ва-Шем», но указанные в постах даты и места рождения, а также обстоятельства гибели были вымышленными. Кроме того, в эти посты были добавлены разные трогательные детали («играл с дедушкой в шахматы», «любила свою скрипку», «пела колыбельные брату» и т. д.), достоверность которых проверить если и возможно, то очень сложно.
Израильские журналисты в своем тексте не сообщили названия страниц, публиковавших подобный контент, но поделились этой информацией с «Проверено». Мы случайным образом выбрали несколько постов, проверили использованные в них фотографии с помощью ИИ-детекторов и убедились, что изображения были сгенерированы нейросетями. Подтвердились и другие выводы наших коллег о методах создания таких публикаций. Примечательно, что владельцы нескольких страниц могли опубликовать одно и то же изображение с разными подписями или, наоборот, проиллюстрировать одну и ту же историю разными портретами.
Более того, мы нашли несколько постов, в которых использовались реальные фотографии жертв Холокоста, ранее опубликованные музеем Аушвиц-Биркенау на своей странице в «Фейсбуке». Однако в таких случаях снимки также подвергались обработке с помощью искусственного интеллекта.
22 мая, через два дня после выхода публикации Newsru.co.il, на странице музея Аушвиц-Биркенау появилось заявление, авторы которого выразили обеспокоенность в связи с публикацией вымышленных биографий и фотографий жертв Холокоста, созданных с помощью искусственного интеллекта. Представители музея осудили такие действия, назвав их фальсификацией истории и подчеркнув, что это вредит памяти погибших.
В заявлении музея говорилось лишь об одной фейсбук-странице с подобными материалами — 90's History. Редакция Newsru.co.il, как рассказали нам коллеги, изучала публикации трех разных профилей. «Проверено» нашло почти полтора десятка аналогичных пабликов. Два из них («Код 4 5 0» и Ok 30) публикуют исключительно ИИ-посты о жертвах Холокоста, остальные (например, довольно популярные 90's History и Let’s Laugh) постят их вперемешку с другой информацией на исторические темы, часто тоже полностью или частично фальсифицированной с помощью нейросетей.
Сеть или нет?
Обнаруженные «Проверено» страницы ведут очень похожую контентную политику, что позволяет предположить связь между ними и централизованное управление. Это довольно распространенная практика, один из самых известных примеров которой — так называемые македонские фермы фейков. В 2016 году группа молодых людей из Македонии ежемесячно зарабатывала тысячи долларов, создавая и распространяя выдуманные новости в поддержку Дональда Трампа, тогда впервые баллотировавшегося в президенты США. Македонцы запустили десятки сайтов, где публиковали заметки с сенсационными заголовками и тем самым привлекли внимание американских пользователей соцсетей. Мотивация молодых людей была исключительно коммерческой: они не интересовались политикой США и просто зарабатывали на рекламе, но в результате ферма превратилась в глобальную площадку для дезинформации. Похожую (и снова македонскую) ферму фейков раскрыли в 2019-м — она занималась, помимо прочего, распространением теорий заговора.
Однако проведенный нами анализ не подтверждает эту гипотезу. Изучив информацию о страницах, время появления первых сгенерированных фотографий, цифровой след предполагаемых владельцев этих групп в «Фейсбуке» и другие данные, мы пришли к выводу, что объединяет их не так много. Все страницы не единожды переименовывались, скорее всего, ранее управлялись другими администраторами, а часть, вероятно, была взломана и украдена у предыдущих владельцев. Так, уже упомянутая страница 90's History до конца марта 2024 года была профилем управления государственного пожарного надзора штата Теннесси (там всё еще доступен соответствующий контент), а другая, Sophia Brown, судя по оригинальному названию, — аккаунтом некоего проекта, связанного с фитнесом.
Две страницы (90's History и Historical Snapshots) якобы управляются американскими юридическими лицами Star Groups LLC и Being Master LLC соответственно. Владельцы профилей даже прошли верификацию Meta, хотя компании с такими названиями и адресами отсутствуют в бизнес-реестрах США (что вызывает большие вопросы к проверкам, которые проводит владеющая «Фейсбуком» корпорация). Historical Snapshots, кстати, хоть и заявлена как принадлежащая американскому юрлицу, управляется из Мьянмы.
Другими страницами, как указано в их описании, управляют администраторы из самых разных стран — Австралии, Нигерии, Ирана и других. Менеджеры сразу нескольких страниц (например, попавшей в поле зрения наших израильских коллег Timeless Tales) — из Индии.
Тема Холокоста заинтересовала эти паблики в разное время, хотя настоящий вал подобных постов начался в конце апреля — начале мая 2025 года (возможно, это связано с тем, что в этом году израильский национальный День памяти жертв Холокоста и героев сопротивления выпал на 23 апреля). За редким исключением разными были и фотографии, и взятые из базы музея «Яд ва-Шем» имена жертв, и сгенерированные тексты. Иногда некоторые страницы публиковали одни и те же истории, но, скорее всего, работающие по схожей модели администраторы пабликов просто подворовывали посты друг у друга.
Так что все эти страницы — не часть единой сети, а независимые проекты, которые, судя по всему, работают с одной-единственной целью: заработать.
Ничего личного, только деньги
На страницах, которые проанализировало «Проверено», ежедневно появляется от 10 до 50 постов. Вести проекты такого масштаба, даже если автоматизировать генерацию текстов и картинок, а также их публикацию, — полноценная работа, которой вряд ли занимаются исключительно ради идеи. Впрочем, про голый энтузиазм речь и не идет, ведь администраторы страниц, судя по всему, попросту пользуются изъянами, которые есть у системы монетизации контента в «Фейсбуке». Хотя «Проверено» не может формально доказать, что изученные нами страницы участвуют в соответствующей программе соцсети (эта информация не публикуется в открытом доступе), об этом свидетельствуют многочисленные косвенные признаки.
Выручка Meta почти полностью формируется за счет продажи рекламы в соцсетях с пользовательским контентом. Так, в 2024 году корпорация заработала $164,5 млрд, из которых более $160 млрд — это доходы от рекламы, размещаемой в лентах и сторис «Фейсбука», «Инстаграма» и Threads, а также в Messenger и WhatsApp. Чтобы стимулировать пользователей создавать больше контента, который можно было бы разбавить дополнительными рекламными слотами, в августе 2017 года Meta стала делиться с ними доходами и запустила программу монетизации. Довольно долго она распространялась только на видео: сначала горизонтальные, а с 2022 года — еще и короткие вертикальные. В 2023 году заработала программа Performance Bonus, которая поощряла авторов текстов и фотографий, а в октябре 2024-го все существовавшие на тот момент программы были объединены в единую систему Facebook Content Monetization beta. В том же 2024 году Meta выплатила создателям контента на «Фейсбуке» $2 млрд.
Размер вознаграждения зависит от количества просмотров, комментариев, реакций и репостов каждой публикации. Эксперты утверждают, что в среднем за каждую такую единицу вовлеченности «Фейсбук» платит около $0,0065. При очень больших охватах вознаграждение может рассчитываться по более выгодной ставке, но основная масса создателей контента зарабатывает около $10–20 в день. Это очень мало для жителей развитых стран. Однако программа монетизации доступна в том числе на Филиппинах, в Индии, Колумбии, Таиланде, Индонезии и Мексике, где такой заработок может быть вполне привлекательным для небогатого населения, тем более если какой-нибудь из многочисленных постов выстрелит. Например, эта публикация 90's History про жертв Холокоста собрала 9600 лайков, почти 1270 комментариев и больше 970 репостов и могла принести администратору страницы около $77. Даже для жителей США или Западной Европы такие доходы, особенно при размещении сотен постов в месяц, могут оказаться неплохой прибавкой к зарплате. Все страницы, изученные «Проверено», были зарегистрированы или переформатированы уже после запуска Performance Bonus. Для участия в программе монетизации необходимо получить приглашение от «Фейсбука» (либо напрямую, либо после подачи соответствующей заявки).
Нововведения в программе монетизации «Фейсбука» совпали по времени с бурным развитием нейросетей, которые стали доступны широкому кругу пользователей. Люди со всего мира получили возможность не только генерировать правдоподобные тексты и изображения, но и автоматизировать их публикацию в соцсетях и на сайтах, не обладая узкоспециальными навыками. Так, один пользователь Reddit писал в обсуждении Performance Bonus: «Я создал автоматизированную систему, которая с помощью ИИ генерирует уникальные изображения с вдохновляющими, мотивирующими и трогательными цитатами. Все изображения — оригинальные, и на них можно нанести ваш собственный водяной знак. Все цитаты взяты из постов, которые получили большой отклик в "Фейсбуке"».
Стоимость создания подобного контента минимальная — значительное число моделей, способных генерировать более или менее «человеческие» посты, открыты, могут быть установлены на компьютер или в Google Cloud, а затем донастроены под любые задачи, от генерации и публикации постов в «Фейсбуке» до рассылки фишинговых писем. Если пользователю лень хотя бы чуть-чуть разобраться в ИИ-сервисах, можно и вовсе воспользоваться наработками коллег: существуют сайты, на которых можно найти изображения, сгенерированные нейросетями, или промпты на разные темы, включая Холокост. Наконец, в распоряжении администраторов страниц, которые изучило «Проверено», — открытая база «Яд ва-Шем», из которой можно брать имена, а также страница музея Аушвиц-Биркенау, где ежедневно публикуются несколько постов о жертвах Холокоста. Эти посты легко проанализировать, выбрав в качестве образца для переделки те, что получили наибольший охват. Остается лишь переработать их по шаблону с помощью искусственного интеллекта, добавить иллюстрацию, опубликовать и ждать лайков.
На рекламу тратиться тоже не нужно — алгоритм «Фейсбука» сам покажет посты большой аудитории. С 2019 года соцсеть последовательно и планомерно урезала охваты и функции по продвижению, доступные так называемым издателям (то есть редакциям медиа и владельцам сайтов, которые публиковали ссылки на свои материалы в «Фейсбуке»), в угоду пользовательскому контенту, размещенному исключительно на самой платформе. Нынешний алгоритм работает так, что, если пользователь лайкнул, например, пост музея «Яд ва-Шем», вскоре в его ленте с высокой вероятностью появятся другие посты о жертвах Холокоста. Причем, скорее всего, это будет не публикация «Яд ва-Шем», даже если вы на него подписаны, а контент другой страницы или группы. В 2024 году глава Meta Марк Цукерберг говорил, что до 30% контента, который попадает в ленты пользователей «Фейсбука», составляют посты страниц, на которые они не подписаны, но которые им порекомендовал алгоритм. Качество этого контента и его достоверность мало интересует менеджмент компании, если не возникает жалоб или скандалов.
Наконец, ставка на посты о жертвах Холокоста по-своему беспроигрышная. Люди более эмоционально реагируют на сочетание визуального образа с пронзительным текстом, особенно если речь идет о трагедиях и детях, а сама тема срезонирует среди пользователей в странах, где работали лагеря смерти, проходили сражения Второй мировой войны, жили или живут большие еврейские общины. Бездумный скроллинг замедляется в нужном месте, оставляет след в виде лайка или комментария, а затем алгоритм услужливо начинает подсовывать в ленту и другие похожие посты.
Как жить дальше
Даже пока ИИ-контент в соцсетях ограничивался вдохновляющими цитатами или курьезными картинками вроде «Креветочного Иисуса», его распространение в «Фейсбуке» уже вызывало серьезную обеспокоенность медиа и исследователей. Однако со временем менеджеры страниц в погоне за аудиторией стали проявлять редкую всеядность и генерировать всё, что может принести им подписчиков, лайки и репосты, а следовательно, и деньги через программы монетизации. Например, в феврале 2025 года техническая обозревательница Business Insider Кэти Нотопулос отмечала, что «Фейсбук» заполнен рецептами, которые составлены нейросетями. А осенью 2024 года телеканал CNN обращал внимание на созданные искусственным интеллектом посты исторической тематики.
Историей интересуется множество людей — в англоязычном сегменте «Фейсбука» существует масса популярных тематических групп, на которые подписаны сотни тысяч человек. Вероятно, именно такие пользователи стали целевой аудиторией страниц, попавших в наш разбор (многие из них репостят свои публикации о жертвах Холокоста в профильных группах). Читатели активно реагируют на трогательные истории о детях — жертвах Холокоста и приносят создателям этих постов деньги.
Искусственным интеллектом злоупотребляют не только пользователи, паразитирующие на программах монетизации, но и те, кто рекламирует в соцсетях свои товары и услуги. Недавно фактчекеры из итальянского проекта Open заметили, что в «Фейсбуке» и X стали вирусными снимки девушки, якобы воюющей в составе ВСУ и поэтому вынужденной со слезами на глазах встречать день рождения на фронте. Выяснилось, что изначально их опубликовали в профилях, рекламирующих интернет-магазины с футболками.
Проблема в том, что соцсети не заинтересованы в ограничении пользователей, распространяющих сгенерированную искусственным интеллектом ложную информацию. Чем больше любого контента будет на платформах, тем больше на них будут проводить времени люди и, соответственно, тем больше будет возможностей показать им рекламу и на этом заработать. По некоторым оценкам, почти каждый четвертый пост, опубликованный на «Фейсбуке» с 2023-го по ноябрь 2024 года, написан не живым человеком, а искусственным интеллектом, и с ноября 2022 года, когда был запущен ChatGPT, доля таких постов выросла в 4,3 раза. При этом по итогам прошлого года доход Meta (который, повторимся, почти полностью состоит из поступлений от рекламы) вырос на 22% по сравнению с показателями позапрошлого.
Под давлением общественности и политической конъюнктуры владельцы соцсетей могли вводить механизмы, которые сдерживали распространение недостоверной информации, в том числе сгенерированных текстов, фото и видео. Так, в свое время Meta в партнерстве с независимыми фактчекинговыми организациями запустила программу проверки фактов, но в 2025 году (тоже по политическим соображениям) ее свернула — пока что только на территории США, но вскоре она, вероятно, перестанет работать и в других странах. Программу, в которой были заняты сотни профессионалов из разных стран, планируют заменить на особые комментарии обычных пользователей по принципу Community Notes в соцсети X. В США эта система уже заработала, однако ни к одному из нескольких случайно выбранных «Проверено» вирусных постов о детях — жертвах Холокоста соответствующих примечаний добавлено не было. Даже позитивно настроенные в отношении такого подхода эксперты пишут о его уязвимостях перед троллями, скоординированными информационными атаками и обычными человеческими предубеждениями. Исследователи дезинформации и специалисты по проверке фактов и вовсе предостерегают: последствия этих изменений будут значительно более масштабными и угрожающими.
Пресс-служба Meta пока не ответила на просьбу «Проверено» о комментарии.
Что еще почитать по теме
Fakebook. Что не так с решением Цукерберга отменить программу проверки фактов