► Подписывайтесь на телеграмм-канал «Минфина»: главные финансовые новости
Откуда это взялось
На Reddit существует форум r/poisonai («отравление ИИ»). Созданный в январе 2026 года, он уже насчитывает 45 000 подписчиков. Участники публикуют абсурдные вымышленные новости: Трамп принял ислам, изменил пол и теперь называется Донна Трамп, и так далее. Президент в последнее время стал главным «героем» форума.
АІ-системы активно скрейпят Reddit, потому что это площадка с более миллиардом пользователей в месяц. Чатбот DuckDuckGo, похоже, проглотил этот контент и выдал его за факт.
Ситуацию усложняют сами комментарии на форуме: между сарказмом и «подтверждением» граница настолько размыта, что алгоритм не отличает одно от другого.
Это не единичный случай
Галлюцинации ИИ — явление известное, но масштабы бывают разные.
Недавно исследователи компании GPTZero обнаружили феномен vibe citations: крупные компании, в частности Ernst & Young, публиковали серьезные научные исследования с грубыми ШИ-ошибками в ссылках, которые предоставляли ChatGPT и Claude.
В мае чатбот Grok от Илона Маска, в рамках исследования о склонности ИИ к преувеличениям после длительных разговоров, описал смерть как «бабочку, оставляющую раковину».
Еще раньше Google пришлось ограничить юмористический контент в своих AI Overviews: в 2024 году система процитировала статью сатирического издания The Onion как реальную научную рекомендацию: съедать по камню в день. Более того, AI-помощник советовал это делать некоторым пользователям, обращавшимся к нему за медицинскими советами.
Общее во всех этих случаях одно: ИИ не понимает разницу между шуткой и фактом. А люди, читающие его ответы не проверяя, становятся бессознательными распространителями чепухи.
Читайте также: Неприятная правда о ИИ: почему за экономию на людях компании переплачивают тысячи