► Підписуйтесь на телеграм-канал «Мінфіну»: головні фінансові новини
Звідки це взялося
На Reddit існує форум r/poisonai — «отруєння ШІ». Створений у січні 2026 року, він вже нараховує 45 000 підписників. Учасники публікують абсурдні вигадані новини: Трамп прийняв іслам, змінив стать і тепер зветься Донна Трамп, і таке інше. Президент останнім часом став головним «героєм» форуму.
ШІ-системи активно скрейпять Reddit, бо це є майданчик із понад мільярдом користувачів на місяць. Чатбот DuckDuckGo, схоже, ковтнув цей контент і видав його за факт.
Ситуацію ускладнюють самі коментарі на форумі: між сарказмом і «підтвердженням» межа настільки розмита, що алгоритм не розрізняє одне від іншого.
Це не поодинокий випадок
Галюцинації ШІ — явище відоме, але масштаби бувають різні.
Нещодавно дослідники компанії GPTZero виявили феномен «vibe citations»: великі компанії, зокрема Ernst & Young, публікували серйозні наукові дослідження з грубими ШІ-помилками у посиланнях, які надавали ChatGPT і Claude.
У травні чатбот Grok від Ілона Маска, у рамках дослідження про схильність ШІ до перебільшень після тривалих розмов, описав смерть як «метелика, що залишає мушлю».
Ще раніше Google довелося обмежити юмористичний контент у своїх AI Overviews: у 2024-му система процитувала статтю сатиричного видання The Onion як реальну наукову рекомендацію: з'їдати по каменю на день. Більш того, AI-помічник радив це робити деякім користувачам, які зверталися до нього за медичними порадами.
Спільне в усіх цих випадках одне: ШІ не розуміє різниці між жартом і фактом. А люди, які читають його відповіді не перевіряючи, стають несвідомими розповсюджувачами нісенітниць.
Читайте також: Неприємна правда про ШІ: чому за економію на людях компанії переплачують тисячі