Полный текст
Армия из 45 000 пользователей Reddit (r/poisonai) обманула ИИ-поисковики, заставив их верить, что Трамп и Вэнс умерли от бешенстваDuckDuckGo и Brave выдавали за истину ложную версию: якобы Джей Ди Вэнс по совету министра здравоохранения Роберта Кеннеди — младшего намеренно укусил Трампа, потому что бешенство может наделять человека «сверхспособностями»На деле оба живы, а бешенство — смертельная инфекция. Виновники — пользователи r/poisonai, намеренно публикующие абсурдные фейки, выдаваемые за «точную информацию», чтобы «отравить» ИИСитуацию усугубил фейковый новостной портал WKNA, выдающий себя за региональный сайт Западной ВирджинииОн публикует непроверенные и сгенерированные ИИ материалы, включая абсурдные утверждения о смерти политиковПоисковики, проиндексировав контент Reddit и WKNA, начали выдавать ложные сведенияGoogle, однако, распознал информацию как вымысел. В ответ пользователи r/poisonai и сайт WKNA иронично возмутились, что Google отверг их «сатиру», и опубликовали новые материалы об «ошибке» GoogleВ Brave сняли с себя всякую ответственность за произошедшее: Поисковые системы, с ИИ или без него, не являются оракулами истины. Если есть история, которую подбросили (в том числе статьи, доказывающие, что ИИ можно отравить), они создадут набор результатов, и этот набор результатов будет адаптироваться по мере появления статей, в которых эта история обсуждается как эксперимент по отравлению ИИВ DuckDuckGo отреагировали мягче: Спасибо, что обратили на это наше внимание; проблема решена. Мы стремимся, чтобы Search Assist работал точно, и в данном случае его намеренно обманули. В подобных ситуациях мы будем вносить обновления, чтобы улучшить работу Search AssistTelegram | VK | MAX