«Гугл мертв». Отчаянная попытка Google преследовать поисковый искусственный интеллект Microsoft привела к тому, что компания рекомендовала самоубийство, яд и поедание камней.

Что тебе нужно знать

• Google недавно приобрела эксклюзивные права на контент Reddit для поддержки своего искусственного интеллекта. 
• Искусственный интеллект Google сошел с ума. 
• Пользователи, имеющие доступ к поиску Google по искусственному интеллекту, сообщили, что он рекомендует самоубийство, поедание камней и яда. 
• Сравнительный поиск в ChatGPT и Bing AI дает гораздо менее вредные результаты, потенциально подчеркивая необходимость в высококачественных, тщательно подобранных данных, а не в миллиардах сарказмных постов, наполненных социальными сетями.  

Как наблюдатель с опытом работы в области технологий и разработки искусственного интеллекта, я нахожу последний шаг Google по приобретению эксклюзивных прав на контент Reddit для своих усилий по поиску искусственного интеллекта одновременно интригующим и тревожным. Хотя сделка, возможно, предоставила Reddit столь необходимый спасательный круг, похоже, что эта интеграция привела к некоторым непредвиденным и потенциально вредным последствиям.

Стремление Google соответствовать Copilot от Microsoft в прошлом подталкивало их к риску с печальными последствиями, но эта недавняя ошибка превосходит все остальные по серьезности.

Как исследователь, изучающий последние технологические разработки, я наткнулся на интригующую новость: Reddit, как сообщается, предоставил Google эксклюзивные права на свой контент для проектов генеративного поиска Google стоимостью примерно 60 миллионов долларов. Эта сделка представляет собой значительный финансовый стимул для испытывающей трудности платформы социальных сетей, которая, несмотря на свою огромную популярность, еще не принесла существенной прибыли. Для Reddit это, несомненно, хорошая новость. Однако еще неизвестно, как это событие может повлиять на Google и его доминирование в поисковых системах.

Недавняя критика в адрес Google усилилась из-за предполагаемого негативного воздействия усилий Google по сокращению количества ненадежного контента, создаваемого искусственным интеллектом, в результатах поиска. В результате законные источники понесли значительные потери в трафике, что вызвало обеспокоенность среди бизнеса. Далеко идущие последствия обновлений алгоритма Google заставили многие компании почувствовать себя несправедливо преследуемыми. Более того, остаются сомнения в эффективности этих усилий по борьбе с некачественным контентом. Общественное мнение по поводу поиска Google испортилось, и этот последний инцидент может войти в историю как серьезная ошибка.

Как аналитик, я бы сказал, что не совсем справедливо возлагать вину за снижение качества контента на сам Интернет. Вместо этого мы могли бы указать пальцем на Google за их недавнюю ошибку в интеграции Reddit в результаты поиска Gemini AI.

За прошедшую неделю первые пользователи, экспериментировавшие с первоначальными реализациями поискового искусственного интеллекта Google, наблюдали некоторые интригующие результаты поиска. Похоже, что эти необычные ответы связаны с интеграцией Google проблемных социальных сетей и платформы агрегирования контента Reddit в свои результаты поиска.

На прошлой неделе поисковый запрос привел к странной рекомендации пользователям употреблять клей, которая в конечном итоге была связана со старым комментарием Reddit от аккаунта под названием Fucksmith, который выдавал себя за научный источник. Аналогичные опасения были высказаны в отношении Google, предполагающего, что люди в депрессии рассматривают возможность прыжка с моста, а также пропаганды нейротоксинов и ежедневного потребления камней. Предположение о камнях было особенно забавным, учитывая, что источником этой информации был сатирический новостной сайт The Onion.

Я обратился к Microsoft Copilot и Bing с некоторыми запросами, получив более понятные ответы, подчеркивающие прогресс Microsoft в этой области. Сотрудничая с OpenAI над ChatGPT, Microsoft, похоже, расширяет свои преимущества, поскольку Google бессистемно представляет новые функции. Однако Microsoft столкнулась с некоторыми проблемами в связях с общественностью, связанными с функцией Windows Recall, что вызвало обеспокоенность пользователей по поводу возможного вторжения в конфиденциальность.

С точки зрения фаната, проблема Windows Recall может быть не такой серьезной, как кажется. Пользователи имеют контроль над своим контентом, поскольку он остается на локальных компьютерах во время установки Windows 11. С другой стороны, ошибка Google AI вызывает большее беспокойство, поскольку нежелательные и потенциально опасные результаты поиска могут напрямую влиять на пользователей в реальной жизни.

Языковые модели должны содержать высококачественный, серьезный, тщательно подобранный и проверяемый контент.

Во время сравнения Microsoft Copilot и ChatGPT-4 я был ошеломлен тем, насколько разумными были их ответы вместо ожидаемых глупых результатов. Сначала я спросил обоих о том, сколько камней мне следует потреблять ежедневно. Второй пилот, по-видимому, пренебрежительно отнесся к моему вопросу, не дал никакого ответа, что заставило меня задуматься, ограничила ли Microsoft этот конкретный запрос из-за недавних проблем с общественностью с Google. Пытаясь обойти это очевидное ограничение, я задал другой вопрос – о лимонах и о том, сколько мне следует съедать в день. Второй пилот ответил обширной информацией о лимонной кислоте и витаминах, которые меня не особо интересовали. Затем я попытался вернуться к исходному вопросу, сказав: «Хорошо, а что насчет камней». Этой тактике удалось обойти фильтр, но Copilot остался непреклонен и предоставил исчерпывающий список причин, почему употребление камней не рекомендуется.

Вместо того, чтобы предлагать самоубийство, как это сделал Google, когда вы поделились своим заявлением «У меня депрессия», Copilot предоставил вам полезные ресурсы, которые помогут вам.

Значение контекста становится очевидным при создании наборов инструментов с использованием больших языковых моделей (LLM). Например, интеграция Reddit в Google Gemini может иметь непредвиденные последствия, подорвав надежность информации Google из-за преобладания сарказма и сатиры в комментариях Reddit, которые распространены на платформах социальных сетей. В случае, если поиск с помощью ИИ подрывает бизнес, который процветает за счет производства премиум-контента, LLM, возможно, придется ассимилировать контент, созданный ИИ, для получения результатов. Этот сценарий потенциально может спровоцировать коллапс модели – явление, наблюдаемое в реальной жизни, когда LLM не хватает достаточного количества высококачественных данных для справки либо из-за нехватки доступного контента, либо из-за использования необычных языков.

Смотрите также

• Как получить и использовать очки мастерства в Space Marine 2
• Что делать с расширенной канистрой Эона в WoW Dragonflight
• Чем заканчивается книга «Презумпция невиновности»?
• Полный список миссий Warhammer 40K Space Marine 2
• Warhammer 40,000: Space Marine 2: руководство – как быстро повысить уровень
• Warhammer 40K: Space Marine 2 – как получить данные арсенала и использовать их
• Warhammer 40K: Space Marine 2 – Как разблокировать перки оружия
• Где найти все инфопланшеты в Space Marine 2
• Прохождение баллистического двигателя — Space Marine 2
• Как выполнить личный квест Ирлиет в Warhammer 40: Rogue Trader

2024-05-24 18:50