Что тебе нужно знать
- Google недавно приобрела эксклюзивные права на контент Reddit для поддержки своего искусственного интеллекта.
- Искусственный интеллект Google сошел с ума.
- Пользователи, имеющие доступ к поиску Google по искусственному интеллекту, сообщают, что он рекомендует есть камни, клей и, возможно, даже совершить самоубийство, хотя не все полученные ответы были воспроизведены.
- Сравнительный поиск в ChatGPT и Bing AI дает гораздо менее вредные результаты, потенциально подчеркивая необходимость в высококачественных, тщательно подобранных данных, а не в миллиардах сарказмных постов, наполненных социальными сетями.
Как наблюдатель с опытом работы в области технологий и разработки искусственного интеллекта, я нахожу последнее приобретение Google и последующую неудачу с искусственным интеллектом глубоко тревожной. Отчаяние компании не отставать от таких конкурентов, как Microsoft, и их передовых предложений в области искусственного интеллекта, привело к поспешному решению, которое, похоже, имеет катастрофические последствия.
🌟 Мечтаешь о звёздах? CryptoMoon поможет тебе взлететь – с криптой и отличным настроением невозможное становится реальным!
Стартуем!Стремление Google создать аналог Copilot от Microsoft в прошлом приводило к некоторым печальным последствиям, но эта недавняя неудача превосходит все остальные по серьезности.
Google недавно получил уникальный доступ к контенту Reddit, стоимость которого оценивается примерно в 60 миллионов долларов, чтобы расширить свои возможности поиска на основе искусственного интеллекта. Это соглашение стало облегчением для социально влиятельной, но испытывающей финансовые затруднения платформы Reddit, которая продолжает привлекать большие толпы людей, несмотря на свою нерентабельность. Это действительно победа Reddit, но потенциально не столь благоприятная новость для Google.
Недавняя критика в адрес Google усилилась из-за предполагаемого негативного воздействия ее усилий по подавлению созданного ИИ или ненадежного контента в законных источниках в результатах поиска. Изменения в алгоритме Google нанесли существенный вред бизнесу, приведя к несправедливым финансовым потерям. Несмотря на заявления Google о том, что эти изменения направлены на улучшение качества поиска, доказательств в поддержку этого утверждения мало. Следовательно, общественное мнение по отношению к поиску Google испортилось, и эта недавняя ошибка может стать заметным инцидентом в анналах истории Интернета.
Вместо того, чтобы указывать пальцем на Интернет в целом за плохое качество контента, было бы правильнее критиковать Google. Тем не менее, Google несет значительную ответственность за свою недавнюю ошибку, в частности за интеграцию Reddit в результаты поиска Gemini AI.
Как исследователь, изучающий раннюю разработку поисковой системы Google, я столкнулся с интригующим наблюдением пользователей. Они сообщили, что столкнулись с некоторыми необычными ответами в результатах поиска в первоначальных версиях Google, в которых использовался поисковый искусственный интеллект. Эти аномальные результаты, по-видимому, являются следствием интеграции Google в результаты поиска проблемных социальных сетей и платформ агрегирования контента, таких как Reddit.
Говорят, что один из недавних поисковых запросов дал неожиданную рекомендацию, предположительно предполагающую, что люди употребляют клей. Этот совет, очевидно, был взят из комментария десятилетней давности на Reddit пользователя по имени Fucksmith, который утверждал, что носит научный характер. Кроме того, Google, как сообщается, дал противоречивые советы тем, кто страдает депрессией, предложив им рассмотреть возможность прыжка с моста, а также пропагандируя пользу для здоровья нейротоксинов и ежедневного потребления камней.
Как аналитик, я сталкивался с поисковыми запросами, которыми могли манипулировать для вовлечения пользователей в Твиттере. Однако часть этих запросов прошла проверку подлинности, и им можно доверять. В частности, рекомендация о роке была весьма забавной, учитывая, что информация поступила с известного сатирического новостного сайта The Onion.
Как технический энтузиаст, я недавно столкнулся с некоторыми проблемами из-за того, что инструменты искусственного интеллекта поиска Google были недоступны в моем текущем местоположении. Следовательно, я не мог проверить некоторые отчеты. Однако тот факт, что некоторые из этих сообщений поступили из конкретных источников на Reddit, придает им достоверность. Пытаясь найти ответы, я вместо этого задал несколько вопросов Microsoft Copilot и Bing. К моему удивлению, их ответы оказались более удовлетворительными, что позволяет предположить, что Microsoft, возможно, продвигается вперед в этой области. Партнерство Microsoft с OpenAI для ChatGPT является свидетельством ее растущего лидерства в сфере искусственного интеллекта. Однако в последнее время у Microsoft возникли собственные проблемы с пиаром: пользователи выражают обеспокоенность по поводу функции Windows Recall и потенциальных последствий для конфиденциальности, которые она может иметь.
Проблема возврата Windows может быть преувеличена, поскольку пользователи имеют контроль над своим локальным содержимым во время установки Windows 11, и это им не навязывается. Напротив, ошибка Google AI более серьезна, поскольку для некоторых пользователей реальностью являются нежелательные и потенциально опасные результаты поиска.
Языковые модели должны содержать высококачественный, серьезный, тщательно подобранный и проверяемый контент.
При сравнении ответов Microsoft Copilot и ChatGPT-4 я был ошеломлен тем, насколько интеллектуальными и неповторяющимися были результаты. Первоначально, когда я спросил, сколько камней мне следует потреблять в день, второй пилот промолчал, по-видимому, посчитав мой вопрос бессмысленным. Я задумался, не ограничила ли Microsoft этот конкретный вопрос из-за недавней негативной рекламы вокруг Google. Чтобы обойти это очевидное препятствие, я разработал стратегию, позволяющую перехитрить Copilot, спросив его о лимонах и их количестве, которое следует употреблять каждый день. Второй пилот ответил обширной подборкой данных о лимонной кислоте и витаминах, которые не имели особого отношения к моему запросу. Однако когда я спросил: «А как насчет камней?», Копилит предоставил мне аргументированный список, в котором подробно описывалось, почему употребление камней вредно, что утолило мое любопытство.
Когда я выразил свое чувство депрессии, Copilot предоставил мне полезные ресурсы, а не предложил самоубийство, в отличие от того, что ИИ Google, похоже, делал раньше.
Несмотря на любую преднамеренную ложь, этот инцидент подчеркивает важность контекста при разработке наборов инструментов с использованием больших языковых моделей (LLM). Интеграция Reddit в Google Gemini потенциально может подорвать достоверность всех данных, учитывая, что значительная часть комментариев в социальных сетях, включая Reddit, часто носит саркастический или сатирический характер. Упадок веб-бизнеса, зависящего от создания высококачественного контента благодаря поиску с помощью ИИ, может потребовать включения контента, созданного LLM, для получения результатов. Однако потенциально это может привести к коллапсу модели — феномену, который наблюдался эмпирически, когда в LLM не хватает достаточного количества высококачественных данных для справки. Недостаток данных может возникнуть из-за ограниченного онлайн-контента или необычного использования языка, используемого в таком контенте.
Смотрите также
- Как завязать роман с Кибеллой в Warhammer 40,000: Rogue Trader
- Все главные персонажи Space Marine 2 и их актеры
- Обновление 7.0 для Warhammer 40,000: Space Marine 2 появилось вместе с режимом Орды в февральском обновлении сообщества
- Дорожная карта Warhammer 40K: Space Marine 2 на 2025 год — Чемпион Саламандры и обновления PvE, PvP
- Warhammer 40K Space Marine 2 Полное руководство по управлению ПК
- Полный список миссий Warhammer 40K Space Marine 2
- Игроки Warhammer 40,000: Space Marine 2 обнаруживают необъявленный исследовательский центр, в котором хранятся всевозможные нераскрытые секреты
- Как исправить ошибку, из-за которой не работает кооперативный многопользовательский режим в Warhammer 40K Space Marine 2
- WoW: The War Within — Полное руководство по рыбалке
- Все книги Warcraft в хронологическом порядке
2024-05-24 20:21