Автор: В своем программном докладе Google I/O в начале этого месяца Google дала большие обещания относительно искусственного интеллекта в поиске, заявив, что вскоре пользователи смогут «позволить Google погуглить за вас». Эта функция под названием «Обзоры ИИ» была запущена ранее в этом месяце. Результат? Поисковый гигант провел выходные, посвященные Дню поминовения, вычищая ответы ИИ в Интернете.
Поскольку 14 мая в США стал доступен ИИ-поиск Google, обзоры ИИ предложили пользователям наносить клей в соус для пиццы. , есть камнии используйте «пробку для приседаний». во время тренировки (вы можете догадаться, о чем идет речь в последнем примере).
Хотя некоторые примеры, циркулирующие в социальных сетях, явно были отфотошоплены ради шутки, другие были подтверждены командой Lifehacker— Google посоветовал мне специально использовать Клей Элмера в моей пицце. К сожалению, если вы попытаетесь найти эти ответы сейчас, вы, скорее всего, увидите сообщение “Обзор ИИ недоступен для этого поиска” вместо этого отказ от ответственности.
Почему обзоры искусственного интеллекта Google такие?
Это не первый случай, когда поисковые запросы Google с помощью искусственного интеллекта вводят пользователей в заблуждение. Когда в марте была запущена бета-версия Обзоров ИИ, известная как Search Generative Experience, пользователи сообщили, что ИИ отправлял их на сайты, которые, как известно, распространяют вредоносное ПО и спам.
Что вызывает эти проблемы? Что ж, по некоторым ответам кажется, что ИИ Google не понимает шуток. В частности, ИИ не способен отличить саркастический пост от настоящего и, судя по всему, любит сканировать Reddit в поисках ответов. Если вы когда-либо проводили время на Reddit, вы можете видеть, какое это плохое сочетание.
После некоторого копания пользователи обнаружилиисточник «клея для пиццы» ИИ; Советом стал пост 11-летней давности от пользователя Reddit под ником “fucksmith” Аналогично, использование «плагов для приседаний» — это старая шутка на форумах по упражнениям Reddit (старший редактор отдела здравоохранения Lifehacker Бет Скварецки раскрывает здесь эту конкретную часть непреднамеренной дезинформации.)
Это всего лишь несколько примеров проблем с обзорами ИИ, и еще один&mdash ;Склонность ИИ цитировать сатирические статьи из The Onion как евангелие (нет, геологи на самом деле не рекомендуют съедать один маленький камень в день) особенно хорошо иллюстрирует проблему: Интернет завален шутками, повторение которых может стать крайне плохим советом. невозмутимость, и это именно то, что делает AI Обзоры.
Результаты поиска Google по искусственному интеллекту, по крайней мере, явно указывают на большинство их утверждений (хотя для того, чтобы выяснить происхождение совета по использованию клея в пицце, потребовались некоторые раскопки). Но если вы не перейдете по ссылке, чтобы прочитать статью полностью, вам придется поверить ИИ на слово в отношении их точности, что может быть проблематичным, если эти утверждения — первое, что вы видите в Поиске, в верхней части страницы результатов и крупным жирным шрифтом. Как вы заметили в примерах Бет, например, в плохой школьной работе, слова «некоторые говорят» делают много тяжелой работы в этих ответах.
Отказывается ли Google от обзоров ИИ?
Когда в обзорах ИИ что-то не так, по большей части они того стоят смеяться, и не более того. Но когда речь идет о рецептах или медицинских советах, ситуация может стать опасной. Воспользуйтесь этим устаревшим советом о том, как пережить укус гремучей змеи, или этими потенциально смертельными советами по идентификации грибов, которые поисковая система также предоставила Бет.
Автор: Бет Скварецки
Google попытался избежать ответственности за любые неточности, пометив в конце своих обзоров ИИ пометку «Генераторный ИИ является экспериментальным». (текст заметно меньшим размером), хотя неясно, выдержит ли это решение в суде, если кто-нибудь пострадает из-за предложения Обзора AI.
Есть еще много примеров того, как Обзор AI ошибается, циркулируя по всему миру. в Интернете, от Air Bud путают с правдивой историей до Барака Обаму называют мусульманином, но достаточно сказать, что первое которые вы видите в Google Поиске, теперь еще менее надежны, чем когда вам нужно было беспокоиться только о рекламных объявлениях.
Предположим, вы даже это видите: как ни странно, и, возможно, в ответ на негативную реакцию, обзоры ИИ в настоящее время кажутся гораздо менее заметными в результатах поиска, чем на прошлой неделе. При написании этой статьи я пытался найти общие советы и факты, такие как «как приготовить банановый пудинг». или «назовите трех последних президентов США» — вопросы, которые AI Reviews уверенно и безошибочно ответила мне при предыдущем поиске. Примерно по двум десяткам запросов я не увидел обзоров, что показалось мне подозрительным, учитывая электронное письмо, которое представитель Google Меган Фарнсворт отправила в The Verge, в котором указывалось, что компания «принимает быстрые меры». удалить некоторые оскорбительные ответы ИИ.
Обзоры Google AI не работают в поисковых лабораториях
Возможно, Google просто проявляет чрезмерную осторожность, или, возможно, компания обращает внимание на то, насколько популярны анти- -Стали известны такие хаки искусственного интеллекта, как нажатие на новый веб-фильтр поиска или добавление udm=14 в конец URL-адреса поиска.
В любом случае, похоже, что-то изменилось. В верхнем левом (на мобильном телефоне) или правом верхнем (на рабочем столе) углу поиска в браузере вы теперь должны увидеть что-то похожее на мензурку. Нажмите на нее, и вы перейдете на страницу «Поисковые лаборатории»., где вы увидите заметную карточку с рекламой «Обзоры ИИ» (если вы не видите стакан, зарегистрируйтесь в Search Labs по ссылке выше). Вы можете нажать на эту карточку, чтобы увидеть переключатель, который можно отключить, но поскольку он на самом деле не влияет на поиск в целом, нас волнует то, что находится под ним.
Здесь вы найдете демо-версию обзора ИИ с большой яркой надписью «Попробуйте пример». Кнопка, которая отобразит несколько ответов с низкими ставками, которые покажут эту функцию в лучшем свете. Под этой кнопкой находятся еще три кнопки «попробовать». кнопки, за исключением того, что две из них больше не ведут к обзорам ИИ. Когда я нажимал на них, я просто видел обычную страницу результатов поиска с примерами подсказок, добавленных в мою панель поиска, но Gemini не ответил на них.
Если даже сам Google не уверен в своем тщательном выборе Примеры обзоров ИИ, вероятно, являются хорошим показателем того, что они, по крайней мере, не являются первым, что пользователи должны видеть, когда задают вопрос Google.
Недоброжелатели могут сказать, что обзоры ИИ — это просто следующий логический шаг по сравнению с панелями знаний, которые компания уже использует, где Поиск напрямую цитирует СМИ без необходимости перенаправлять пользователей на исходную веб-страницу—но Панели знаний сами по себе вызывают споры..
Чувствует ли ИИ, что ему повезло?
14 мая, в тот же день, когда были опубликованы обзоры ИИ, консультант Google Дэнни Салливан с гораздо меньшей помпой с гордостью заявил о своей поддержке веб-фильтра, еще одной новой функции, которая дебютировала вместе с обзорами искусственного интеллекта. Веб-фильтр отключает как ИИ, так и панели знаний и лежит в основе популярного взлома udm=14. Оказывается, некоторые пользователи просто хотят видеть классические десять синих ссылок.
Все это напоминает дебаты, произошедшие чуть более десяти лет назад, когда Google резко сократил присутствие фразы «Мне повезло»; кнопка. Эта необычная функция работала как прототип для обзоров искусственного интеллекта и панелей знаний: она настолько была уверена в правильности первого результата поиска Google, что просто отправляла пользователей прямо на него, а не позволяла им проверять результаты самостоятельно.
Возможности для использования вредоносного ПО или дезинформации в поиске тогда были столь же распространены, но реальным фактором смерти I’m Feeling Lucky’ было то, что никто этим не воспользовался. Составляя всего 1% поисковых запросов, кнопка просто не стоила тех миллионов долларов доходов от рекламы, которые Google терял, перенаправляя пользователей со страницы результатов поиска до того, как они успели увидеть какую-либо рекламу. (Вы по-прежнему можете использовать фразу «Мне повезет», но только на настольном компьютере и только если вы прокрутите вниз список автозаполненных поисковых предложений.)
Маловероятно, что обзоры ИИ будут такими же. «Мне повезет» в ближайшее время – компания потратила много денег на искусственный интеллект, и «Мне повезет»; Чтобы умереть, потребовалось время до 2010 года. Но, по крайней мере, на данный момент, кажется, что на сайте он занимает примерно столько же внимания, сколько и самая забытая функция Google. Тот факт, что пользователи не реагируют на эти варианты, созданные искусственным интеллектом, говорит о том, что вы на самом деле не хотите, чтобы Google гуглил за вас.
lifehacker.com
