В нескольких словах
Google начал развертывание функции ИИ-обзоров в поиске, которая предоставляет сводные ответы, но столкнулся с проблемой неточностей и ложной информации. Пользователям рекомендуется проверять данные из ИИ-обзоров, переходя по ссылкам на источники, из-за потенциальных ошибок системы.
Google начал массовое развертывание функции ИИ-обзоров (AI Overviews) в своей поисковой системе. Эта технология, основанная на искусственном интеллекте, призвана предоставлять пользователям сводные ответы на их поисковые запросы прямо в результатах поиска, экономя время и предлагая быстрый доступ к информации. Однако, несмотря на потенциальные преимущества, эксперты и пользователи призывают использовать новую функцию с большой осторожностью.
Функция ИИ-обзоров работает путем анализа информации с различных веб-сайтов, найденных Google, и генерирования краткого суммаризированного ответа. Идея заключается в том, чтобы дать пользователю самую релевантную информацию без необходимости переходить по множеству ссылок. Google позиционирует это как следующий шаг в эволюции поиска, делая его более удобным и эффективным.
Тем не менее, тестирование и раннее внедрение ИИ-обзоров выявили ряд серьезных проблем. Одной из самых обсуждаемых стала склонность системы генерировать фактически неверные или даже абсурдные ответы. В интернете появилось множество примеров, где ИИ-обзор давал опасные медицинские советы, рекомендовал употреблять несъедобные или ядовитые продукты, или приводил совершенно вымышленные факты по истории или науке. Это вызвало серьезную обеспокоенность по поводу распространения дезинформации.
Проблема связана с тем, что ИИ обучается на огромных массивах данных из интернета, который содержит не только проверенную информацию, но и мифы, фейки и юмористический контент. Система пока не всегда способна reliably отличать достоверные источники от недостоверных, что приводит к «галлюцинациям» и ошибкам.
Кроме того, есть опасения относительно влияния ИИ-обзоров на веб-сайты, которые являются источниками информации для Google. Если пользователи будут получать ответы напрямую в поиске, они могут реже переходить на сайты, что потенциально снизит трафик для контент-мейкеров и издателей.
Пользователям рекомендуется критически оценивать информацию, предоставляемую ИИ-обзорами, особенно по важным вопросам, таким как здоровье, финансы или технические инструкции. Всегда полезно проверять информацию, переходя по ссылкам на исходные источники, которые Google приводит под ИИ-обзором.
Google заявляет, что активно работает над улучшением точности и безопасности функции, но признает, что процесс обучения ИИ требует времени и постоянной доработки. Пока же пользователям стоит помнить о потенциальных рисках и использовать ИИ-обзоры как дополнение к традиционному поиску, а не как единственный источник истины.
