NYT: обзоры ИИ от Google выдают десятки миллионов ошибок каждый час
Введенные поисковиком Google генеративные сводки AI Overviews, которые появляются на самом верху страницы на запросы пользователей очень часто ошибаются, так как берут информацию из множества источников, включая социальные сети. Об этом сообщила газета The New York Times со ссылкой на исследование компании Oumi.
Сводный результат по запросу формирует принадлежащий Google искусственный интеллект Gemini, но даже его последняя обновленная версия дает верные ответы только в девяти из 10 случаев. Но так как поисковик обрабатывает более пяти триллионов запросов каждый год, то при такой нагрузке количество ошибочных ответов составляет десятки миллионов каждый час.
Авторы исследования отметили, что система с разницей в несколько секунд может дать как верную, так и не и ошибочную информацию по одному запросу. В качестве примера авторы привели сообщение о смерти рестлера Халка Хогана. Когда они написали запрос в поисковой строке, чтобы узнать дату ухода спортсмена из жизни, то в AI Overviews появилась информация, что достоверных сведений о смерти Хогана нет.
Компания Google во время запуска третьей версии Gemini в ноябре 2025 года публично признала, что точность модели по запросам составляет всего 72%. С того времени нейросеть прошла значительное обучение, но полностью от ошибок и введения пользователей в заблуждение избавиться не смогла.
В начале апреля стало известно, что покончивший с собой весной 2025 года британский школьник узнал о способе суицида через нейросеть ChatGPT. Юноша сильно переживал из-за буллинга в учебном заведении и обошел все протоколы безопасности платформы.