Исследование показало проблемы ИИ от Amazon с разными английскими диалектами

Новое исследование ученых из Корнеллского университета выявило, что искусственный интеллект (ИИ) Amazon, использующийся в качестве помощника для покупок, часто дает неполные или ошибочные ответы, когда пользователи пишут на различных английских диалектах, особенно на афроамериканском английском (AAE). Проблема усугубляется, если в запросах есть опечатки.

Ученые разработали специальную методику для оценки работы чат ботов в ситуациях, когда ИИ хуже справляется с пониманием речи пользователей, говорящих на неформальных или региональных вариантах английского языка. Это имеет важное значение, поскольку все больше онлайн-сервисов внедряют чат боты, основанные на крупных языковых моделях, для взаимодействия с клиентами.

В исследовании анализировали работу чат бота Rufus в приложении Amazon Shopping. Для тестов использовался инструмент, позволяющий переводить стандартный английский в пять различных диалектов, включая афроамериканский, чикано-английский, аппалачский, индийский и сингапурский английский. Также учитывались реальные ошибки в тексте — опечатки, пропуски знаков препинания и неправильное использование заглавных букв.

Результаты показали, что Rufus чаще ошибается и отвечает не по теме, когда запрос написан на диалектах, а не на стандартном английском. При этом качество ответов еще больше падало при наличии ошибок в запросах. Например, на вопрос о возможности стирки куртки в машине на стандартном английском чат бот отвечал верно, но на афроамериканском английском с сокращенной формулировкой он часто путался и предлагал нерелевантные товары.