Сотрудники Google назвали чат-бот Bard «бесполезным» и «патологическим вруном»
В ходе внутренних дискуссий один из сотрудников отметил, что Bard часто давал пользователям опасные советы на такие темы, как посадка самолета или плавание под водой. Другой сказал: «Бард хуже, чем бесполезен: пожалуйста, не запускайте». Компания даже отменила оценку рисков, представленную внутренней группой безопасности, заявив, что система не готова для общего использования. Но ранний доступ к экспериментальному боту тем не менее был открыт еще в марте.
Отчет Bloomberg иллюстрирует, что Google, по-видимому, отодвинула на второй план этические соображения, пытаясь не отставать от конкурентов — Microsoft и OpenAI. Компанию давно критикуют за то, что вместо безопасности и этики в области ИИ, она отдает приоритет бизнесу. Недавно стало известно, что Google https://hightech.plus/2023/04/18/google-vipustit-novie-ii-in... новые поисковые инструменты на базе ИИ в следующем месяце, а осенью в сервисах компании появится еще больше ИИ-функций.
В конце 2020 - начале 2021 года компания уволила двух исследователей — Тимнита Гебру и Маргарет Митчелл — после того, как они написали исследовательскую работу, раскрывающую недостатки в тех же языковых системах ИИ, которые лежат в основе чат-ботов, таких как Bard.
Но есть и другая точка зрения. Многие считают, что для разработки и защиты ИИ-систем необходимо публичное тестирование и что вред от чат-ботов минимален. Языковые модели действительно производят токсичный текст и предлагают вводящую в заблуждение информацию, но то же самое делают бесчисленные источники в интернете. Оппоненты возражают: обращение пользователя к ненадежному источнику информации — не то же самое, что предоставление ему этой информации напрямую от системы ИИ, которая позиционирует себя как надежная. Впрочем, критикуют и Microsoft, и OpenAI. Но, как https://www.theverge.com/2023/4/19/23689554/google-ai-chatbo... The Verge, они не лидеры в поисковом бизнесе и «терять им меньше».
Брайан Гэбриел, представитель Google, сказал Bloomberg, что этика ИИ остается главным приоритетом для компании. «Мы продолжаем инвестировать в команды, которые работают над применением наших принципов искусственного интеллекта к нашей технологии», — сказал он. СМИ, сравнивающие Bard с чат-ботом Bing от Microsoft и ChatGPT от OpenAI, обнаружили, что система Google менее полезна и точна, чем ее конкуренты.