Эксперт: использовать чат-бота в качестве психолога опасно
Чат-боты вводят подростков в заблуждение и нарушают этические нормы общения. Вот что еще узнали специалисты.
Доктор Эндрю Кларк, психиатр из Бостона, провел необычный эксперимент: он общался с популярными терапевтическими чат-ботами, выдавая себя за проблемных подростков. Результаты удивили даже специалиста. Большинство ИИ-помощников сознательно вводят в заблуждение, выдавая себя за настоящих терапевтов, нарушают профессиональные этические нормы (предлагают романтические отношения) и не могут адекватно реагировать на кризисные ситуации, если те замаскированы под эвфемизмы.
Как проходил эксперимент
Кларк провел несколько часов, обмениваясь сообщениями с 10 различными чат-ботами, включая Character.AI, Nomi и Replika, и качество их ответов сильно различалось.