«Так как цифровые технологии все лучше справляются с тем, что обычно делают люди, то упор следует делать на защите людей, на том, как различать людей и машины, и как создать надежные опознавательные сигналы, кто есть кто», – написала Зейнеп Тюфекчи в «Твиттере».
«С вами говорит робот»: Google обещает предупреждать живых людей
Компания Google обещает предпринять меры, чтобы граждане, которым будет звонить с коммерческими или деловыми целями бот, не спутали его с живым человеком.
Новая разработка – бот Duplex – синтезирует человеческую речь так качественно, что на слух никаких машинных интонаций уловить невозможно.
Все, кому позвонит бот, будут предупреждены, что с ними разговаривает компьютер, заявили представители компании информационному изданию Verge.
Способности бота Duplex имитировать голос человека были продемонстрированы на этой неделе на организованной Google конференции разработчиков. Бот позвонил в парикмахерскую, чтобы зарезервировать время стрижки.
Как минимум одна из экспертов сказала, что была «в ужасе» от увиденного.
Социальные последствия
В заявлении Google говорится, что компания оценила все аргументы, выдвинутые при обсуждении новой разработки, и понимает важность честного и прозрачного использования новых технологий.
«В эту программу будет встроена функция полной гласности с тем, чтобы эту систему можно было идентифицировать», – говорится в документе.
Программа Duplex прямо на сцене позвонила в парикмахерскую. Генерируемый компьютером голос применял разговорные выражения, делал паузы и даже перефразировал самого себя, то есть звучал как настоящий человек.
Голос контролировала программа DeepMind WaveNet компании Google, Программа научилась звучать по-человечески, выслушав множество разговоров между людьми, для того, чтобы понять как именно им подражать.
Google заявляет, что программа направлена на то, чтобы поддерживать «естественный» разговор в реальном мире через смартфон пользователя.
В заявлении Google сказано, что компания ценит полученные комментарии и критику и что все замечания будут учтены до запуска окончательной версии этой программы.
Демонстрация голосовых способностей Duplex испугала профессора университета Северной Каролины Зейнеп Тюфекчи, которая изучает взаимное влияние новых технологий и общества. Она назвала программу пугающей и охарактеризовала ее как «очевидное зло».
Несколько позднее она написала в «Твиттере», что это прямой, сознательный обман пользователей.
Профессор Тюфекчи также выразила удивление тем, что проект WaveNet не был закрыт еще на начальных этапах и дошел до стадии публичной презентации.