Искусственный интеллект – царь глобальной цензуры?

10 августа на портале Всемирного экономического форума (ВЭФ) была опубликована статья The solution to online abuse? AI plus human intelligence (Решение проблемы онлайн-злоупотреблений? ИИ плюс человеческий интеллект).

Автор статьи вице-президент израильской компании Active Fence «с опытом работы в разведке» Инбал Голдбергер, предлагает объединить сеть искусственного интеллекта с человеческим интеллектом для борьбы с «темным миром онлайн-злоупотреблений» – с «экстремизмом, дезинформацией и разжиганием ненависти».

Искусственный интеллект (ИИ) компьютерных программ, по мнению Голдбергера, зачастую не может понять «словесные формулировки групп ненависти», он не достиг «свободного владения террористическими языками и тонкого понимания кампаний по дезинформации».

«Например, существуют надежные модели ИИ для обнаружения наготы, но лишь немногие могут различить, является ли эта нагота частью картины эпохи Возрождения или порнографического изображения. Точно так же большинство моделей не могут понять, используется ли нож, показанный в видео, для рекламы оборудования мясника или для насильственного нападения. Этой зияющей дырой могут воспользоваться злоумышленники».

У модераторов, удаляющих «нежелательный» контент, не хватает сил и знаний, чтобы занести в черные списки все дезинформационные сайты. «В отличие от ИИ, модераторы-люди и эксперты в предметной области могут выявлять нюансы онлайн-злоупотреблений… Эта точность, однако, ограничена конкретной областью знаний аналитика: модератор-человек, который является экспертом в области превосходства белых в Европе, не обязательно сможет распознать вредоносный контент в Индии или дезинформационные нарративы в Кении».

Голдбергер делает заявку на глобальную цензуру: мол, в Европе модераторы на высоте, а вот до Индии и Кении пока не добрались. Подразумевается, что самим индусам, африканцам, арабам, а также китайцам и русским доверить контроль за информацией в Интернете нельзя.

Чтобы борьба с «оскорбительным контентом» стала в полном смысле глобальной, Голдбергер предлагает объединить усилия ИИ (масштабирование угроз) с разумом специалистов-страноведов.

Мировые сети всколыхнулись: «Всемирный экономический форум Клауса Шваба предлагает автоматизировать цензуру «языка ненависти» и «дезинформации» с помощью ИИ, подпитываемого «экспертами в предметной области». Такой симбиоз человека и машины называют гибридным интеллектом, но Голдбергер избегает этого термина, поскольку сфера гибридного интеллекта является одним из основных направлений НИОКР американских спецслужб по линии Агентства передовых исследований (IARPA) в области так называемой упреждающей разведки (Anticipatory Intelligence).

В 2017 году IARPA запустила разработку «системы гибридного прогнозирования человек-машина (human-machine hybrid forecasting system) таких проблем, как вспышки болезней, колебания фондового рынка, выборы, межгосударственные конфликты». В частности, проект «Синергетическое предвидение геополитических событий» (SAGE) возглавил глава исследовательской группы по машинному интеллекту и базам данных Университета Южной Калифорнии Арам Галстян. Отрабатывалась «обратная связь между человеком и компьютерным интеллектом». В налаживании такой обратной связи и видит перспективы глобальной цензуры Инбал Голдбергер.

Проект SAGE является частью более масштабной программы Hybrid Forecasting Competition (HFC), которую курирует Управление директора национальной разведки (ODNI) США. Программа HFC направлена на сравнение эффективности «различных гибридов человека и машины при предсказаниях реальных событий путем слияния человеческих суждений с информацией из таких источников, как традиционные новостные репортажи, социальные сети и финансовые показатели», – сообщили в ODNI.

Возможностями использования гибридного интеллекта в разведывательных целях в США занялись по той причине, что предыдущие проекты такого рода были провалены. Провалился проект FutureMap. Провалился проект разведывательного прогнозирования с помощью краудсорсинга; его точность оказалась менее 48%, то есть хуже, чем при подбрасывании монеты (орёл-решка).

Не удался и проект упреждающей разведки с помощью гибридного интеллекта. На это направление сейчас перебросили Илона Маска, который оперативно перестроился с обещаний отправить людей на Марс и пустился в рассуждения о том, что люди должны в ближайшее время слиться с искусственным интеллектом.

По утверждению главы Управления цифровых технологий ЦРУ Эндрю Хеллмана, американская упреждающая разведка научилась с высокой точностью прогнозировать вспышки нестабильности, конфликты и террористических атак за 3-5 дней до того, как они произойдут. Однако «предсказательные возможности с горизонтом событий в 3–5 дней могут устроить разве что обывателей, собирающихся на пикник в ближайший уикенд и интересующихся погодой. Для упреждающей разведки социальной нестабильности и конфликтов позарез необходим горизонт прогнозирования хотя бы в пару недель, а по-хорошему в 3–5 недель», – говорит ведущий российский IT-аналитик Сергей Карелов.

На фоне неудач с использованием гибридного интеллекта, похоже, решено не пытаться предсказывать будущее, а спроектировать его, как учил нобелевский лауреат Дэннис Габор. То есть заняться социальной инженерией.

Статья Инбал Голдбергера на сайте ВЭФ вызвала много шума. «ВЭФ планирует использовать технологию искусственного интеллекта для борьбы с “разжиганием ненависти и дезинформацией”, и теперь все, что идет вразрез с их повесткой, будет считаться дезинформацией… Давайте назовем это глобальной диктатурой в процессе становления», – пишет британская журналистка Софи Коркоран.

«Инбал Голдбергер продвигает ИИ как царя цензуры… Похоже, она совсем слилась к командой Байдена», – отмечают в соцсетях.

«Группа, стоящая за “Великой перезагрузкой”, продвигает глобальную цензуру по схеме «ИИ плюс человеческий интеллект». «Всемирный экономический форум (ВЭФ) предложил новый способ цензуры онлайн-контента, который требует, чтобы небольшая группа экспертов обучала искусственный интеллект выявлению «дезинформации» и оскорбительного контента», – гласят заголовки.

Так или иначе, практическими успехами попытки введения глобальной цензуры с помощью искусственного интеллекта не отмечены. Пока что много шума из ничего.

Владимир Прохватилов, по материалам: Фонд стратегической культуры