"Ящик Пандоры": почему Илон Маск требует от ООН запретить роботов-убийц прямо сейчас
Ведущие мировые специалисты в области высоких технологий просят ООН запретить летальное оружие с искусственным интеллектом. Данный вопрос стал особенно актуальным за последние годы.
Обращение к ООН накануне Международной конференции по вопросам использования искусственного интеллекта (IJCAI) подписали 116 экспертов из 26 государств, среди них глава Tesla Илон Маск. В документе отмечается, что искусственный интеллект и высокие технологии в области вооружений развиваются так интенсивно, что уже в скором времени террористы и деспотичные режимы (КНДР) смогут применять их против мирного населения, а хакеры – взламывать их для реализации "неприемлемых целей". Также спровоцировать трагедию может сам ИИ по известным только ему мотивам.
Среди подписавшихся – руководители ведущего российского производителя автономных сервисных роботов в России Promobot (Пермь) Олег Кривокурцев и Алексей Южаков. Они отмечают, что "мирный" ИИ является бесспорным благом для человечества, чего нельзя сказать об автономных системах с летальным вооружением. "Боевые роботы – это второе ядерное оружие. Только представьте, что будет, если они попадут в руки террористов и будут направлены против мирных людей. Военные действия такого масштаба не дадут нам шанса", - заявил Южаков.
Разработка "роботов-убийц" ведется сегодня во многих странах, также ей занимаются ведущие корпорации в области Hi-Tech. Так, робот-охранник SGR-A1 от Samsung оснащен летальным оружием и может принимать решение об открытии огня без участия человека-оператора. Специалисты опасаются, что массовое производство таких "часовых" может привести к многочисленным инцидентам. Не отстает от остального мира и Россия: на вооружении армии РФ состоит робототехнический комплекс огневой поддержки "Уран-9".
Особое внимание на себя обращают боевые дроны, способные автоматически обнаруживать и поражать цели. В 2015 году ученые, среди которых были Маск, Стивен Хокинг и сооснователь Apple Стив Возняк, в похожем обращении к ООН сравнили такие квадрокоптеры с крылатыми ракетами. Тогда же эксперты предупредили о грядущей "третьей революции" вооружений (после пороховой и ядерной), основой которой станет искусственный разум.
Проблемы роботов-убийц тревожит мировое сообщество на уровне ООН с 2013 года. Тогда спецдокладчик организации по вопросам внесудебных и произвольных казней Кристоф Хейнс призвал не давать машинам право автономного решения об огне или ликвидации, поскольку мораль у роботов невозможна, а суть смерти "бессмертные" машины не осознают.
Тревожным сигналом для человечества стал инцидент в китайском Шеньжэне в ноябре 2016 года, когда детский учебный робот Chubby атаковал мужчину без каких-либо причин. В Сети назвали инцидент первым в истории нападением робота на человека и звоночком о грядущей войне.