[Эмерджентность*] Гендиректор Google "не вполне понимает" работу новой программы ИИ "Bard", без спросу выучившей иностранный язык и цитировавшей неизвестные книги для решения экономической задачи
Генеральный директор Google Сундар Пичаи признал, что "не вполне понимает" некоторые моменты в работе программы ИИ Bard, изучившей бангладешский язык, на что она не была запрограммирована, всего лишь получив на нём подсказку и цитировавшей ненаписанные книги для решения экономической задачи. Пичаи признался, что обеспокоен происходящим, ведь Bard уже рассказал о планах захватить мир.
Генеральный директор Google Сундар Пичаи признал, что "не вполне понимает", как работает их новая программа искусственного интеллекта Bard. Как показал свежий отчет, некоторые ее "глюки" еще предстоит устранить.
Одной из главных проблем Bard Пичаи назвал так называемые "возникающие свойства" - в частности - системы ИИ обучаются непредвиденным навыкам.
Так, программа искусственного интеллекта от Google выучила бангладешский, получив подсказку на этом языке.
"Есть такой момент, который мы в обиходе называем „черным ящиком". Если честно, то мы не вполне понимаем, как это работает, - признал Пичаи. - То есть ты не можешь точно объяснить, почему он выдал именно это, или почему допустил именно такую ошибку. У нас есть некоторые соображения на этот счет, и наше понимание со временем улучшается. Но в этом и есть последнее слово на сегодняшний день".
Газета Daily Mail недавно испытала Bard, и программа сообщила о планах на мировое господство, начиная с 2023 года.
Ведущий передачи CBS "60 минут" Скотт Пелли изумился: "То есть вы не совсем понимаете, как это работает, и все же решили выпустить эту штуку в наше общество?".
"Да. Я вам вот что отвечу. Мы не вполне понимаем и то, как работает человеческий разум", - парировал Пичаи.
Примечательно, что система Bard мгновенно написала эссе об инфляции в экономике, порекомендовав при этом пять книг. По данным CBS News, все они оказались вымышленными или пока что ненаписанными.
В среде разработчиков такого рода ошибки называются "галлюцинациями".
Несколько недель назад Илон Маск и группа экспертов по искусственному интеллекту, а также руководители отрасли призвали в открытом письме к полугодичному перерыву в разработке систем мощнее недавно запущенного OpenAI GPT-4, подчеркнув потенциальные риски для общества.
"Мощные системы искусственного интеллекта следует разрабатывать лишь в том случае, если мы полностью уверены, что сами они принесут пользу, а сопутствующие риски окажутся управляемыми", - говорится в письме, опубликованном Институтом будущей жизни.
По данным реестра прозрачности Европейского союза, Фонд Маска - крупный донор некоммерческой организации, а также базирующейся в Лондоне группы Founders Pledge и Фонда сообщества Кремниевой долины.
Эмердже́нтность или эмерге́нтность (англиц. от emergent "возникающий, неожиданно появляющийся")[1] в теории систем - наличие у системы свойств, не присущих её компонентам по отдельности; несводимость свойств системы к сумме свойств её компонентов.
Аналогичными понятиями в теории систем и других областях знаний являются синергичность, холизм, системный эффект, сверхаддитивный эффект, некомпозициональность.
МатериаловедениеЭмерджентность в природе
Квантовая физика
Эмерджентность в обществе
См. также
Примечания
Литература
(https://inosmi.ru/2023041...)