Толкование всплеска использования искусственного интеллекта, риски, выгоды и глобальный рынок
Когда очень влиятельные компании требуют дополнительных правил, это обычно потому, что они хотят, чтобы политика укрепила их доминирующее положение и воздвигла недоступные барьеры для новых, потенциальных конкурентов
За последние три года игра в шахматы переживает бум. Никогда так много людей не двигало свои пешки на виртуальных шахматных досках. Возрождение игры началось с пандемией и карантином в 2020 году, стало тенденцией с выходом на Netflix сериала «Королева шахмат», это был главный герой самого популярного поста 2022 года, где Лионель Месси и Криштиану Роналду играют вместе и был у всех на слуху из-за споров по поводу молодого Ганса Ниманна, обвиненного в мошенничестве. Chess.com, самое известное игровое приложение, зафиксировало такое количество обращений, что в течение января 2023 года его серверы часто «отключались», а многие игры прерывались по техническим причинам.
Будет удивительно узнать, что перед лицом такого количества болельщиков лучший игрок в мире – не человек, а компьютер.
Компьютерные шахматы прошли долгий путь за последние двадцать лет. Шахматная программа IBM, Deep Blue, в 1997 году сумела победить действующего чемпиона мира среди людей Гарри Каспарова вплоть до Stockfish, компьютера, победившего всех конкурентов. По крайней мере, до 5 декабря 2017 года. В этот день по миру разошлось объявление о создании AlphaZero – алгоритма машинного обучения, созданного исследователями DeepMind, компании по искусственному интеллекту, принадлежащей Google.
АЛЬФАЗЕРО
Предки AlphaZero имели многолетний человеческий опыт от гроссмейстеров, запрограммированные в движках в виде сложных оценочных функций, которые говорили, что искать в локации, а чего избегать, но все же им не хватало интуиции, и они играли как настоящие машины: невероятно быстрые и сильные.
AlphaZero совершил революцию. Он играл против самого себя в течение четырех коротких часов, обновляя свою нейронную сеть по мере того, как он учился на своем опыте. Он сам открыл для себя принципы игры в шахматы и быстро стал лучшим игроком всех времен. Он не только смог легко победить всех сильнейших мастеров человечества, но и уничтожил бедного Стокфиша, действующего чемпиона мира по компьютерным шахматам. В ста играх против AlphaZero было двадцать восемь побед и семьдесят две ничьи. Он не проиграл ни одной игры.
В то время как разум возвращается к молодому Дэвиду Дж. Лайтману в роли занудного подростка, который в «Военных играх» 1983 года учит компьютер неизбежности массового уничтожения с помощью игры в крестики-нолики, никто не может помочь. но начинают опасаться риска того, что ИИ догонит нас и наш вид вымрет.
БУМ ИИ
С запуском новых искусственных интеллектов, прежде всего ChatGpt, а также Барда, Эрни и Бинга, тема снова поднимается и сталкивается с судьбоносным вопросом циничного главного редактора «А по-вашему, мы говорим об этом в барах?», ответ утвердительный. ИИ у всех на слуху, в том числе из-за недавних заявлений, подписанных 350 экспертами, включая Сэма Альтмана, отца ChatGpt. В письме они объяснили, что: «Снижение риска исчезновения, вызванного ИИ, должно быть глобальным приоритетом, наряду с другими социальными рисками, такими как пандемии и ядерная война».
Альтман является одним из основателей и генеральным директором OpenAi, компании, производящей ChatGpt. Как и другие провидцы до него (Цукерберг или Маск, к слову), он заявляет, что заинтересован в том, чтобы следить за благополучием человечества, а не думать о прибыли. В манифесте компании он пишет: «Наша миссия состоит в том, чтобы искусственный общий интеллект – системы ИИ, которые, как правило, более разумны, чем люди, – приносил пользу всему человечеству. Если искусственный общий интеллект будет успешно создан, эта технология может помочь нам возвысить человечество за счет увеличения изобилия, ускорения глобальной экономики и стимулирования открытия новых научных знаний, которые раздвигают границы возможного. ИИ может дать каждому удивительные новые возможности; мы можем представить себе мир, в котором у всех нас есть доступ к помощи почти для всех когнитивных задач, обеспечивающих большую мультипликационную силу для человеческой изобретательности и творчества.
АЛЬТМАН И ОПЕНАЙ
Альтман кажется заслуживающим доверия, в том числе в его заявлениях, что он не заинтересован в простой экономической выгоде. На самом деле OpenAi родилась как некоммерческая организация, следуя идеалу спасения мира с помощью технологий. Однако реальность стучится в двери самых прославленных провидцев, поэтому в 2019 году была создана OpenAi LP, чтобы заниматься разработками в ближайшем будущем, гибрид между коммерческой компанией и некоммерческой, которую они называют ограниченной прибылью. Новая компания собирает гораздо больше денег, немного искажая себя, т.е. разглашая мало информации о своих моделях.
В отличие от OpenAI, новый OpenAI LP может приносить прибыль, а участники могут получить до 100-кратного увеличения первоначальных инвестиций. После их достижений, прибыль поступает в некоммерческую организацию, которая направляет ее на образовательные программы и правозащитную деятельность.
Что утешает искушение миллиардов в том, что может быть одним из самых опасных видов оружия человека?
Генеральный директор и основатель не может так разбогатеть, поскольку он не является акционером, и это кажется хорошим знаком для того, чтобы проект остался нетронутым.
Постоянные упоминания Альтманом опасностей ИИ, также присутствующие в манифесте, показывают, что он хорошо осведомлен о том, что у него в руках.
«С другой стороны, – пишет управляющий директор, – ИИ также сопряжен с серьезным риском неправильного использования, серьезных аварий и социальных волнений. Поскольку преимущества ИИ настолько велики, мы не считаем возможным или желательным для компании останавливать свое развитие навсегда; наоборот, общество и разработчики ИИ должны найти способы сделать это правильно».
Это справедливо приносит с собой преимущества, но также и экзистенциальные риски, которые все еще остаются. Из Стэнфорда в интересной статье профессор Чарльз Джонс выделяет, среди других выводов, например, что «один из способов, которым может быть оптимальным принять большее количество экзистенциального риска, – это если ИИ приведет к новым инновациям, которые улучшат ожидаемую продолжительность жизни. Улучшение смертности и экзистенциальный риск измеряются в одних и тех же единицах и не противоречат убывающей предельной полезности потребления.
АПОКАЛИПСИС И РЫНОК
Риск соизмерим с использованием, но постоянен в выступлениях Альтмана и других экспертов в области ИИ: упоминание Апокалипсиса. Стефано Фельтри в своем информационном бюллетене Заметки дал интересное представление обо всем этом, которое выводит вопрос на более широкий уровень, переплетая его с геополитическими сюжетами. «Когда очень влиятельные компании просят ввести больше правил, это обычно происходит потому, что они хотят, чтобы политика укрепила их доминирующее положение и воздвигла барьеры, недоступные для новых потенциальных конкурентов. Если искусственный интеллект станет вопросом национальной безопасности или даже глобальной безопасности, Альтман и его последователи будут иметь максимально возможную защиту от угроз, исходящих от рынка (конкуренция и общественное недовольство). Остановка исследований невозможна, иначе китайцы просто получат контроль над технологией, которая может привести к вымиранию человечества, – это одно из сообщений, содержащихся в этом кратком заявлении. Поэтому единственным решением для компаний, работающих в такой деликатной области, является сотрудничество с политиками и регуляторами».
У китайцев уже есть то, что считается прямым конкурентом ChatGpt, Ernie Bot. В более широком контексте открытой вражды между Соединенными Штатами и Народной Республикой лоббирование защиты своего рынка правительством США может стать консолидированной реальностью.