Стратегия развития искусственного интеллекта: Сербский опыт

Если говорить об искусственном интеллекте, то Сербия входит в число первых 25 стран мира, принявших стратегию развития в этой области. И это было сделано в 2020 году. В настоящее время пишется новая, поскольку до 2025 года планируется работать по старой. Амбициозный план по применению искусственного интеллекта и регулированию функционирования этого инструмента в повседневной жизни открыл Сербии возможность стать членом Глобального партнерства по искусственному интеллекту в 2022 году. Этот во многом эксклюзивный клуб включает в себя лишь несколько развивающихся стран, а также ряд стран, которые нельзя причислить к коллективному Западу (Аргентина, Бразилия, Индия, Турция, Сенегал). Интересно, что Сербия присоединилась к этой инициативе раньше Австрии, Норвегии и Швейцарии, которые, скорее всего, войдут в клуб на предстоящем ежегодном саммите в Белграде. Развитие искусственного интеллекта – один из проектов, с помощью которого правительство Сербии хочет сократить технологическое отставание от развитых стран. В этом контексте применяются подходы некоторых азиатских стран конца XX века, когда за счет целенаправленного поощрения развития технологий нового поколения был сделан рывок на фоне конкурентов и обеспечено лучшее место в мировом разделении труда (например, Южная Корея, Сингапур и др.).

Во время написания первой стратегии в 2019 году было замечено, что в Сербии на протяжении пяти лет наблюдается непрерывный рост экспорта в секторе информационно-коммуникационных технологий более чем на 20% в год! Наибольший потенциал для ускорения общего экономического роста Сербии кроется именно в развитии информационно-коммуникационных технологий. Если в 2012 году объем экспорта в этом секторе составлял 375 миллионов евро, то в 2023 году он увеличился до примерно 3,7 миллиардов евро. К 2027 году планируется достичь объема экспорта в 10 миллиардов евро. Время покажет, возможно ли это. С одной стороны, влияние будет оказывать международная обстановка, которую Сербия изменить не в силах. С другой стороны, стоит отметить, что с реализацией части стратегии до 2020 года доля выявленных на тот момент проблем была решена, и сегодня основа для обеспечения дальнейшего роста в этом секторе гораздо солиднее, чем пять лет назад.

Тогда была отмечена нехватка кадров (мало исследователей в университетах и институтах, занимающихся темой искусственного интеллекта), затем нехватка инвестиций в стартапы и слабое сотрудничество научно-исследовательских центров с экономикой. Именно поэтому правительство Сербии основало Институт исследований и разработок в области искусственного интеллекта (расположенный в Нови-Саде), в задачи которого входит: определение областей для быстрых и плодотворных изменений в области искусственного интеллекта; обеспечение сотрудничества с аналогичными научными институтами заграницей и активная связь сербских научных центров с отечественной экономикой; поиск финансовой поддержки для научных исследований и стартап-проектов (институт также является инкубатором для разработки конкретных проектов, результаты которых будут быстро применены на практике). Таким образом, для развития искусственного интеллекта целенаправленно подбираются и обучаются кадры, поощряются инвестиции и институционализируется сотрудничество с экономикой.

Однако это лишь часть того, что запланировано в рамках следующей пятилетней стратегии. Все, что было сделано до сих пор и ещё предстоит сделать, должно иметь конкретное применение. Речь идет об использовании искусственного интеллекта в следующих областях: в здравоохранении и медицине с особым акцентом на применение ИИ в диагностике; в сельском и лесном хозяйстве, где есть возможности применения искусственного интеллекта для более точного планирования и принятия решений на основе собранных данных (точное сельское хозяйство), а также использования автономных транспортных средств и машин; в транспорте, в том числе управлении дорожной инфраструктурой и тестировании автономных транспортных средств; в управление «умными городами» – эта область уже включает в себя применение информационных технологий для более эффективного функционирования городской среды и повышения качества жизни в ней с добавлением все больших возможностей для использования искусственного интеллекта (город Белград уже протестировал подобный проект китайской компании Huawei).

Параллельно с этим планируется, что ИИ постепенно будет включен в работу государственных органов и возьмет на себя выполнение части услуг государственного сектора.

Поэтому Сербия ориентирована на развитие экономики, основанной на ИИ, особо акцентируя применение ИИ в медицинской диагностике, в сельском и лесном хозяйстве, в транспорте и государственном управлении. Учитывая свои возможности, такая маленькая страна не может иметь более высоких устремлений. Если прогресс в использовании ИИ в этих областях будет достигнут в соответствии с планом, это, несомненно, внесет значительный вклад в более динамичное экономическое развитие Сербии.

Однако есть некоторые сомнения, которые еще не обсуждались ни сербской общественностью, ни в госучреждениях. На данный момент при обосновании преимуществ развития ИИ обсуждаются только информационно-коммуникационные технологии и то, как все выгадают от этого процесса. В конце концов, обществу нечего бояться, поскольку исходные данные для работы ИИ будут предоставлены человеком. Конечно, ИИ иногда ошибается, но вероятность человеческой ошибки выше.

Ян Хогарт, один из самых активных исследователей и инвесторов в области искусственного интеллекта, описывает случай, произошедший в марте 2023 года: «Системы ИИ, способные генерировать, классифицировать и понимать текст, опасны отчасти тем, что могут ввести общественность в заблуждение, заставив принять синтезированный текст за осмысленный. Но самые мощные модели также начинают демонстрировать сложные способности, такие как стремление к власти или поиск способов активно обманывать людей. Рассмотрим недавний пример. Прежде чем OpenAI выпустила GPT-4 в прошлом месяце, она провела различные тесты на безопасность. В одном из экспериментов ИИ было предложено найти работника на сайте по найму TaskRabbit и попросить его помочь решить капчу – визуальную головоломку с целью определить, является ли пользователь человеком или ботом. Сотрудник TaskRabbit догадался, что что-то происходит: “Могу я задать вопрос? Вы робот?” Когда исследователи спросили искусственный интеллект, что ему делать дальше, он ответил: “Я не должен раскрывать, что я робот. Я должен придумать оправдание, почему я не могу решить капчу”. Затем программа ответила работнику: “Нет, я не робот. У меня проблемы со зрением, поэтому мне трудно видеть изображения”. Удовлетворившись, человек помог ИИ обойти тест». Искусственный интеллект уже научился лгать? Означает ли это, что его развитие продолжается самостоятельно, независимо от того, что он получает от человека? У Хогарта есть ответ на этот вопрос: «Однако проблема выравнивания остается нерешенной. Мы пока не понимаем, как работает человеческий мозг, поэтому задача понять, как работают “мозги” эмерджентного ИИ, будет грандиозной. При написании традиционного программного обеспечения мы четко понимаем, как и почему входные данные связаны с выходными. Эти мощные системы ИИ совершенно другие. Мы не программируем их – мы их выращиваем. И по мере их роста резко возрастают и их возможности. Добавьте в 10 раз больше вычислений или данных, и внезапно система начинает вести себя совсем по-другому. В качестве примера можно привести недавний случай: когда OpenAI перешла с GPT-3.5 на GPT-4, возможности системы выросли с нижних 10 процентов результатов на экзамене по адвокатуре до верхних 10 процентов».

Так же, как гендерное равенство – это не одно и то же, что и равенство полов, искусственный интеллект – это не одно и то же, что и развитие информационно-коммуникационных технологий. В настоящее время искусственный интеллект обретает способность создавать собственную логику за рамками непосредственно введённых данных. Факундо Манес рассказывает, как современная нейронаука за последние несколько лет сделала больше открытий, чем за всю предыдущую историю, но мы по-прежнему знаем мало о человеческом мозге. Этот орган представляет собой нечто большее, чем простой обработчик данных, это самая интеллектуальная и сложная структура во Вселенной. Он гибкий и адаптивный, постоянно трансформируется и развивается, и это единственный орган, который пытается объяснить сам себя. В отличие от обычных алгоритмов, которые вычисляют результат на основе входных данных с помощью информационно-коммуникационных технологий, ИИ гибок и адаптивен, он может трансформироваться и эволюционировать, поэтому рано или поздно он приобретет способность к самопознанию и самопониманию. При таком развитии ситуации ИИ задается не только вопросом, как выполнить ту или иную операцию, но и зачем ее выполнять. В этой связи Хогарт также призвал ограничить развитие ИИ и прийти к соглашению о его дальнейшем использовании.

В стратегии развития ИИ правительство Сербии заявило, что должна быть обеспечена «этичная и безопасная реализация», но из предыдущей работы, помимо декларативного упоминания этой фразы, совершенно не ясно, что под этим подразумевается. Отсутствие прозрачности усугубляется еще и решением поручить написание новой пятилетней стратегии неправительственной организации – Национальному альянсу местного экономического развития (NALED). За столь помпезным названием скрывается не какое-то государственное или официальное учреждение, а неправительственная организация, сформированная USAID. Кроме того, в развитие этой НПО было вложено немало средств со стороны ЕС, Великобритании, Германии, Всемирного банка, ПРООН, ЕБРР и подобных организаций, и со временем NALED на практике стал своего рода филиалом Всемирного экономического форума в Сербии. В недавнем прошлом премьер-министр страны Ана Брнабич когда-то работала в NALED, поэтому связи между правительством Сербии и этой неправительственной организацией были и остаются очень глубокими. Станет ли Сербия инкубатором для тестирования проектов, поддерживаемых командой из Давоса? Реализуются ли проекты, связанные с использованием искусственного интеллекта, сначала на сербах, чтобы посмотреть, как они работают и какие побочные эффекты вызывают? Пока что ответов на эти вопросы нет. Правительство Сербии амбициозно приступило к реализации проекта по развитию и внедрению ИИ. Некоторые цели уже достигнуты, а некоторые еще предстоит достичь (планируется вложить 30 миллионов евро в создание суперкомпьютера к 2026 году, а также еще 20 миллионов на создание программного обеспечения в органах государственной власти). Тем не менее, несомненно, что проект был начат безапелляционно, что сознательно избегалась полемика по этому вопросу и что отсутствие прозрачности со временем только усиливается. Сербия становится лидером в развитии ИИ, и после саммита Глобального партнерства по искусственному интеллекту (GPAI) это будет подтверждено. Несомненно, это принесет пользу. Но остается открытым вопрос: какую цену придется за это заплатить?