Президент Казахстана Касым-Жомарт Токаев поддержал американское соглашение о безопасном развитии искусственного интеллекта и предложил сделать его основой международного договора. Эксперты Казахстанского института стратегических исследований и Центра стратегического развития объяснили, в чем смысл этой инициативы и что она даст стране. El.kz собрал их оценки.
Заявление прозвучало на третьем заседании Совета по развитию искусственного интеллекта. Глава государства приветствовал соглашение, которое подписали Президент США Дональд Трамп и руководители крупнейших технологических компаний.
«Полагаю, что "Вашингтонская модель" может стать основой международного договора под эгидой ООН», сказал Касым-Жомарт Токаев. Казахстан готов стать площадкой для диалога, а общее видение представят в декабре на саммите «Группы двадцати» в Майами.
Безопасность ИИ как вопрос доверия граждан
Ведущий эксперт отдела политических исследований КИСИ Нурдаулет Затилла напоминает, что ИИ в Казахстане уже работает в госуслугах, банках и здравоохранении. Чем глубже технология входит в повседневную жизнь, тем дороже обходится ее ошибка.
Отвечать перед гражданином за неверное решение алгоритма придется местной системе управления. Поэтому безопасность ИИ эксперт связывает с доверием людей к государству.
Ключевой он называет оговорку Президента о тщательном изучении документа. Соглашение добровольное и подписано только американскими компаниями, а в формате ООН голос есть у каждой страны.
Казахстан сможет участвовать в создании правил
Главный эксперт отдела глобальной экономики и устойчивого развития КИСИ Жанна Булхаирова считает главным шансом для страны участие в выработке правил. Если стандарты создает узкий круг участников, интересы государств, которые в основном пользуются готовыми технологиями, могут остаться без внимания.
Есть и экономический довод. Казахстан привлекает технологические проекты, а партнерам нужны предсказуемые правила. Единые требования повышают доверие инвесторов.
Для промышленности эксперт предлагает превратить принципы многоуровневого контроля в отраслевые требования. В энергетике, металлургии и на транспорте ошибка ИИ несет производственные риски.
Предложение закрывает главный пробел соглашения
Старший эксперт отдела глобальной экономики и устойчивого развития КИСИ Диас Кумарбеков разобрал сам документ. «Соглашение Белого дома о суперинтеллекте» подписали 29 сентября руководители американских компаний, включая OpenAI и Google. Проверяющие, сроки и санкции в нем не названы, а действует оно в пределах одной страны.
«Норму международного права создают обязательства государств, обещание компаний ее не заменяет», считает Кумарбеков. Предложение Президента, по его оценке, закрывает именно этот пробел и оставляет место для разработчиков из других стран, прежде всего китайских.
Готовность Казахстана стать площадкой опирается на опыт. В Астане проходили встречи по сирийскому урегулированию, Алматы принимала переговоры Армении и Азербайджана.
Проверка должна быть настоящей
Руководитель отдела азиатских исследований КИСИ Айдар Курмашев обращает внимание на открытые вопросы. Нужно понять, как обеспечивается независимость проверяющих, кому доступны их выводы и что происходит при серьезных нарушениях.
Доверие к механизму появится, когда компании на деле начнут устранять найденные проблемы.
Казахстану, по мнению эксперта, потребуется и собственная экспертиза. Пригодность системы для конкретной задачи нужно проверять с учетом местных условий, языка и характера данных.
Внешняя инициатива продолжает внутреннюю
Руководитель отдела медиапроектов КИСИ Жанар Тулиндинова связывает предложение Президента с экономической повесткой. Главной темой заседания была цифровая трансформация промышленности. Поддержка «Вашингтонской модели», по ее словам, дополняет национальную программу технологической модернизации.
Разработка технологий сосредоточена в отдельных странах и компаниях, а риски их применения выходят далеко за национальные границы. Инициатива открывает путь от добровольных обязательств участников соглашения к более широкой международной системе правил.
Чем глубже ИИ входит в производство и управление, тем выше значение доверия к этим технологиям. Участие в международном диалоге о правилах Тулиндинова считает частью работы над конкурентоспособностью экономики.
