Эксперты о предложении Токаева по суперинтеллекту. Как добровольное соглашение компаний может стать договором ООН

Президент Казахстана Касым-Жомарт Токаев поддержал американское соглашение о безопасном развитии искусственного интеллекта и предложил сделать его основой международного договора. Эксперты Казахстанского института стратегических исследований и Центра стратегического развития объяснили, в чем смысл этой инициативы и что она даст стране. El.kz собрал их оценки.

Заявление прозвучало на третьем заседании Совета по развитию искусственного интеллекта. Глава государства приветствовал соглашение, которое подписали Президент США Дональд Трамп и руководители крупнейших технологических компаний.

«Полагаю, что "Вашингтонская модель" может стать основой международного договора под эгидой ООН», сказал Касым-Жомарт Токаев. Казахстан готов стать площадкой для диалога, а общее видение представят в декабре на саммите «Группы двадцати» в Майами.

Безопасность ИИ как вопрос доверия граждан

Ведущий эксперт отдела политических исследований КИСИ Нурдаулет Затилла напоминает, что ИИ в Казахстане уже работает в госуслугах, банках и здравоохранении. Чем глубже технология входит в повседневную жизнь, тем дороже обходится ее ошибка.

Отвечать перед гражданином за неверное решение алгоритма придется местной системе управления. Поэтому безопасность ИИ эксперт связывает с доверием людей к государству.

Ключевой он называет оговорку Президента о тщательном изучении документа. Соглашение добровольное и подписано только американскими компаниями, а в формате ООН голос есть у каждой страны.

Казахстан сможет участвовать в создании правил

Главный эксперт отдела глобальной экономики и устойчивого развития КИСИ Жанна Булхаирова считает главным шансом для страны участие в выработке правил. Если стандарты создает узкий круг участников, интересы государств, которые в основном пользуются готовыми технологиями, могут остаться без внимания.

Есть и экономический довод. Казахстан привлекает технологические проекты, а партнерам нужны предсказуемые правила. Единые требования повышают доверие инвесторов.

Для промышленности эксперт предлагает превратить принципы многоуровневого контроля в отраслевые требования. В энергетике, металлургии и на транспорте ошибка ИИ несет производственные риски.

Предложение закрывает главный пробел соглашения

Старший эксперт отдела глобальной экономики и устойчивого развития КИСИ Диас Кумарбеков разобрал сам документ. «Соглашение Белого дома о суперинтеллекте» подписали 29 сентября руководители американских компаний, включая OpenAI и Google. Проверяющие, сроки и санкции в нем не названы, а действует оно в пределах одной страны.

«Норму международного права создают обязательства государств, обещание компаний ее не заменяет», считает Кумарбеков. Предложение Президента, по его оценке, закрывает именно этот пробел и оставляет место для разработчиков из других стран, прежде всего китайских.

Готовность Казахстана стать площадкой опирается на опыт. В Астане проходили встречи по сирийскому урегулированию, Алматы принимала переговоры Армении и Азербайджана.

Проверка должна быть настоящей

Руководитель отдела азиатских исследований КИСИ Айдар Курмашев обращает внимание на открытые вопросы. Нужно понять, как обеспечивается независимость проверяющих, кому доступны их выводы и что происходит при серьезных нарушениях.

Доверие к механизму появится, когда компании на деле начнут устранять найденные проблемы.

Казахстану, по мнению эксперта, потребуется и собственная экспертиза. Пригодность системы для конкретной задачи нужно проверять с учетом местных условий, языка и характера данных.

Внешняя инициатива продолжает внутреннюю

Руководитель отдела медиапроектов КИСИ Жанар Тулиндинова связывает предложение Президента с экономической повесткой. Главной темой заседания была цифровая трансформация промышленности. Поддержка «Вашингтонской модели», по ее словам, дополняет национальную программу технологической модернизации.

Разработка технологий сосредоточена в отдельных странах и компаниях, а риски их применения выходят далеко за национальные границы. Инициатива открывает путь от добровольных обязательств участников соглашения к более широкой международной системе правил.

Чем глубже ИИ входит в производство и управление, тем выше значение доверия к этим технологиям. Участие в международном диалоге о правилах Тулиндинова считает частью работы над конкурентоспособностью экономики.