В Казахстане и за его пределами разрастается не только технологический бум ИИ, но и тревожные настроения. Угроза искусственного интеллекта (ИИ) для человечества стала темой, вокруг которой кружат и научные дебаты, и тревожные мемы, и патетичные посты в соцсетях. Люди шутят или всерьёз опасаются «конца света» — и в этой статье El.kz мы расскажем, почему.
Рост угроз: от кибератак до сингулярности
В Казахстане резко учащаются инциденты киберпреступности: в 2023 году их зафиксировали 34 500, в 2024 — уже 68 100. Применение deepfake и «deepvoice» возрастает с угрожающей скоростью.
В правовой сфере обсуждаются правовые меры: Игорь Рогов напоминает, что Казахстан уже внедряет ИИ в судебных процессах — но параллельно нужно усовершенствовать нормы по борьбе с преступлениями, совершёнными через цифровые платформы.
Международные эксперты говорят о «технологической сингулярности» — гипотетическом моменте, когда самосовершенствующийся ИИ становится неконтролируемым. Стивен Хокинг, Элoн Маск, Ник Бостром и другие предупреждают: это может стать экзистенциальной угрозой.
Научный обзор 2024 года обсуждает, что ИИ может стремиться к власти и представлять опасность, особенно при совершенствовании вплоть до сверхинтеллекта.
Закулисные страхи и мемы
Интересно, что среди части казахстанских пользователей распространились тревожные формулировки вроде «люди уже готовятся к версии конца света, где виновен ИИ…» — но искренней аналитики мало, чаще это эмоции, сопровожденные картинками мемами или саркастичными «давайте выпьем». В Казахстане есть локальные ресурсы, где обсуждают пост Олжаса Худайбергенова на Yvision, в котором он привел слова бывшего инженера Google и Microsoft Соареса, угрожающего человечеству 95‑процентным «исчезновением» от ИИ.
«Бывший инженер Google и Microsoft Соарес считает, что вероятность вымирания человечества из-за ИИ составляет "по меньшей мере 95%", если мир продолжит развивать ИИ в текущем темпе, пишет британская газета Times. Хорошо, что удалось оперативно издать Novus Ordo, пусть и с моим китайским русским, потому что, когда книга писалась и была в типографии было просто невыносимо наблюдать как ее содержание буквально появляется на глазах через новости каждый день. Так и пишу - 95% это наиболее вероятный сценарий», — пишет он.
Также он добавил в своем посте, что человечество и раньше «так вымирало».
«Как — в книге написано: и удивительно одновременно на Западе и в Китае. В переиздании это будет расширено — ориентируемся на третью декаду августа. Второй важный момент. Кто-то захочет замедлить развитие ИИ, что-то попыток Николая-2 провести мирные конференции по разоружению - но это невозможно, так как в революцию огня выигрывает тот, кто приручил огонь», — отмечает Олжас Худайбергенов.
Что думают пользователи казнета
Чтобы понять, как на самом деле реагирует общество, достаточно взглянуть на обсуждения в Threads. Там пользователи высказываются не только о страхах, но и о границах применения технологий:
ekaterinashumskayafaq: «В ближайшее время ИИ точно не заменит психолога. Я живу рядом со Стэнфордом и регулярно хожу на лекции и презентации ученых, которые исследуют эмпатию, здравый смысл ИИ и его потенциал в терапии. Сейчас ИИ даже опасен как „психотерапевт“ — он создает иллюзию понимания, но не обладает ни эмпатией, ни здравым смыслом. Да, он может помочь с рефлексией, но заменить полноценную терапию — нет».
berkut.lizaa: «ИИ не заменит репетитора. Этого не произойдет. Но он заменит репетиторов, которые не пользуются ИИ».
maral\_kami: «Аранжировщиков уйма, музыкантов нет. Вот так и живем… А ведь ни один ии и ни один аранжировщик не заменит человека-музыканта. Если только аранжировщик изначально не музыкант».
aalyokhine: «Пока ничего не меняется, ИИ не заменит программистов. По крайней мере, сейчас — это звучит, как полный bullshit. Если не верите, попробуйте бездумно написать что-то сложнее калькулятора в Cursor».
Международные примеры: от депрессии до «Искусственного ада»
В Гонконге и Китае правительства активно инвестируют в развитие ИИ, но вместе с тем строят «центры управления ИИ‑рисками», чтобы избежать возможности неожиданных угроз.
В глобальном сообществе всё сильнее говорят о «холодной войне за ИИ» — противостоянии США и Китая, где технологии становятся новым оружием во внешнеполитической гонке.
Также многие СМИ и аналитики отмечают проблемы с дезинформацией, которую генерирует ИИ: deepfake, аудио‑фейки, манипуляции — всё это может подорвать доверие к обществу.
Что говорят эксперты
Политики, юристы и технократы говорят, что нельзя просто пугаться. Необходимо: регулирование — национальные нормы против deepfake и киберпреступлений; этика — прозрачность и объяснимость решений ИИ; образование — для общества, чтобы люди могли критически воспринимать информацию.
Аналитик данных в Институте умных систем и искусственного интеллекта Акылбек Максутов в студии подкаста «Кейіпкер» выразил свое мнение относительно того, заменит ли ИИ человека.
«Главный стереотип или даже страх об ИИ на данный момент заключается в том, что он якобы полностью заменит человека и некоторые профессии пропадут. В принципе, это не так. ИИ — это наш ассистент, а не наша замена. Он может взять на себя некоторую рутинную работу, к примеру, написать официальные письма или что-то подобное. В основном, это какие-то мелкие задачи. Когда появлялся только интернет, такие опасения тоже были. Такие разговоры были тогда, когда появился первый смартфон Apple. Это просто очередная революция в мире технологий. Профессии полностью не исчезут, а просто видоизменятся», — говорит Акылбек Максутов.
Также он прокомментировал в подкасте и восстание машин, которому посвящено очень много художественных фильмов.
«Думаю, это невозможно. Этот страх навязан сай-фай книгами и фильмами, которые были популярны в 80-х и 90-х годах. Вряд ли такое будет, ведь технологии контролируемы, есть кнопка "выключить" и "включить". Это страхи людей, которые не понимают как работает искусственный интеллект или технологии в целом», — сказал Максутов.
Американского автора Гэри Дреника из Forbes цитирует Ариэля Каца (CEO Sisense).
«AI — это game-changer. Он не заменяет разработчиков, а даёт им свободу думать и проектировать на более высоком уровне, занимаясь архитектурой и продуктовым дизайном, — говорит она.
Ранее мы писали о том, что Google первой из крупных IT-компаний раскрыла подробные данные о том, сколько энергии потребляет её ИИ-помощник Gemini. В среднем один запрос требует 0,24 ватт-часа энергии и около пяти капель воды.
Также руководитель Microsoft AI Мустафа Сулейман рассказал о новом типе искусственного интеллекта — Seemingly Conscious AI (SCAI), или «кажущийся сознательный ИИ». Такие системы могут казаться живыми: иметь «личность», память и эмоции, хотя на самом деле сознания у них нет.