В США рассказали при каких условиях могут заблокировать все ИИ

В США обсуждают законопроект, который позволит властям временно останавливать разработку и использование систем искусственного интеллекта при угрозе массовой гибели людей или крупного материального ущерба. Инициативу продвигает компания Anthropic, создавшая семейство языковых моделей Claude. Подробнее – в материале El.kz.

При каких условиях могут остановить ИИ

Законопроект предусматривает вмешательство властей, если применение искусственного интеллекта может привести к ущербу от 1 млрд долларов или гибели и тяжёлым травмам более 50 человек. Речь идёт о сценариях, связанных с разработкой биологического оружия, масштабными кибератаками или потерей разработчиком контроля над собственной моделью.

Предполагается, что потенциальные угрозы будут оценивать независимые эксперты, зарегистрированные в Министерстве торговли США. Если специалисты подтвердят серьёзность рисков, ведомство сможет обратиться в суд с требованием приостановить соответствующий проект.

Какие требования предъявят разработчикам

Инициатива предусматривает дополнительные обязанности для компаний, создающих мощные модели искусственного интеллекта. Им придётся формировать внутренние подразделения безопасности, публиковать отчёты о работе своих систем и оперативно уведомлять регулятора о серьёзных сбоях.

Отдельное положение касается сотрудников, которые сообщают о нарушениях внутри компаний. Законопроект должен защитить их от преследования за раскрытие информации о проблемах с безопасностью ИИ.

Почему Anthropic выступает за регулирование

Anthropic представляет предложенные меры как способ контролировать системы, способные причинить серьёзный вред. Законопроект предполагает участие независимых экспертов, государственных органов и суда в оценке угроз и принятии решений о временной остановке потенциально опасных проектов.

El.kz также писал о том, что в США готовятся отключить искусственный интеллект.