Google меняет правила игры для собственной ИИ-безопасности

Команду, которая проверяет Gemini на самые опасные сценарии, переводят из Google DeepMind в подразделение по связям с властями. Подробнее – в материале El.kz.

Google перестраивает систему оценки рисков своих ИИ-моделей. Команда AI Responsibility, занимавшаяся безопасностью Gemini и других систем, переходит из Google DeepMind в подразделение Global Affairs, связанное с государственной политикой и взаимодействием с регуляторами.

Речь идет о специалистах, которые исследуют потенциальные угрозы от ИИ в сферах химического, биологического, радиологического и ядерного оружия. Они также изучают поведение пользователей и возможное психологическое воздействие чат-ботов.

Что именно меняется

Раньше команда находилась внутри той же структуры, которая занимается созданием моделей. После реорганизации она окажется в другом подразделении Google, отвечающем за публичную политику и государственные связи.

Такое расположение меняет внутреннюю архитектуру контроля за ИИ. Исследователи, оценивающие риски моделей, будут организационно отделены от лаборатории, где эти модели разрабатываются и обучаются.

Что будет с исследованиями

В Google сообщили, что команда продолжит публиковать результаты исследований во внешних источниках. Это касается изучения поведения ИИ-систем и рисков, которые могут возникать при их использовании.

Для Google такая публикационная деятельность остается частью подхода к оценке безопасности моделей. Исследования позволяют обсуждать обнаруженные проблемы за пределами самой компании и сравнивать методы оценки рисков с практиками других разработчиков.

Зачем Google проводит реорганизацию

В компании объясняют перестройку стремлением объединить направления, связанные с безопасностью и ответственным развитием ИИ. Google рассчитывает, что новая структура позволит этим специалистам сильнее влиять на решения, связанные с продуктами и политикой компании.

При этом изменение подчиненности затрагивает сам принцип организации ИИ-безопасности. Оценка потенциально опасных возможностей модели теперь будет происходить внутри подразделения, тесно связанного с государственными отношениями и публичной политикой.

El.kz также писал о том, что Google представил ИИ, который переводит жестовый язык в текст.