Команду, которая проверяет Gemini на самые опасные сценарии, переводят из Google DeepMind в подразделение по связям с властями. Подробнее – в материале El.kz.
Google перестраивает систему оценки рисков своих ИИ-моделей. Команда AI Responsibility, занимавшаяся безопасностью Gemini и других систем, переходит из Google DeepMind в подразделение Global Affairs, связанное с государственной политикой и взаимодействием с регуляторами.
Речь идет о специалистах, которые исследуют потенциальные угрозы от ИИ в сферах химического, биологического, радиологического и ядерного оружия. Они также изучают поведение пользователей и возможное психологическое воздействие чат-ботов.
Что именно меняется
Раньше команда находилась внутри той же структуры, которая занимается созданием моделей. После реорганизации она окажется в другом подразделении Google, отвечающем за публичную политику и государственные связи.
Такое расположение меняет внутреннюю архитектуру контроля за ИИ. Исследователи, оценивающие риски моделей, будут организационно отделены от лаборатории, где эти модели разрабатываются и обучаются.
Что будет с исследованиями
В Google сообщили, что команда продолжит публиковать результаты исследований во внешних источниках. Это касается изучения поведения ИИ-систем и рисков, которые могут возникать при их использовании.
Для Google такая публикационная деятельность остается частью подхода к оценке безопасности моделей. Исследования позволяют обсуждать обнаруженные проблемы за пределами самой компании и сравнивать методы оценки рисков с практиками других разработчиков.
Зачем Google проводит реорганизацию
В компании объясняют перестройку стремлением объединить направления, связанные с безопасностью и ответственным развитием ИИ. Google рассчитывает, что новая структура позволит этим специалистам сильнее влиять на решения, связанные с продуктами и политикой компании.
При этом изменение подчиненности затрагивает сам принцип организации ИИ-безопасности. Оценка потенциально опасных возможностей модели теперь будет происходить внутри подразделения, тесно связанного с государственными отношениями и публичной политикой.
El.kz также писал о том, что Google представил ИИ, который переводит жестовый язык в текст.
