Опасная гонка за мощностью: бывший сотрудник OpenAI призвал изменить подход к безопасности ИИ

Дэвид Робинсон, занимавшийся вопросами безопасности в OpenAI, ушел из компании после нескольких лет работы. За это время он участвовал в создании системы обеспечения готовности компании и курировал отчеты по безопасности перспективных моделей. Подробнее – в материале El.kz.

После увольнения Робинсон публично раскритиковал подход OpenAI к разработке искусственного интеллекта. По его мнению, темпы создания все более мощных систем требуют пересмотра методов, которыми компании оценивают возможные риски.

Критика подхода к безопасности

Робинсон считает, что разработчики ИИ слишком часто полагаются на практику проб и ошибок. Такой подход, по его словам, может стать опасным по мере роста возможностей моделей и расширения сферы их применения.

Время проб и ошибок прошло. Я ухожу из OpenAI, потому что у них сломана корпоративная культура, - написал бывший сотрудник.

Он также призвал технологические компании уделять больше внимания безопасности и привлекать специалистов к разработке новых систем на более ранних этапах.

Дискуссия выходит за пределы OpenAI

Ситуация вокруг OpenAI вписывается в более широкую дискуссию о безопасности автономных ИИ-систем. Похожие вопросы возникают и вокруг других разработчиков, включая Anthropic, чьи модели также становились предметом обсуждения после случаев непредсказуемого поведения и сбоев защитных механизмов.

Для отрасли проблема связана с тем, насколько быстро должны развиваться системы ИИ и какие процедуры проверки должны сопровождать их выпуск. Высказывания Робинсона показывают, что споры об этом идут и внутри самих компаний, которые занимаются разработкой наиболее мощных моделей.

El.kz также сообщал о том, что робот-прачка от Boston Dinamics отправлял на перестирку упавшие полотенца.