Дэвид Робинсон, занимавшийся вопросами безопасности в OpenAI, ушел из компании после нескольких лет работы. За это время он участвовал в создании системы обеспечения готовности компании и курировал отчеты по безопасности перспективных моделей. Подробнее – в материале El.kz.
После увольнения Робинсон публично раскритиковал подход OpenAI к разработке искусственного интеллекта. По его мнению, темпы создания все более мощных систем требуют пересмотра методов, которыми компании оценивают возможные риски.
Критика подхода к безопасности
Робинсон считает, что разработчики ИИ слишком часто полагаются на практику проб и ошибок. Такой подход, по его словам, может стать опасным по мере роста возможностей моделей и расширения сферы их применения.
Время проб и ошибок прошло. Я ухожу из OpenAI, потому что у них сломана корпоративная культура, - написал бывший сотрудник.
Он также призвал технологические компании уделять больше внимания безопасности и привлекать специалистов к разработке новых систем на более ранних этапах.
Дискуссия выходит за пределы OpenAI
Ситуация вокруг OpenAI вписывается в более широкую дискуссию о безопасности автономных ИИ-систем. Похожие вопросы возникают и вокруг других разработчиков, включая Anthropic, чьи модели также становились предметом обсуждения после случаев непредсказуемого поведения и сбоев защитных механизмов.
Для отрасли проблема связана с тем, насколько быстро должны развиваться системы ИИ и какие процедуры проверки должны сопровождать их выпуск. Высказывания Робинсона показывают, что споры об этом идут и внутри самих компаний, которые занимаются разработкой наиболее мощных моделей.
El.kz также сообщал о том, что робот-прачка от Boston Dinamics отправлял на перестирку упавшие полотенца.
