"Скайнет" под контролем: OpenAI представила Control Room - систему для экстренной ост
OpenAI рассказала о новой внутренней системе безопасности под названием Control Room. Она предназначена для отслеживания рабочих нагрузок моделей по всей исследовательской инфраструктуре и их быстрой остановки в случае возникновения угроз безопасности или нарушения выравнивания.
|