OpenAI создала «независимый» совет по безопасности для принятия решений о новых ИИ-моделях
OpenAI переименовала свой комитет по безопасности и защите в «независимый комитет по надзору за советом директоров», который сможет откладывать запуски моделей искусственного интеллекта.
Такое решение приняли после 90-дневного обзора процессов и мер безопасности в компании.Комитет возглавляет Зико Колтер, директор департамента машинного обучения Школы компьютерных наук Университета Карнеги-Меллона, а также Адам Д'Анджело, соучредитель и генеральный директор Quora, отставной генерал армии США Пол Накасоне и Николь Селигман, бывший исполнительный вице-президент и главный юрисконсульт Sony Corporation.
Комитет будет контролировать, среди прочего, процессы безопасности, направляющие разработку и развёртывание моделей OpenAI. Он «будет проинформирован руководством компании об оценках безопасности для основных выпусков моделей и будет, вместе со всем советом директоров, осуществлять надзор за запуском моделей, включая полномочия откладывать выпуск до тех пор, пока проблемы безопасности не будут решены».
Читать на habr.com