Бывший ведущий ИИ-сотрудник стартапа OpenAI возглавит команду «сверхсогласованности» в компании Anthropic. Он займется «масштабируемым надзором за искусственным интеллектом, обобщением от слабого к сильному и автоматизированным исследованием согласования».
Ведущий ИИ-исследователь Ян Лейке, ранее покинувший стартап OpenAI из-за «проблем с безопасностью», присоединился к компании в области искусственного интеллекта Anthropic.
Он возглавит новую команду «сверхсогласованности». Лейке заявил, что сосредоточится на различных аспектах безопасности и защиты ИИ, включая «масштабируемый надзор», «обобщение от слабого к сильному» и исследования автоматического согласования.
Читать на incrypted.com