Маск, Возняк и более 1000 экспертов призвали приостановить обучение нейросетей

Глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк, а также свыше тысячи экспертов в области искусственного интеллекта и представителей IT-индустрии подписали открытое письмо с призывом как минимум на полгода приостановить обучение нейросетей более производительных, чем недавно представленная GPT-4 компании OpenAI.По их мнению, мораторий необходимо ввести немедленно, поскольку существуют серьезные риски для общества.

Текст письма опубликовал некоммерческий Институт будущего жизни (Future of Life Institute).Авторы призвали «поставить на паузу» разработку ИИ до тех пор, пока для отрасли не разработают общие протоколы и стандарты безопасности, применение которых будет контролироваться независимыми аудиторами.В письме подчеркивается, что мощные нейросети должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми.

Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны ИИ-систем, способных конкурировать с человеком, поскольку такая конкуренция может привести к экономическим и политическим потрясениям.«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества.