Илон Маск и эксперты призывают приостановить обучение систем ИИ, более мощных, чем GPT-4
Подобные системы могут представлять серьезную опасность для всего человечества, говорится в письме.
![](https://turanews.kz/wp-content/uploads/2023/03/chatgpt--780x470.jpg)
Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призывают к шестимесячной паузе в обучении систем, более мощных, чем недавно запущенная модель GPT-4 от OpenAI. Об этом они заявили они в своем открытом письме, ссылаясь на потенциальные риски для общества и человечества, передает Turanews.kz со ссылкой на Reuters.
Ранее в этом месяце компания OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы GPT (Generative Pre-trained Transformer), поразившей пользователей.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми», — говорится в письме, которое опубликовал Future of Life Institute (некоммерческая организация, работающая над уменьшением глобальных катастрофических и экзистенциальных рисков, с которыми сталкивается человечество).
В письме также подробно описаны потенциальные риски для общества и цивилизации со стороны конкурирующих с человеком систем ИИ в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками в вопросах управления и регулирования.
В Future of Life Institute призывают все лаборатории по разработке искусственного интеллекта немедленно приостановить по крайней мере на 6 месяцев обучение более мощных GPT-4 систем.
Отмечается, что Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу, чтобы совместно разработать и внедрить набор общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, тщательно проверяемых и контролируемых независимыми сторонними экспертами.
«Это не означает приостановки развития искусственного интеллекта в целом, а просто уход от опасной гонки к все большим и непредсказуемым моделям черного ящика с чрезвычайными возможностями», — говорится в письме.