Илон Маск и эксперты призывают приостановить обучение систем ИИ, более мощных, чем GPT-4

Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призывают к шестимесячной паузе в обучении систем, более мощных, чем недавно запущенная модель GPT-4 от OpenAI. Об этом они заявили они в своем открытом письме, ссылаясь на потенциальные риски для общества и человечества, передает Turanews.kz со ссылкой на Reuters.

Ранее в этом месяце компания OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы GPT (Generative Pre-trained Transformer), поразившей пользователей.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми», — говорится в письме, которое опубликовал Future of Life Institute (некоммерческая организация, работающая над уменьшением глобальных катастрофических и экзистенциальных рисков, с которыми сталкивается человечество).

В письме также подробно описаны потенциальные риски для общества и цивилизации со стороны конкурирующих с человеком систем ИИ в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками в вопросах управления и регулирования.

В Future of Life Institute призывают все лаборатории по разработке искусственного интеллекта немедленно приостановить по крайней мере на 6 месяцев обучение более мощных GPT-4 систем.

Отмечается, что Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу, чтобы совместно разработать и внедрить набор общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, тщательно проверяемых и контролируемых независимыми сторонними экспертами.

«Это не означает приостановки развития искусственного интеллекта в целом, а просто уход от опасной гонки к все большим и непредсказуемым моделям черного ящика с чрезвычайными возможностями», — говорится в письме.