В открытом письме, опубликованном на сайте некоммерческой организации Future of Life Institute, Илон Маск и более чем 1000 экспертов в области искусственного интеллекта (ИИ) призвали к введению моратория на обучение мощных нейросетей. Это связано с тем, что неконтролируемый процесс в этой области может представлять угрозу для человечества. Подписанты считают, что лаборатории ИИ и независимые эксперты должны использовать эту “передышку” для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.
Однако, если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий. Параллельно эксперты предлагают изменение в политической сфере, чтобы создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем. Среди тех, кто подписал открытое письмо помимо Маска есть такие именитые специалисты как один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио, а также еще более 1100 крупнейших специалистов в области информационных технологий и машинного обучения.
Недавно компания OpenAI представила новое поколение алгоритма по обработке естественного языка – мультимодальную модель GPT-4, которая, как утверждают ее авторы, намного превосходит предыдущую версию GPT-3.5. Тем не менее, эксперты настаивают на введении моратория на обучение систем ИИ, более мощных, чем GPT-4, чтобы обеспечить безопасность новых систем.
