Подписанты открытого обращения опасаются, что технология сверхмощного ИИ может появится в ближайшие один-два года и во всем превзойдет человека.
Опубликовано открытое письмо с призывом запретить дальнейшие разработки сверхразумного искусственного интеллекта до тех пор, пока это не будет контролируемо и безопасно, сообщает журнал Time.
Под обращением подписи поставили более 700 ученых, политиков, общественных деятелей, в том числе пять лауреатов Нобелевской премии и два так называемых «крестных отца ИИ».»Мы призываем к запрету на развитие сверхразума, который не должен быть снят до тех пор, пока не будет (достигнут – Sputnik) широкий научный консенсус, что это будет сделано безопасно и контролируемо», – говорится в открытом письме.
Среди подписавших письмо – соучредитель Apple Стив Возняк, экс-советник президента США Дональда Трампа по политическим вопросам Стив Бэннон, советник папы Римского Паоло Бенанти, Гарри и Меган, герцог и герцогиня Сассекские.
Письмо было подготовлено и опубликовано некоммерческой организацией Future of Life Institute. В 2023 году она уже публиковала подобное обращение, заручившись поддержкой американского предпринимателя Илона Маска и подписями более 1000 экспертов в сфере искусственного интеллекта. Авторы призывали к полугодовой паузе в разработке мощных систем ИИ. Несмотря на широкое распространение письма, оно не было принято во внимание.
Новая кампания более конкретно ориентирована на сверхинтеллект. По мнению подписантов, эта технология способна во всем превзойти человека и она может появиться уже в ближайшие годы.
Согласно опросу, приложенному к коллективному обращению, 64% американцев также выступают против разработок сверхразумного ИИ.
«Будущее искусственного интеллекта должно служить человечеству, а не заменять его», – цитирует издание слова принца Гарри, герцога Сассекского, из послания, сопровождавшего его подпись под обращением.
