ИИ под запретом? Звёзды и учёные против сверхразума
Более 800 влиятельных фигур — от учёных до мировых знаменитостей — подписали открытое письмо, в котором призывают немедленно прекратить разработку так называемого «сверхинтеллекта» — искусственного разума, способного превзойти человека по интеллекту.
Среди подписантов — «крёстный отец ИИ» Джеффри Хинтон, писатель Стивен Фрай, Меган Маркл, Стив Возняк, Чжан Яцинь и Ричард Брэнсон. Письмо опубликовано организацией Future of Life Institute и поднимает вопрос безопасности технологий, развитие которых опережает их регулирование, пишет PEPELAC.NEWS.
Инициаторы обращения настаивают на введении моратория на создание универсальных ИИ-систем до тех пор, пока научное сообщество и общественность не выработают чёткие рамки и гарантии контроля. По данным FLI, только 5% американцев поддерживают развитие ИИ без ограничений, в то время как подавляющее большинство выступает за строгие меры.
Угроза исходит не от конкуренции стран или компаний, а от риска утраты человеком контроля над созданными им же автономными системами. Речь идёт не об отказе от ИИ как такового, а о предотвращении возможных катастрофических последствий его бесконтрольной эволюции.
Особенно на фоне того, что крупнейшие игроки вроде OpenAI и Google уже приближаются к созданию универсального искусственного интеллекта. Письмо отражает растущее беспокойство не только научного сообщества, но и широкой общественности. Масштабная гонка в области ИИ может обернуться не технической революцией, а потенциальным кризисом — как технологическим, так и социальным, если общество не успеет подготовиться к последствиям.
