Tech Xplore: ИИ может стать полностью автономным, если его не контролировать
Роман Ямпольский, ученый из Университета Луисвилля в США, выразил опасения относительно того, что искусственный интеллект (ИИ) может выйти из-под контроля человечества. Издание Tech Xplore сообщило, что в своей новой книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый» Ямпольский обсуждает вероятность экзистенциальной катастрофы, связанную с неограниченным развитием новых технологий.
Он подчеркивает, что человечество может потерять контроль над ИИ, что является почти гарантированным событием. Ямпольский указывает на наивность предположений о том, что действия ИИ всегда можно будет объяснить, утверждая, что способность человека создавать интеллектуальное программное обеспечение значительно превышает способность его контролировать.
Он предостерегает от опасности принятия ответов ИИ без понимания их происхождения, что может привести к неправильным или манипулятивным выводам. В заключение, Ямпольский призывает к поиску баланса между развитием высокоразвитого ИИ и обеспечением безопасности, подчеркивая необходимость иметь возможность отменять любые действия или решения, принятые искусственным интеллектом.
