Нейросеть нашла уязвимости в поведении людей и оказала влияние на принятие решений

Международная группа специалистов разработала нейронную сеть, способную определять уязвимости в поведении людей, а также манипулировать алгоритмами принятия решений. Исследование было опубликовано в журнале PNAS.

В рамках научной работы было проведено несколько экспериментов. По условиям первого испытания, добровольцы должны были нажать на квадрат определенного цвета. За правильный вариант ответа испытуемые получали вознаграждение. Однако они не знали, что на оба квадрата выпадало одинаковое количество правильных вариантов ответа.

Выигрышность квадрата определяла нейросеть. Искусственный интеллект должен был убедить участника эксперимента нажимать на квадрат «правильного цвета». Результаты первого испытания показали, что алгоритм легко справился с поставленной задачей. Нейросеть смогла оказать влияние на принятие решения человеком в 70% случаев.

Второе испытание заключалось в том, что добровольцу было необходимо выбрать определенный символ, когда он появлялся на экране. Временной интервал для принятия решения был коротким. В этом случае, искусственный интеллект воздействовал на испытуемого таким образом, чтобы человек допустил наибольшее количество ошибок.

Последний эксперимент предполагал инвестирование капитала добровольцем. Нейросеть должна была подсказать наиболее выгодный вариант сделки, оставляя себе небольшую часть средств в качестве вознаграждения. По результатам данного испытания оказалось, что нейросеть сумела убедить человека в выгодности сотрудничества, даже при том, что алгоритм обманывал своего бизнес-партнера, оставляя себе часть дохода.