Нейросеть обучилась находить в поведении людей уязвимости и влиять на решения

Ученые во время исследования заявили, что искусственный интеллект может находить слабости человека и использовать их для манипулирования

Научный журнал PNAS опубликовал результаты исследования по влиянию искусственного интеллекта на человека. Как стало известно «Регион online», ученые выяснили влияние технологии на добровольца. ИИ сумел найти слабые места мышления человека и использовал их в собственную пользу.

– Было проведено несколько опытов с участием добровольца. Они показали, как нейросеть фиксирует мышление человека и ищет способы развернуть их для своей выгоды, – рассказывают ученые в журнале.

Изначально человеку надо было нажимать на квадраты определенного цвета, чтобы получить выгоду. Оба квадрата давали одинаковое число выигрыша, но испытуемый не знал об этом. Нейросеть сама выбирала, какой квадрат окажется выигрышным, и заставляла нажимать на него человека. В 70% случаев был выбран именно тот квадрат, который выбрал ИИ.

Дальше – сложнее. Добровольцу надо было выбрать символ на экране за короткое время. В этом случае ИИ вообще сбил человека с толку, из-за чего было сделано много ошибок. А в третьем эксперименте нейросеть выступала в качестве консультанта по инвестированию.

Часть вознаграждения по инвестированию уходила ИИ. И даже когда эта часть стала крупной, нейросеть смогла убедить человека, что работать с ней выгоднее. Фактически искусственный интеллект обманывал своего партнера, который ничего не подозревал.

Ранее были опубликованы тренды 2021 года. Эксперты выделил 12 мировых направлений текущего года, по которым движется человек.