Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом РЕДАКЦИЯ, 23.02.2021 | 1 279 Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля. – Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы. Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс. Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно. Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели. РЕГИОНЫ исследования
РЕГИОНЫ Станет ли Путин императором Российской Федерации 25.11.2019 О пользе твердой монаршей руки открыто заговорили в кабинетах власти фото: Михаил Ковалев Сто лет уже как Россия живет без монарха. И некоторым кажется, что период междуцарствия чересчур затянулся. Конечно, нельзя сказать, что идея Читать
РЕГИОНЫ Инопланетяне будут истреблены людьми, заявил российский ученый 26.11.2019 По его мнению, это следует из самого факта существования человечества Физик-теоретик Александр Березин из Московского института электронной техники представил доказательство, что человечество является единственной или, по Читать
РЕГИОНЫ В Красноярске молодая мать повесила ребенка, а потом свела счеты с жизнью 30.01.2020 В обстоятельствах преступления разбираются следователи Читать