Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом РЕДАКЦИЯ, 23.02.2021 | 1 279 Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля. – Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы. Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс. Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно. Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели. РЕГИОНЫ исследования
РЕГИОНЫ В Уфе 15-летняя девушка из ресторана попала в реанимацию с острым отравлением 25.02.2020 Школьница находилась в ресторане быстрого питания вместе с друзьями, но пострадала только она Читать
РЕГИОНЫ Агрессивного 81-летнего мужчину зарезали за любовь к соседке в Саратовской области 09.04.2020 Стражи порядка оперативно задержали злоумышленника, и он честно во всем сознался Читать
РЕГИОНЫ "Единственный путь к миру": Трамп хочет "сменить режим" в Иране 26.11.2019 “Это важнее, чем разрешение палестино-израильского конфликта” Адвокат президента США Дональда Трампа рассказал о его желании сменить власть в Иране. Этот вопрос Трамп считает самым важным на данный момент на Ближнем Востоке. Глава государства считает, что Читать