Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом РЕДАКЦИЯ, 23.02.2021 | 1 279 Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля. – Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы. Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс. Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно. Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели. РЕГИОНЫ исследования
РЕГИОНЫ Теперь заживем: Госдума официально разрешила россиянам собирать валежник 26.11.2019 У принявших документ депутатов «радуется сердце» Госдума в третьем, окончательном чтении, разрешила россиянам собирать в лесу валежник для собственных нужд. Первый замруководителя фракции “Единая Россия” Андрей Исаев, комментируя законопроект, заявил, Читать
РЕГИОНЫ Будут ли закрыты дороги между областями в России: есть факты 29.03.2020 Пока общероссийских запретов на перемещение между городами нет, но отдельные мэры и губернаторы уже приняли такое решение Читать
РЕГИОНЫ Ростовская область: аудит позволил снизить в два раза затраты на медикаменты при лечении ОРЗ у детей 25.11.2019 Благодаря проведению совместных торгов по закупке медикаментов для детских больниц Ростовской области в 2016 году удалось сэкономить 13,4 млн руб. Об этом рассказала главный врач областной детской больницы Светлана Пискунова на пленарном заседании фестиваля «Наука в Читать