Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом РЕДАКЦИЯ, 23.02.2021 | 1 279 Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля. – Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы. Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс. Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно. Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели. РЕГИОНЫ исследования
РЕГИОНЫ Леонид Рошаль о коронавирусе: «Я поддерживаю идею карантина» 28.03.2020 Известный советский и российский хирург и педиатр прокомментировал ситуацию с коронавирусом Читать
РЕГИОНЫ Известный российский онколог предлагает отказаться от диспансеризации 25.11.2019 Директор НИИ канцерогенеза Российского онкологического научного центра им. Блохина Давид Заридзе жестко раскритиковал программу диспансеризации, которая началась в прошлом году по приказу Минздрава. По его мнению, от всеобщих медосмотров нужно уйти в сторону Читать
РЕГИОНЫ Кровь, которая хранится более трех недель, теряет свои свойства 26.11.2019 Кровь, которая хранится более трех недель, теряет свои свойства, причем, процесс этот необратим, выяснил Университет Джонса Хопкинса. Как передает The Star, клетки крови становятся ригидными (твердыми), что не дает им проходить сквозь небольшие капилляры, доказывают Читать