Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом РЕДАКЦИЯ, 23.02.2021 | 1 279 Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля. – Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы. Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс. Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно. Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели. РЕГИОНЫ исследования
РЕГИОНЫ Во Франции перевернулся автобус, среди пострадавших есть россияне 03.11.2019 Трагедия произошла между Парижем и Лондоном, на месте происшествия работают экстренные службы Читать
РЕГИОНЫ Регина Мянник рассказала об убийстве мужа и желании умереть 26.11.2019 Признание прозвучало в программе с Андреем Малаховым 46-летняя актриса Регина Мянник впервые призналась, что ее мужа юриста Георгия Новикова убили 2,5 года назад. Все это время она скрывала правду и сейчас может говорить лишь Читать
РЕГИОНЫ Изучение червей открывает путь к лечению инсульта 26.11.2019 Единственная генетическая мутация позволяет выживать червям при таком падении уровня кислорода, при котором остальные «родственники» погибают неизбежно, как передает Интернет-издание для девушек и женщин от 14 до 35 лет Данное открытие позволит разработать стратегии Читать