Skip to content
NEWS-R
NEWS-R
  • ДФО
  • ПФО
  • СЗФО
  • СКФО
  • СФО
  • УрФО
  • ЦФО
  • ЮФО
NEWS-R
NEWS-R

Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом

РЕДАКЦИЯ, 23.02.2021 |
1 279

Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ

Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля.

– Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы.

Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс.

Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно.

Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели.

РЕГИОНЫ исследования

Навигация по записям

Пред. запись
След. запись

Похожие записи

РЕГИОНЫ

Во Франции перевернулся автобус, среди пострадавших есть россияне

03.11.2019

Трагедия произошла между Парижем и Лондоном, на месте происшествия работают экстренные службы

Читать
РЕГИОНЫ

Регина Мянник рассказала об убийстве мужа и желании умереть

26.11.2019

Признание прозвучало в программе с Андреем Малаховым 46-летняя актриса Регина Мянник впервые призналась, что ее мужа юриста Георгия Новикова убили 2,5 года назад. Все это время она скрывала правду и сейчас может говорить лишь

Читать
РЕГИОНЫ

Изучение червей открывает путь к лечению инсульта

26.11.2019

Единственная генетическая мутация позволяет выживать червям при таком падении уровня кислорода, при котором остальные «родственники» погибают неизбежно, как передает Интернет-издание для девушек и женщин от 14 до 35 лет Данное открытие позволит разработать стратегии

Читать

Добавить комментарий

Для отправки комментария вам необходимо авторизоваться.

Продвижение в СМИ: медиахолдинг «ГОЛОС РЕГИОНОВ» – ваш надежный партнёр в мире медиа

НАШИ СОЦСЕТИ (ПОДПИШИСЬ)

  • Telegram
  • VK
Яндекс.Метрика

РИА «РЕГИОН ОНЛАЙН»

Свидетельство о регистрации СМИ сетевого издания «Российское информационное агентство «Регион онлайн»: Эл № ФС 77 - 73134 от 06.07.2018, зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций.

Данный ресурс может содержать материалы 18+

Учредитель: ООО «КОНТАКТ МЕДИА»

ИНФОРМАЦИОННЫЙ МЕДИАХОЛДИНГ «ГОЛОС РЕГИОНОВ

+7 (989) 335-49-34

Связь с редакцией и реклама: info@news-r.ru

Оперативная связь с редакцией: @golos_glavred

Главный редактор Баскаков А.Е.

© 2016-2026 Регион Online - Все права защищены.

©2026 NEWS-R | WordPress Theme by SuperbThemes