Skip to content
NEWS-R
NEWS-R
  • ДФО
  • ПФО
  • СЗФО
  • СКФО
  • СФО
  • УрФО
  • ЦФО
  • ЮФО
NEWS-R
NEWS-R

Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом

РЕДАКЦИЯ, 23.02.2021 |
1 279

Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ

Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля.

– Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы.

Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс.

Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно.

Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели.

РЕГИОНЫ исследования

Навигация по записям

Пред. запись
След. запись

Похожие записи

РЕГИОНЫ

Станет ли Путин императором Российской Федерации

25.11.2019

О пользе твердой монаршей руки открыто заговорили в кабинетах власти фото: Михаил Ковалев Сто лет уже как Россия живет без монарха. И некоторым кажется, что период междуцарствия чересчур затянулся. Конечно, нельзя сказать, что идея

Читать
РЕГИОНЫ

Инопланетяне будут истреблены людьми, заявил российский ученый

26.11.2019

По его мнению, это следует из самого факта существования человечества Физик-теоретик Александр Березин из Московского института электронной техники представил доказательство, что человечество является единственной или, по

Читать
РЕГИОНЫ

В Красноярске молодая мать повесила ребенка, а потом свела счеты с жизнью

30.01.2020

В обстоятельствах преступления разбираются следователи

Читать

Добавить комментарий

Для отправки комментария вам необходимо авторизоваться.

Продвижение в СМИ: медиахолдинг «ГОЛОС РЕГИОНОВ» – ваш надежный партнёр в мире медиа

НАШИ СОЦСЕТИ (ПОДПИШИСЬ)

  • Telegram
  • VK
Яндекс.Метрика

РИА «РЕГИОН ОНЛАЙН»

Свидетельство о регистрации СМИ сетевого издания «Российское информационное агентство «Регион онлайн»: Эл № ФС 77 - 73134 от 06.07.2018, зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций.

Данный ресурс может содержать материалы 18+

Учредитель: ООО «КОНТАКТ МЕДИА»

ИНФОРМАЦИОННЫЙ МЕДИАХОЛДИНГ «ГОЛОС РЕГИОНОВ

+7 (989) 335-49-34

Связь с редакцией и реклама: info@news-r.ru

Оперативная связь с редакцией: @golos_glavred

Главный редактор Баскаков А.Е.

© 2016-2026 Регион Online - Все права защищены.

©2026 NEWS-R | WordPress Theme by SuperbThemes