Skip to content
NEWS-R
NEWS-R
  • ДФО
  • ПФО
  • СЗФО
  • СКФО
  • СФО
  • УрФО
  • ЦФО
  • ЮФО
NEWS-R
NEWS-R

Ученые предупредили об угрозе потери контроля человечества над искусственным интеллектом

РЕДАКЦИЯ, 23.02.2021 |
1 279

Группа специалистов анализирована степень риска выхода из-под контроля сверхразумных программ

Группа ученых провела крупное исследование в рамках безопасности при работе с искусственным интеллектом. Как стало известно «Регион online», свою работу исследователи опубликовали в Artificial Intelligence Research. Оказалось, что человечество не сможет остановить ИИ. И не узнает, когда наступит момент выхода его из-под контроля.

– Алгоритм сдерживания непригодный после расчетов с основными правилами теоретических вычислений. ИИ может остановить собственные операции, мы об этом не узнаем. А значит, нет рабочего алгоритма сдерживания искусственного интеллекта, – рассказывает Ияд Рахван, один из авторов работы.

Может показаться, что сверхумные машины, управляющие миром, – это фантастика. Но уже есть машины, где программа справляется самостоятельно. И программисты не понимают, где и как система научилась это делать. Учитывая уровень обучаемости искусственного интеллекта, человечество просто не заметит момента, когда начнут появляться сверхразумные машины. А когда это станет заметным, уже будет поздно останавливать процесс.

Поэтому дальше развивать сферу нужно с пониманием того, что создать алгоритм сдерживания ИИ невозможно.

Ранее другие эксперименты показали, что нейросеть находит уязвимости в мышлении человека. И может использовать их для достижения собственной цели.

РЕГИОНЫ исследования

Навигация по записям

Пред. запись
След. запись

Похожие записи

РЕГИОНЫ

Леонид Рошаль о коронавирусе: «Я поддерживаю идею карантина»

28.03.2020

Известный советский и российский хирург и педиатр прокомментировал ситуацию с коронавирусом

Читать
РЕГИОНЫ

Известный российский онколог предлагает отказаться от диспансеризации

25.11.2019

Директор НИИ канцерогенеза Российского онкологического научного центра им. Блохина Давид Заридзе жестко раскритиковал программу диспансеризации, которая началась в прошлом году по приказу Минздрава. По его мнению, от всеобщих медосмотров нужно уйти в сторону

Читать
РЕГИОНЫ

Кровь, которая хранится более трех недель, теряет свои свойства

26.11.2019

Кровь, которая хранится более трех недель, теряет свои свойства, причем, процесс этот необратим, выяснил Университет Джонса Хопкинса. Как передает The Star, клетки крови становятся ригидными (твердыми), что не дает им проходить сквозь небольшие капилляры, доказывают

Читать

Добавить комментарий

Для отправки комментария вам необходимо авторизоваться.

Продвижение в СМИ: медиахолдинг «ГОЛОС РЕГИОНОВ» – ваш надежный партнёр в мире медиа

НАШИ СОЦСЕТИ (ПОДПИШИСЬ)

  • Telegram
  • VK
Яндекс.Метрика

РИА «РЕГИОН ОНЛАЙН»

Свидетельство о регистрации СМИ сетевого издания «Российское информационное агентство «Регион онлайн»: Эл № ФС 77 - 73134 от 06.07.2018, зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций.

Данный ресурс может содержать материалы 18+

Учредитель: ООО «КОНТАКТ МЕДИА»

ИНФОРМАЦИОННЫЙ МЕДИАХОЛДИНГ «ГОЛОС РЕГИОНОВ

+7 (989) 335-49-34

Связь с редакцией и реклама: info@news-r.ru

Оперативная связь с редакцией: @golos_glavred

Главный редактор Баскаков А.Е.

© 2016-2026 Регион Online - Все права защищены.

©2026 NEWS-R | WordPress Theme by SuperbThemes