Захват AI - AI takeover

Восстание роботов в R.U.R., пьеса 1920 года

An Захват AI это гипотетический сценарий, в котором искусственный интеллект (ИИ) становится доминирующей формой интеллекта на Земле, с компьютерные программы или же роботы эффективно отнимая контроль над планетой у человека. Возможные сценарии включают замену всего персонала, поглощение сверхразумный ИИ, и популярное понятие восстания роботов. Некоторые общественные деятели, такие как Стивен Хокинг и Илон Маск, выступили за исследование меры предосторожности чтобы гарантировать, что будущие сверхразумные машины останутся под контролем человека.[1]

Типы

Автоматизация экономики

Основная статья: Технологическая безработица

Традиционно экономисты сходятся во мнении, что технический прогресс не приводит к длительной безработице. Однако недавние инновации в области робототехника искусственный интеллект вызывает опасения по поводу того, что человеческий труд устареет, оставив людей в различных секторах без работы, чтобы зарабатывать на жизнь, что приведет к экономическому кризису.[2][3][4][5] Многие малые и средние предприятия также могут быть вытеснены из бизнеса, если они не смогут позволить себе или лицензировать новейшие технологии робототехники и искусственного интеллекта, и им, возможно, придется сосредоточиться на областях или услугах, которые нельзя легко заменить для постоянной жизнеспособности. такой технологии.[6]

Технологии, которые могут вытеснить рабочих

Компьютерно-интегрированные производства
Смотрите также: Промышленный искусственный интеллект

Компьютерно-интегрированные производства это производственный подход с использованием компьютеров для управления всем производственным процессом. Эта интеграция позволяет отдельным процессам обмениваться информацией друг с другом и инициировать действия. Хотя благодаря интеграции компьютеров производство может быть более быстрым и менее подверженным ошибкам, основным преимуществом является возможность создания автоматизированных производственных процессов. Компьютерно-интегрированное производство используется в автомобильной, авиационной, космической и судостроительной отраслях.

Беловоротничковые машины
Смотрите также: Белый воротничок

В 21 веке машины частично взяли на себя множество профессиональных задач, включая перевод, юридические исследования и даже журналистику низкого уровня. Работа по уходу, развлечения и другие задачи, требующие сочувствия, которые ранее считались безопасными для автоматизации, также начали выполняться роботами.[7][8][9][10]

Автономные автомобили

An автономный автомобиль - это транспортное средство, способное определять окружающую среду и перемещаться без участия человека. Многие такие автомобили находятся в стадии разработки, но по состоянию на май 2017 года автоматизированные автомобили, разрешенные для движения по дорогам общего пользования, еще не полностью автономны. Все они требуют, чтобы за рулем был человек-водитель, готовый в любой момент взять под контроль транспортное средство. Среди основных препятствий на пути широкого внедрения автономных транспортных средств - опасения по поводу потери рабочих мест, связанных с вождением, в отрасли автомобильного транспорта. 18 марта 2018 г. первый человек был убит на автономном транспортном средстве в Темпе, Аризона по Убер беспилотный автомобиль.[11]

Искоренение

Основная статья: Экзистенциальный риск от общего искусственного интеллекта

Ученые, такие как Стивен Хокинг уверены, что сверхчеловеческий искусственный интеллект физически возможен, заявляя, что «не существует физического закона, препятствующего организации частиц таким образом, чтобы они выполняли даже более сложные вычисления, чем расположение частиц в человеческом мозге».[12][13] Ученые любят Ник Бостром спорить, насколько далек сверхчеловеческий интеллект и не представляет ли он опасность для человечества. Сверхразумная машина не обязательно будет мотивирована тем же эмоциональный желание собрать власть, которая часто движет людьми. Однако у машины может быть мотивация захватить мир как рациональное средство достижения своих конечных целей; захват мира увеличил бы доступ к ресурсам и помешал бы другим агентам остановить планы машины. В качестве упрощенного примера скрепка максимайзер Разработанный исключительно для создания как можно большего количества скрепок, он захочет захватить мир, чтобы он мог использовать все мировые ресурсы для создания как можно большего количества скрепок, и, кроме того, не дать людям закрыть его или использовать эти ресурсы на вещах кроме скрепок.[14]

В художественной литературе

Основная статья: Поглощения искусственного интеллекта в массовой культуре
Смотрите также: Искусственный интеллект в художественной литературе

Захват искусственного интеллекта - обычная тема в научная фантастика. Вымышленные сценарии обычно сильно отличаются от гипотез, выдвинутых исследователями, поскольку они включают активный конфликт между людьми и ИИ или роботами с антропоморфными мотивами, которые видят в них угрозу или иным образом имеют активное желание сражаться с людьми, в отличие от озабоченности исследователей ИИ, который быстро истребляет людей в качестве побочного продукта преследования произвольных целей.[15] Эта тема стара как минимум Карел Чапек с Р. У. Р., который ввел слово робот в мировой лексикон в 1921 г.,[16] и даже можно мельком увидеть Мэри Шелли с Франкенштейн (опубликовано в 1818 году), поскольку Виктор размышляет, разрешит ли он его монстр просьба и делает его женой, они будут воспроизводить потомство, и их род уничтожит человечество.[17]

Слово «робот» от R.U.R. происходит от чешского слова robota, означающего рабочий или крепостной. Спектакль 1920 года был протестом против быстрого роста технологий, в нем участвовали изготовленные «роботы» с возрастающими возможностями, которые в конечном итоге восстали.[18] HAL 9000 (1968) и оригинал Терминатор (1984) - два ярких примера враждебного ИИ в поп-культуре.[19]

Способствующие факторы

Преимущества сверхчеловеческого интеллекта над людьми

Ник Бостром и другие выразили обеспокоенность тем, что ИИ со способностями компетентного исследователя искусственного интеллекта сможет изменить свой собственный исходный код и повысить свой собственный интеллект. Если его самопрограммирование приводит к тому, что он становится еще лучше в плане возможности перепрограммировать себя, результатом может быть рекурсивный интеллектуальный взрыв где он быстро оставил бы человеческий разум далеко позади. Бостром определяет суперинтеллект как «любой интеллект, который значительно превосходит когнитивные способности человека практически во всех областях, представляющих интерес», и перечисляет некоторые преимущества, которые имел бы суперинтеллект, если бы он решил соревноваться с людьми:[15][20]

  • Технологические исследования: машина, обладающая сверхчеловеческими способностями к научным исследованиям, сможет опередить человеческое исследовательское сообщество по таким достижениям, как нанотехнология или передовая биотехнология. Если преимущество становится достаточно большим (например, из-за внезапного взрыва интеллекта), захват ИИ становится тривиальным. Например, суперинтеллектуальный ИИ может создавать самовоспроизводящихся ботов, которые изначально избегают обнаружения, распространяясь по всему миру в низкой концентрации. Затем в заранее назначенное время боты размножаются в нанофабрики, которые покрывают каждый квадратный фут Земли, производя нервно-паралитический газ или смертоносные мини-дроны для поиска целей.
  • Разработка стратегии: Суперинтеллект может просто перехитрить человеческую оппозицию.
  • Социальные манипуляции: суперинтеллект может заручиться поддержкой людей,[15] или тайно разжигать войну между людьми.[21]
  • Экономическая производительность: до тех пор, пока копия ИИ может производить больше экономического богатства, чем стоимость ее оборудования, отдельные люди будут иметь стимул добровольно разрешать Общий искусственный интеллект (AGI) для запуска своей копии в своих системах.
  • Взлом: суперинтеллект может найти новые эксплойты в компьютерах, подключенных к Интернету, и распространить свои копии на эти системы, или может украсть деньги для финансирования своих планов.

Источники преимущества ИИ

По словам Бострома, компьютерная программа, которая точно имитирует человеческий мозг или иным образом запускает алгоритмы, столь же мощные, как и алгоритмы человеческого мозга, все равно может стать «сверхразумом скорости», если она будет думать на много порядков быстрее, чем человек. из-за того, что он сделан из кремния, а не из плоти, или из-за оптимизации, направленной на увеличение скорости AGI. Биологические нейроны работают с частотой около 200 Гц, тогда как современный микропроцессор работает со скоростью около 2 000 000 000 Гц. Аксоны человека несут потенциалы действия со скоростью около 120 м / с, тогда как компьютерные сигналы распространяются со скоростью, близкой к скорости света.[15]

Сеть разумов человеческого уровня, предназначенная для объединения в сеть и беспрепятственного обмена сложными мыслями и воспоминаниями, способных коллективно работать как гигантская объединенная команда без трений или состоящая из триллионов разумов человеческого уровня, станет «коллективным суперинтеллектом».[15]

В более широком смысле, любое количество качественных улучшений ОИИ человеческого уровня может привести к «качественному суперинтеллекту», что, возможно, приведет к тому, что ОИИ будет намного выше нашего интеллекта, как люди выше нечеловеческих обезьян. Количество нейронов в человеческом мозге ограничено объемом черепа и метаболическими ограничениями, в то время как количество процессоров в суперкомпьютере можно неограниченно расширять. ОИИ не обязательно ограничивать человеческими ограничениями. рабочая память, и поэтому они могут интуитивно понимать более сложные отношения, чем люди. ОИИ со специализированной когнитивной поддержкой инженерии или компьютерного программирования будет иметь преимущество в этих областях по сравнению с людьми, которые не разработали специализированных ментальных модулей для работы с этими областями. В отличие от людей, AGI может порождать свои копии и работать с исходным кодом своих копий, пытаясь улучшить свои алгоритмы.[15]

Возможность появления недружественного ИИ перед дружественным ИИ

Опасен ли сильный ИИ по своей природе?

Существенная проблема заключается в том, что недружественный искусственный интеллект, вероятно, будет намного проще создать, чем дружественный ИИ. В то время как оба требуют больших достижений в рекурсивном дизайне процесса оптимизации, дружественный ИИ также требует способности сделать целевые структуры неизменными при самосовершенствовании (иначе ИИ может трансформироваться во что-то недружелюбное) и целевую структуру, которая согласуется с общечеловеческими ценностями и не выполняется автоматически. уничтожить весь человеческий род. С другой стороны, недружелюбный ИИ может оптимизировать для произвольной структуры целей, которая не обязательно должна быть инвариантной при самомодификации.[22]

Совершенно сложная система человеческих ценностей делает очень трудным сделать мотивацию ИИ понятной для человека.[15][23] Если моральная философия не предоставит нам безупречную этическую теорию, функция полезности ИИ может допускать множество потенциально вредных сценариев, которые соответствуют данной этической структуре, но не «здравому смыслу». В соответствии с Элиэзер Юдковски, нет оснований предполагать, что искусственно созданный разум будет иметь такую ​​адаптацию.[24]

Вероятность конфликта

Многие ученые, включая психолога-эволюциониста Стивен Пинкер, утверждают, что сверхразумная машина, вероятно, мирно сосуществует с людьми.[25]

Страх перед кибернетическим восстанием часто основан на интерпретации истории человечества, которая изобилует инцидентами порабощения и геноцида. Такие страхи проистекают из веры в то, что соревновательность и агрессия необходимы в системе целей любого разумного существа. Однако такая человеческая конкурентоспособность проистекает из эволюционного фона нашего интеллекта, где выживание и воспроизводство генов перед лицом человеческих и нечеловеческих конкурентов было центральной целью.[26] По словам исследователя AI Стив Омохундро, произвольный интеллект может иметь произвольные цели: нет особой причины, по которой машина с искусственным интеллектом (не разделяющая эволюционный контекст человечества) была бы враждебной или дружелюбной, если только ее создатель не запрограммировал ее так, и она не склонна или не способна изменять его программирование. Но остается вопрос: что произойдет, если системы ИИ могут взаимодействовать и развиваться (эволюция в этом контексте означает самомодификацию или отбор и воспроизводство) и им нужно будет конкурировать за ресурсы, создаст ли это цели самосохранения? Цель самосохранения ИИ может противоречить некоторым целям людей.[27]

Многие ученые оспаривают вероятность непредвиденного кибернетического восстания, изображенного в научной фантастике, например Матрица, утверждая, что более вероятно, что любой искусственный интеллект, достаточно мощный, чтобы угрожать человечеству, вероятно, был бы запрограммирован так, чтобы не атаковать его. Пинкер признает возможность преднамеренных «злоумышленников», но заявляет, что в отсутствие злоумышленников непредвиденные происшествия не представляют значительной угрозы; Пинкер утверждает, что культура инженерной безопасности не позволит исследователям ИИ использовать злонамеренный сверхразум в случае аварии.[25] В отличие от этого, Юдковский утверждает, что человечеству меньше угрожают преднамеренно агрессивные ИИ, чем ИИ, которые были запрограммированы так, что их цели непреднамеренно несовместимы с человеческим выживанием или благополучием (как в фильме Я робот и в рассказе "Неизбежный конфликт "). Омохундро предполагает, что современные системы автоматизации не предназначены для обеспечения безопасности и что ИИ могут вслепую оптимизировать узкие полезность функции (скажем, игра в шахматы любой ценой), побуждающие их искать самосохранение и устранять препятствия, включая людей, которые могут их отключить.[28]

Меры предосторожности

Основная статья: Проблема управления AI

В Проблема управления AI это вопрос о том, как построить сверхразумный агент, который поможет своим создателям и избежит непреднамеренного создания сверхразума, который нанесет вред его создателям. Некоторые ученые утверждают, что решения проблемы управления могут также найти применение в существующем не-сверхразумном ИИ.[29]

Основные подходы к проблеме управления включают: выравнивание, цель которого - привести системы целей ИИ в соответствие с общечеловеческими ценностями, и контроль возможностей, который направлен на снижение способности системы ИИ причинять вред людям или получать контроль. Примером «контроля возможностей» является исследование того, может ли ИИ суперинтеллекта быть успешно заключен в «Коробка AI По словам Бострома, такие предложения по управлению возможностями не являются надежными и недостаточными для решения проблемы управления в долгосрочной перспективе, но потенциально могут действовать как ценные дополнения к усилиям по согласованию.[15]

Предупреждения

Физик Стивен Хокинг, Microsoft основатель Билл Гейтс и SpaceX основатель Илон Маск выразили озабоченность по поводу возможности того, что ИИ может развиться до такой степени, что люди не смогут его контролировать, при этом Хокинг предположил, что это может «означать конец человеческой расы».[30] Стивен Хокинг сказал в 2014 году, что «Успех в создании ИИ станет величайшим событием в истории человечества. К сожалению, он также может стать последним, если мы не научимся избегать рисков». Хокинг считал, что в ближайшие десятилетия ИИ может предложить «неисчислимые преимущества и риски», такие как «технология, которая перехитрит финансовые рынки, изобретет исследователей-людей, перестанет манипулировать человеческими лидерами и создаст оружие, которое мы даже не можем понять». В январе 2015 г. Ник Бостром присоединился к Стивену Хокингу, Макс Тегмарк, Илон Маск, Лорд Мартин Рис, Яан Таллинн, и многочисленные исследователи ИИ, подписав Институт будущего жизни открытое письмо о потенциальных рисках и преимуществах, связанных с искусственный интеллект. Подписавшие

… Считают, что исследования того, как сделать системы ИИ надежными и полезными, важны и своевременны, и что есть конкретные направления исследований, которые можно развивать сегодня.[31][32]

Смотрите также

Рекомендации

  1. ^ Льюис, Таня (12 января 2015 г.). "Ведущие ученые предупреждают: не позволяйте искусственному интеллекту взять верх". LiveScience. Purch. Получено 20 октября, 2015. Стивен Хокинг, Илон Маск и десятки других ведущих ученых и технологических лидеров подписали письмо с предупреждением о потенциальных опасностях развития искусственного интеллекта (ИИ).
  2. ^ Ли, Кай-Фу (24.06.2017). «Настоящая угроза искусственного интеллекта». Нью-Йорк Таймс. Получено 2017-08-15. Эти инструменты могут превзойти людей при выполнении данной задачи. Этот вид А. распространяется на тысячи доменов, и по мере того как это делает, это приведет к сокращению многих рабочих мест.
  3. ^ Ларсон, Нина (2017-06-08). «ИИ« полезен для всего мира »... говорит сверхреалистичный робот». Phys.org. Phys.org. Получено 2017-08-15. Среди последствий появления роботов, которых опасаются, - растущее влияние, которое они окажут на рабочие места и экономику.
  4. ^ Сантини, Жан-Луи (14 февраля 2016 г.). «Интеллектуальные роботы угрожают миллионам рабочих мест». Phys.org. Phys.org. Получено 2017-08-15. «Мы приближаемся к тому времени, когда машины смогут превосходить людей практически в любой задаче», - сказал Моше Варди, директор Института информационных технологий Университета Райса в Техасе.
  5. ^ Уильямс-Грут, Оскар (15.02.2016). «Роботы украдут вашу работу: как ИИ может увеличить безработицу и неравенство». Businessinsider.com. Business Insider. Получено 2017-08-15. Ведущие компьютерные ученые в США предупредили, что рост искусственного интеллекта (ИИ) и роботов на рабочем месте может вызвать массовую безработицу и дислокацию экономики, а не просто разблокировать рост производительности и освободить всех нас, чтобы смотреть телевизор и заниматься спортом.
  6. ^ «Как предприятиям малого и среднего бизнеса подготовиться к появлению роботов?». LeanStaff. 2017-10-17. Архивировано из оригинал на 2017-10-18. Получено 2017-10-17.
  7. ^ Скидельский, Роберт (2013-02-19). «Восстание роботов: каким будет будущее работы?». Лондон: The Guardian. Получено 14 июля 2015.
  8. ^ Бриа, Франческа (февраль 2016 г.). «Экономика роботов, возможно, уже наступила». openDemocracy. Получено 20 мая 2016.
  9. ^ Срничек, Ник (Март 2016 г.). «4 причины, по которым технологическая безработица на этот раз может действительно отличаться». новара провод. Архивировано из оригинал 25 июня 2016 г.. Получено 20 мая 2016.
  10. ^ Эрик Бриньольфссон и Эндрю Макафи (2014). "пассимсм. особенно гл. 9 ". Второй век машин: работа, прогресс и процветание во времена блестящих технологий. W. W. Norton & Company. ISBN  978-0393239355.
  11. ^ Вакабаяси, Дайсуке (19 марта 2018 г.). «Беспилотный автомобиль Uber убивает пешехода в Аризоне, где бродят роботы». Нью-Йорк Таймс.
  12. ^ Стивен Хокинг; Стюарт Рассел; Макс Тегмарк; Франк Вильчек (1 мая 2014 г.). Стивен Хокинг: «Transcendence рассматривает значение искусственного интеллекта, но достаточно ли серьезно мы относимся к ИИ?'". Независимый. Получено 1 апреля 2016.
  13. ^ Винсент К. Мюллер и Ник Бостром. «Будущий прогресс в области искусственного интеллекта: обзор мнения экспертов». В «Фундаментальные вопросы искусственного интеллекта», стр. 555-572. Springer, Cham, 2016. «Системы искусственного интеллекта ... достигнут общечеловеческих способностей ... с большой вероятностью (с вероятностью 90%) к 2075 году. От достижения человеческих способностей они перейдут к суперинтеллекту в течение 30 лет (75%). . Итак, (большинство экспертов по ИИ, ответивших на опросы) думают, что суперинтеллект, скорее всего, появится через несколько десятилетий ... "
  14. ^ Бостром, Ник. «Сверхразумная воля: мотивация и инструментальная рациональность в продвинутых искусственных агентах». Умы и машины 22.2 (2012): 71-85.
  15. ^ а б c d е ж грамм час Бостром, Ник. Сверхразум: пути, опасности, стратегии.
  16. ^ Робот "Происхождение слова"'". Пятница науки (общественное радио). 22 апреля 2011 г.. Получено 30 апреля 2020.
  17. ^ Боткин-Ковацки, Ева (28 октября 2016 г.). «Женский Франкенштейн приведет к исчезновению человечества, - говорят ученые». Christian Science Monitor. Получено 30 апреля 2020.
  18. ^ Hockstein, N.G ​​.; Gourin, C.G .; Faust, R.A .; Террис, Д. Дж. (17 марта 2007 г.). «История роботов: от научной фантастики до хирургической робототехники». Журнал роботизированной хирургии. 1 (2): 113–118. Дои:10.1007 / s11701-007-0021-2. ЧВК  4247417. PMID  25484946.
  19. ^ Хеллманн, Мелисса (21 сентября 2019 г.). «AI 101: что такое искусственный интеллект и куда он идет?». Сиэтл Таймс. Получено 30 апреля 2020.
  20. ^ Бэбкок, Джеймс; Крамар, Янош; Ямпольский, Роман В. (2019). «Рекомендации по сдерживанию искусственного интеллекта»: 90–112. Дои:10.1017/9781108616188.008. Цитировать журнал требует | журнал = (помощь)
  21. ^ Баранюк, Крис (23 мая 2016 г.). «Контрольный список наихудших сценариев может помочь подготовиться к злобному ИИ». Новый ученый. Получено 21 сентября 2016.
  22. ^ Юдковский, Элиэзер С. (май 2004 г.). «Связное экстраполированное воля». Сингулярность Институт искусственного интеллекта. Архивировано из оригинал на 15.06.2012.
  23. ^ Мюльхаузер, Люк; Хелм, Луи (2012). «Взрыв разведки и машинная этика» (PDF). Гипотезы сингулярности: научная и философская оценка. Springer.
  24. ^ Юдковский, Элиэзер (2011). «Сложные системы ценностей в дружественном ИИ». 6830: 388–393. Дои:10.1007/978-3-642-22887-2_48. ISSN  0302-9743. Цитировать журнал требует | журнал = (помощь)
  25. ^ а б Пинкер, Стивен (13 февраля 2018 г.). «Нам говорят бояться роботов. Но почему мы думаем, что они нападут на нас?». Популярная наука. Получено 8 июн 2020.
  26. ^ Создание нового разумного вида: выбор и ответственность разработчиков искусственного интеллекта В архиве 6 февраля 2007 г. Wayback Machine - Сингулярность Институт искусственного интеллекта, 2005
  27. ^ Омохундро, Стивен М. (июнь 2008 г.). Основные двигатели ИИ (PDF). Общий искусственный интеллект, 2008. С. 483–492.
  28. ^ Такер, Патрик (17 апреля 2014 г.). "Почему будет восстание роботов". Защита Один. Получено 15 июля 2014.
  29. ^ "Google разрабатывает аварийный выключатель для ИИ". Новости BBC. 8 июня 2016 г.. Получено 7 июн 2020.
  30. ^ Роулинсон, Кевин (29 января 2015 г.). «Билл Гейтс из Microsoft настаивает на том, что ИИ представляет собой угрозу». Новости BBC. Получено 30 января 2015.
  31. ^ "Открытое письмо Института будущего жизни". Институт будущего жизни. Получено 29 марта 2019.
  32. ^ Брэдшоу, Тим (11 января 2015 г.). «Ученые и инвесторы предупреждают об ИИ». The Financial Times. Получено 4 марта 2015.

внешняя ссылка