Дифференциальное технологическое развитие - Differential technological development - Wikipedia

Дифференциальное технологическое развитие стратегия управления технологиями, направленная на снижение рисков от новые технологии влияя на последовательность, в которой они разрабатываются. Следуя этой стратегии, общества будут стремиться отложить разработку вредных технологий и их приложений, одновременно ускоряя разработку полезных технологий, особенно тех, которые обеспечивают защиту от вредных.[1][2]

История идеи

Дифференциальное технологическое развитие было первоначально предложено философом Ник Бостром в 2002[1] и он применил эту идею к управлению искусственным интеллектом в своей книге 2014 года. Сверхразум: пути, опасности, стратегии.[3] Стратегия также была одобрена философом Тоби Орд в его книге 2020 года Пропасть: экзистенциальный риск и будущее человечества, который пишет: «Хотя предотвратить разработку опасной технологии может быть слишком сложно, мы можем сократить экзистенциальный риск за счет ускорения развития технологий защиты по сравнению с опасными ».[2][4]

Неформальное обсуждение

Пол Кристиано считает, что, хотя ускорение технологического прогресса, по-видимому, является одним из лучших способов улучшить благосостояние людей в следующие несколько десятилетий, более высокие темпы роста не могут быть одинаково важны для далекого будущего, потому что рост в конечном итоге должен достигнуть насыщения из-за физических ограничений. Следовательно, с точки зрения далекого будущего дифференцированное технологическое развитие представляется более важным.[5][ненадежный источник? ]

Вдохновленные предложением Бострома, Люк Мюльхаузер и Анна Саламон предложили более общий проект «дифференцированного интеллектуального прогресса», в котором общество развивает свою мудрость, философскую изощренность и понимание рисков быстрее, чем его технологическая мощь.[6][ненадежный источник? ][7][ненадежный источник? ] Брайан Томасик расширил это понятие.[8][ненадежный источник? ]

Смотрите также

Рекомендации

  1. ^ а б Бостром, Ник (2002). «Экзистенциальные риски: анализ сценариев вымирания человечества». Цитировать журнал требует | журнал = (помощь) 9 Журнал эволюции и технологий Jetpress Оксфордский исследовательский архив
  2. ^ а б Орд, Тоби (2020). Пропасть: экзистенциальный риск и будущее человечества. Объединенное Королевство: Bloomsbury Publishing. п. 200. ISBN  1526600218.
  3. ^ Бостром, Ник (2014). Сверхразум: пути, опасности, стратегии. Оксфорд: Издательство Оксфордского университета. С. 229–237. ISBN  978-0199678112.
  4. ^ Purtill, Коринн. "Насколько близко человечество к краю?". Житель Нью-Йорка. Получено 2020-11-27.
  5. ^ Кристиано, Пол (15 октября 2014 г.). «О прогрессе и процветании». Эффективный альтруизм Форум. Получено 21 октября 2014.
  6. ^ Мюльхаузер, Люк; Анна Саламон (2012). «Интеллектуальный взрыв: доказательства и важность» (PDF): 18–19. Архивировано из оригинал (PDF) 26 октября 2014 г.. Получено 29 ноябрь 2013. Цитировать журнал требует | журнал = (помощь)
  7. ^ Мюльхаузер, Люк (2013). Перед лицом взрыва интеллекта. Научно-исследовательский институт машинного интеллекта. Получено 29 ноябрь 2013.
  8. ^ Томасик, Брайан (23 октября 2013 г.). «Дифференциальный интеллектуальный прогресс как проект с положительной суммой». Фундаментальный научно-исследовательский институт. Получено 18 февраля 2016.