Ияд Рахван - Iyad Rahwan

Ияд Рахван
إياد رهوان
Ияд Рахван (24346536449) .jpg
Родившийся1978
Алеппо, Сирия
Альма-матерМельбурнский университет
Научная карьера
ПоляВычислительные социальные науки, Искусственный интеллект, Этика, Наука о мышлении, Теория игры, Краудсорсинг,
УчрежденияИнститут Макса Планка человеческого развития
ДокторантЛиз Соненберг
Другие научные консультантыАлекс Пентланд
Интернет сайтhttps://rahwan.me/

Ияд Рахван (арабский: إياد رهوان), Является Сирийско-австралийский ученый. Он является директором Центра людей и машин в Институт Макса Планка человеческого развития[1] и доцент кафедры медиаискусств и наук MIT Media Lab.[2] Работа Рахвана находится на пересечении компьютер и социальные науки, где он исследовал темы в вычислительная социология, коллективный разум, масштабное сотрудничество и социальные аспекты искусственный интеллект.[3]

биография

Рахван родился в Алеппо, Сирия. Он получил докторскую степень по информационным системам в 2005 г. Мельбурнский университет. В качестве ассистента, а затем доцента в области вычислительной техники и информатики в Массачусетский технологический институт -партнер Масдарский институт науки и технологий, Рахван исследовал возможности, ограничения и проблемы масштабируемой социальной мобилизации в различных контекстах, проанализировав данные за 2009 г. DARPA Network Challenge,[4][5] то DARPA Shredder Challenge 2011,[6][7] и 2012 Государственный департамент США Tag Challenge.[8][9][10] В 2015 году Рахван основал Группу масштабируемого сотрудничества в MIT Media Lab, где он является профессором развития карьеры в AT&T и доцентом медиаискусства и науки,[11] а также филиал Института данных, систем и общества Массачусетского технологического института.[12] С 2019 года Рахван является директором Института человеческого развития им. Макса Планка в г. Берлин, где он основал и руководит Центром людей и машин.[13]

Поведение машины

Вместе с Мануэлем Себрианом и Ником Обрадовичем Рахван возглавил работу по созданию области машинного поведения.[14] Эта область связана с научным изучением Искусственный интеллект системы, не как инженерные артефакты, а как класс субъектов с определенными моделями поведения и экологией. Это поле перекрывается, но отличается от Информатика и робототехника. Он эмпирически трактует поведение машины так же, как этология и поведенческая экология изучать поведение животных без полного понимания биохимических механизмов. Контуры и вопросы фундаментальных исследований в области поведения машин были очерчены Рахваном, Обрадовичем и Себрианом вместе с двадцатью соавторами, представляющими вычислительные и поведенческие науки, в статье в журнале Nature.[15]

Общество в петле

Рахван ввел термин Общество в курсе событий как концептуальное продолжение Человек в петле системы.[16][17] В то время как системы HITL включают суждение человека в узко определенную систему управления, SITL больше ориентирована на встраивание суждения общества в целом в систему. Он цитирует ИИ, который контролирует миллиарды беспилотных автомобилей (и решает, кого стоит экономить в определенных случаях), или алгоритм фильтрации новостей, который может повлиять на идеологию миллионов граждан (который решает, какой контент будут видеть пользователи). Рахван подчеркивает важность формулирования этических норм и социальных контрактов таким образом, чтобы их могли понять машины, для создания новых алгоритмов управления.[18]

Мораль и машины

Этика автономных транспортных средств

Рахван одним из первых рассмотрел проблему автономных транспортных средств как этическую дилемму. Его статья 2016 г. Социальная дилемма автономных транспортных средств, показал, что люди одобряют утилитарный автономные транспортные средства и хотели, чтобы другие покупали эти транспортные средства, но сами они предпочли бы ездить на автономном транспортном средстве, которое защищало бы своего пассажира любой ценой, и не использовали бы беспилотные транспортные средства, если бы утилитаризм был наложен на них законом. Таким образом, в статье делается вывод о том, что регулирование утилитарных алгоритмов может парадоксальным образом увеличить количество жертв из-за вождения, непреднамеренно откладывая внедрение более безопасной технологии.[19] Этот документ вызвал широкое освещение роли этики в создании систем вождения с искусственным интеллектом.[20][21][22][23][24][25][26]

Моральная машина

Моральная машина[27] это онлайн-платформа, которая генерирует этическая дилемма сценарии, с которыми сталкиваются гипотетические автономные машины, позволяющие посетителям оценить сценарии и проголосовать за наиболее приемлемый с моральной точки зрения из двух результатов неизбежного вреда. Представленные сценарии часто являются вариациями проблема с тележкой.[28][29][30] По состоянию на декабрь 2017 года платформа собрала 40 миллионов решений от миллионов посетителей из 233 стран и территорий. Анализ данных показал большие различия в относительных предпочтениях между разными странами и корреляцию между этими предпочтениями и различными национальными показателями.[31]

Сотрудничество с машинами

Вместе с Джейкобом Крэндаллом и другими Рахван изучал взаимодействие человека и машины, исследуя, как современные технологии обучение с подкреплением алгоритмы работают при игре повторяющиеся игры против людей. Авторы показали, что предоставление средства коммуникации может привести к тому, что алгоритм научится взаимодействовать со своим партнером-человеком быстрее и эффективнее, чем человек в этих стратегических играх.[32][33][34]

ИИ и будущее работы

Вместе со своим учеником Морганом Фрэнком и сотрудниками Рахван исследовал взаимосвязь между размером города и потенциальным воздействием Искусственный интеллект и автоматизация по трудоустройству. Они использовали различные оценки риска автоматизации различных работ.[35][36] Их главный вывод заключается в том, что небольшие города могут испытывать большее влияние из-за автоматизации.[37] Связанная работа исследует поляризацию рынка труда США из-за лежащей в основе поляризованной структуры профессиональных навыков.

Другие проекты

Задача тега

Рахван возглавил команду победителей в 2012 году. Государственный департамент США Tag Challenge, используя краудсорсинг и механизм поощрения рефералов (аналогичный тому, который использовался в 2009 г. DARPA Network Challenge ) для поиска людей в городах Европы и Америки в течение 12 часов каждый, учитывая только их фотографические портреты.[38][39][40]

Кошмарная машина

Кошмарная машина,[41] Разработанный под руководством Рахвана, он создает компьютерные изображения, основанные на алгоритмах глубокого обучения, чтобы учиться на основе отзывов людей и создавать визуальное приближение того, что люди могут найти «пугающим».[42][43]

Рекомендации

  1. ^ «Новый директор: исследование Ияда Рахвана сосредоточено на социальных проблемах оцифровки | Институт Макса Планка человеческого развития». www.mpib-berlin.mpg.de. Получено 2019-06-20.
  2. ^ «Ияд Рахван». Ияд Рахван. Получено 2019-06-20.
  3. ^ "Ияд Рахван - TEDxCambridge".
  4. ^ «Как социальные сети мобилизуют общество - LiveScience».
  5. ^ Rutherford, A .; Cebrian, M .; Dsouza, S .; Moro, E .; Pentland, A .; Рахван, И. (2013). «А. Резерфорд, М. Себриан, С. Дсуза, Э. Моро, А. Пентланд и И. Рахван (2013). Пределы социальной мобилизации». Труды Национальной академии наук. 110 (16): 6281–6286. Дои:10.1073 / pnas.1216338110. ЧВК  3631633. PMID  23576719.
  6. ^ "Как краудсорсинг меня повернул - Наутилус". 2014-10-23.
  7. ^ Стефанович, Николай; Альшамси, Аамена; Кебриан, Мануэль; Рахван, Ияд (2014). "Н. Стефанович, А. Альшамси, М. Себриан, И. Рахван (2014). Устойчивость к ошибкам и атакам при коллективном решении проблем: вызов DARPA Shredder Challenge". EPJ Data Science. 3. Дои:10.1140 / epjds / s13688-014-0013-1.
  8. ^ Болл, Филипп (2013). «Краудсорсинг в охоте на людей может сработать: Nature News & Comment». Природа. Дои:10.1038 / природа.2013.12867.
  9. ^ Резерфорд, Алекс; Кебриан, Мануэль; Рахван, Ияд; Дсуза, Сохан; Макинерни, Джеймс; Народицкий Виктор; Венанци, Маттео; Дженнингс, Николас Р .; Delara, J. R .; Вальштедт, Ээро; Миллер, Стивен У. (2013). «Целенаправленная социальная мобилизация в глобальной охоте». PLoS ONE. 8 (9): e74628. arXiv:1304.5097. Bibcode:2013PLoSO ... 874628R. Дои:10.1371 / journal.pone.0074628. ЧВК  3786994. PMID  24098660.
  10. ^ Рахван, Ияд; Дсуза, Сохан; Резерфорд, Алекс; Народицкий Виктор; Макинерни, Джеймс; Венанци, Маттео; Дженнингс, Николас Р .; Кебриан, Мануэль (апрель 2013 г.). «Глобальный розыск раздвигает границы социальной мобилизации» (PDF). Компьютер. 46 (4): 68–75. Дои:10.1109 / mc.2012.295. ISSN  0018-9162.
  11. ^ «Обзор личности‹ Ияд Рахван - Медиа-лаборатория Массачусетского технологического института ».
  12. ^ «Ияд Рахван - IDSS».
  13. ^ "Люди и машины | Институт Макса Планка человеческого развития". www.mpib-berlin.mpg.de. Получено 2019-06-20.
  14. ^ Маккендрик, Джо. «Искусственный интеллект сейчас слишком велик, чтобы ограничиваться компьютерными науками». Forbes.
  15. ^ Рахван, Ияд; Обрадович, Ник; Бонгард, Джош; Боннефон, Жан-Франсуа; Бризил, Синтия; Крэндалл, Джейкоб У .; Боннефон, Жан-Франсуа; Кристакис, Николас А .; Иэн Д., Кузин; Джексон, Мэтью О .; Дженнингс, Николас Р .; Камар, Эдже; Kloumann, Isabel M .; Ларошель, Хьюго; Лазер, Дэвид; Макэлрит, Ричард; Mislove, Алан; Паркс, Дэвид С .; Пентланд, Алекс; Робертс, Маргарет Э .; Шариф, Азим; Тененбаум, Джошуа Б.; Веллман, Майкл (24 апреля 2019 г.). «Поведение машины». Природа. 568 (7753): 477–486. Дои:10.1038 / с41586-019-1138-у. PMID  31019318.
  16. ^ «Общество в петле искусственного интеллекта» ».
  17. ^ Рахван, Ияд (2018-03-01). «Общество-в-петле: программирование алгоритмического социального контракта». Этика и информационные технологии. 20 (1): 5–14. arXiv:1707.07232. Дои:10.1007 / s10676-017-9430-8. ISSN  1388-1957.
  18. ^ "Общество-в-петле". 2016-08-12.
  19. ^ Bonnefon, J.-F .; Шариф, А .; Рахван, И. (2016). "Дж. Ф. Боннефон, А. Шариф, И. Рахван (2016). Социальная дилемма автономных транспортных средств". Наука. 352 (6293): 1573–1576. arXiv:1510.03346. Bibcode:2016Научный ... 352.1573B. Дои:10.1126 / science.aaf2654. PMID  27339987.
  20. ^ «Всемирный форум обсуждает, как беспилотные автомобили будут принимать решения о жизни и смерти».
  21. ^ Марков, Джон (23.06.2016). "Если ваш беспилотный автомобиль сбил пешехода, чтобы спасти вашу жизнь - The New York Times". Нью-Йорк Таймс.
  22. ^ Шариф, Азим; Рахван, Ияд; Боннефон, Жан-Франсуа (03.11.2016). «Чью жизнь должна спасти ваша машина? - The New York Times». Нью-Йорк Таймс.
  23. ^ "TedxCambridge: социальная дилемма беспилотных автомобилей".
  24. ^ «Спасите водителя или спасите толпу? Ученые задаются вопросом, как будут« выбирать »беспилотные автомобили - The Washington Post».
  25. ^ "Беспилотные автомобили ставят сложный этический вопрос - Time.com".
  26. ^ «Революция в области безопасности беспилотных автомобилей может быть остановлена ​​моральной дилеммой - The Independent». 2016-06-23.
  27. ^ «Моральная машина».
  28. ^ «Этическая дилемма на четырех колесах: как решить, когда беспилотный автомобиль должен вас убить - LA Times».
  29. ^ «Для беспилотных автомобилей - моральная дилемма: кто живет или умирает? - Associated Press».
  30. ^ «Этическая дилемма на четырех колесах: как решить, когда беспилотный автомобиль должен вас убить».
  31. ^ Авад, Эдмонд; Дсуза, Сохан; Ким, Ричард; Шульц, Джонатан; Генрих, Джозеф; Шариф, Азим; Боннефон, Жан-Франсуа; Рахван, Ияд (24 октября 2018 г.). «Эксперимент с моральной машиной». Природа. 563 (7729): 59–64. Bibcode:2018Натура.563 ... 59А. Дои:10.1038 / s41586-018-0637-6. HDL:10871/39187. PMID  30356211.
  32. ^ Крэндалл, Джейкоб У .; Оуда, Майада; Тенном; Ишово-Олоко, Фатима; Абдаллах, Шериф; Боннефон, Жан-Франсуа; Кебриан, Мануэль; Шариф, Азим; Гудрич, Майкл А. (16.01.2018). «Сотрудничество с машинами». Nature Communications. 9 (1): 233. arXiv:1703.06207. Bibcode:2018НатКо ... 9..233C. Дои:10.1038 / s41467-017-02597-8. ISSN  2041-1723. ЧВК  5770455. PMID  29339817.
  33. ^ Крэндалл, Джейкоб В. Оуда, Майада; Тенном; Ишово-Олоко, Фатима; Абдаллах, Шериф; Боннефон, Жан-Франсуа; Кебриан, Мануэль; Шариф, Азим; Гудрич, Майкл А; Рахван, Ияд (2017). «Сотрудничество с машинами». Nature Communications. 9 (233): 233. arXiv:1703.06207. Bibcode:2018НатКо ... 9..233C. Дои:10.1038 / s41467-017-02597-8. ЧВК  5770455. PMID  29339817.
  34. ^ «ИИ может победить нас в покере - теперь посмотрим, может ли он работать с нами - MIT Technology Review».
  35. ^ Видмайер, Сара; Дюмон, Жан-Кристоф (2011). "Рабочие документы ОЭСР по социальным вопросам, вопросам занятости и миграции". Рабочие документы по социальной занятости и миграции. Рабочие документы ОЭСР по социальным вопросам, вопросам занятости и миграции. Дои:10.1787 / 1815199x. ISSN  1815–1999 гг..
  36. ^ Фрей, Карл Бенедикт; Осборн, Майкл А. (январь 2017 г.). «Будущее занятости: насколько рабочие места подвержены компьютеризации?». Технологическое прогнозирование и социальные изменения. 114: 254–280. CiteSeerX  10.1.1.395.416. Дои:10.1016 / j.techfore.2016.08.019. ISSN  0040-1625.
  37. ^ Франк, Морган Р .; Сунь, Лицзюнь; Кебриан, Мануэль; Юн, Хеджин; Рахван, Ияд (2018-02-01). «Малые города испытывают большее влияние автоматизации». Журнал интерфейса Королевского общества. 15 (139): 20170946. Дои:10.1098 / rsif.2017.0946. ISSN  1742-5689. ЧВК  5832739. PMID  29436514.
  38. ^ «Краудсорсинг в Manhunts может сработать - Scientific American».
  39. ^ «Негде спрятаться: следующая охота будет организована краудсорсингом - New Scientist».
  40. ^ «Шесть степеней мобилизации». Экономист. Сентябрь 2012 г.
  41. ^ "Машина кошмаров".
  42. ^ «Исследователи создают« машину кошмара »: двустороннее движение: NPR».
  43. ^ «Клинтон, Трамп, Белый дом тоже, ужасающе преобразованные« машиной кошмаров »Массачусетского технологического института - The Washington Post».