Крэнфилд эксперименты - Cranfield experiments

В Крэнфилд эксперименты были серии экспериментальных исследований в поиск информации проводится Сирил В. Клевердон в Колледже воздухоплавания при Крэнфилдский университет в 1960-х годах для оценки эффективности системы индексации.[1][2][3] Эксперименты были разбиты на два основных этапа, ни один из которых не был компьютеризирован. Вся коллекция рефератов, итоговые индексы и результаты были позже распространены в электронном формате и широко использовались на протяжении десятилетий.

В первой серии экспериментов было проведено сравнение нескольких существующих методов индексации для проверки их эффективности. Запросы были сгенерированы авторами статей в сборнике, а затем переведены в поисковые индексы специалистами этих систем. В этой серии один метод перешел от наименее эффективного к наиболее эффективному после внесения незначительных изменений в порядок записи данных на устройстве. Индекс карты. Вывод, казалось, заключался в том, что точная методология казалась менее важной, чем конкретные детали реализации. Это привело к серьезным дебатам о методологии экспериментов.

Эта критика также привела ко второй серии экспериментов, теперь известной как Крэнфилд 2. Крэнфилд 2 попытался получить дополнительное понимание, изменив методологию; Крэнфилд 1 проверил способность экспертов находить конкретный ресурс в соответствии с системой индексации, Крэнфилд 2 вместо этого изучал результаты, задавая вопросы на человеческом языке и проверяя, дает ли система индексации соответствующий ответ, независимо от того, был ли это исходный целевой документ. Это тоже стало предметом серьезных споров.

Эксперименты Крэнфилда сыграли чрезвычайно важную роль в области поиска информации, которая сама по себе представляет значительный интерес в пост-Вторая Мировая Война эпоха, когда количество научных исследований стремительно росло. Это была тема постоянных дебатов в течение многих лет и привела к нескольким компьютерным проектам для проверки ее результатов. Его влияние было значительным за сорок лет до того, как естественный язык индексы как у современных поисковые системы стало обычным явлением.

Фон

Теперь известная статья июля 1945 года "Как мы можем думать " к Ванневар Буш часто называют первым полным описанием области, которая стала поиск информации. В статье описывается гипотетическая машина, известная как "мемекс "который будет содержать все знания человечества в индексированной форме, что позволит любому извлекать их.[4]

В 1948 г. Королевское общество провела Научно-информационную конференцию, на которой впервые были формально исследованы некоторые из этих концепций. Это привело к небольшому количеству полевых экспериментов в Великобритании, США и Нидерландах. Вторая конференция по этой теме, Международная конференция по научной информации, прошла в г. Вашингтон, округ Колумбия в 1958 году, когда компьютерное развитие достигло точки, когда стало возможно автоматическое извлечение индексов. Именно на этой встрече Сирил В. Клевердон «получил укус в зубах» и сумел получить финансирование от Национальный научный фонд США чтобы начать то, что позже будет известно как Cranfield 1.[5]

Крэнфилд 1

В первой серии экспериментов напрямую сравнивались четыре системы индексации, которые представляли существенно разные концептуальные основы. Четыре системы были Универсальная десятичная классификация, иерархическая система, широко внедряемая в библиотеках, Алфавитный предметный каталог, который упорядочивает предметные заголовки в классической библиотеке по алфавиту. индексная карточка коллекции, Схема фасетной классификации что позволяет комбинациям предметов производить новые предметы, и Мортимер Таубе с Юнитерм система координатной индексации, где ссылка может быть найдена на любом количестве отдельных учетных карточек.[5]

В первой серии экспериментов участников попросили создать индексы для коллекции аэрокосмический -связанные документы. Каждый индекс был подготовлен экспертом в этой методологии. Затем авторов оригинальных документов попросили подготовить набор условий поиска, которые должны вернуть этот документ. Затем экспертов по индексированию попросили сгенерировать запросы в свой индекс на основе условий поиска автора. Затем запросы использовались для проверки индекса, чтобы убедиться, что он вернул целевой документ.[5]

В этих тестах все системы, кроме фасеточной, дали примерно одинаковое количество «правильных» результатов, в то время как фасетная концепция отставала. Изучая эти результаты, фасетная система была повторно проиндексирована с использованием другого формата на картах, и тесты были повторно запущены. В этой серии тестов многогранная система стала явным победителем. Это наводило на мысль, что основная теория, лежащая в основе системы, была менее важна, чем особенности реализации.[5]

Результаты этих экспериментов, опубликованные в 1962 году, вызвали огромные споры как среди сторонников различных систем, так и среди исследователей, которые жаловались на эксперименты в целом.[6]

Крэнфилд 2

В первой серии экспериментов перед экспертами по использованию различных методов была поставлена ​​задача как создать индекс, так и использовать его для выборочных запросов. Каждая система имела собственное представление о том, как должен быть структурирован запрос, который сегодня известен как язык запросов. Большая часть критики первых экспериментов была сосредоточена на том, действительно ли эксперименты тестировали системы, или на способности пользователя переводить запрос на язык запросов.[5]

Это привело ко второй серии экспериментов, Cranfield 2, в которых рассматривался вопрос преобразования запроса в язык. Для этого вместо того, чтобы рассматривать генерацию запроса как черный ящик, каждый шаг был разбит. Результат этого подхода был революционным в то время; он предложил оставить поисковые запросы в их исходном формате, который сегодня известен как запрос на естественном языке.[5]

Еще одним важным изменением было то, как оценивались результаты. В исходных тестах успех происходил только в том случае, если индекс возвращал точный документ, который использовался для генерации поиска. Однако это не было типично для реального запроса; пользователь ищет информацию о самолете шасси может быть доволен любой из многих статей по этой теме, но Крэнфилд 1 сочтет такой результат неудачным, несмотря на его актуальность. В этой серии результаты оценивались третьими сторонами, которые давали качественный ответ о том, генерировал ли запрос соответствующий набор документов, в отличие от возврата указанного исходного документа.[6]

Продолжение дебатов

Результаты двух серий испытаний долгие годы оставались предметом серьезных споров. В частности, это привело к постоянным дебатам между Клевердоном и Джейсон Фаррадейн, один из основателей Институт ученых-информатиков в 1958 году. Эти двое неизменно появлялись на встречах, где выступал другой, а затем, во время вопрос и отвечать период, объясните, почему все они делали неправильно. Дебаты были охарактеризованы как «... ожесточенные и беспощадные, иногда выходящие далеко за рамки вежливости».[6] К этому хору присоединились Дон Р. Суонсон в США, которые несколько лет спустя опубликовали критический анализ экспериментов Крэнфилда.[6]

Несмотря на эту критику, Крэнфилд 2 установил планку, по которой оценивались многие последующие эксперименты. В частности, методология Cranfield 2, начинающаяся с терминов естественного языка и оценка результатов по релевантности, а не точному совпадению, стала почти универсальной в последующих экспериментах, несмотря на многие возражения.[6]

Влияние

После завершения работы Крэнфилда 2 в 1967 году весь корпус был опубликован в машиночитаемой форме.[7] Сегодня это известно как Cranfield 1400 или любые другие вариации на эту тему. Название относится к количеству документов в коллекции, которая состоит из 1398 рефератов. Коллекция также включает 225 запросов и оценки релевантности для всех пар запрос: документ, полученных в результате экспериментальных прогонов.[8] Основная база рефератов составляет около 1,6 МБ.[9]

Эксперименты проводились в эпоху, когда у компьютеров было мало килобайты из основная память и доступ к сети, возможно, к нескольким мегабайты. Например, средний диапазон IBM System / 360 Модель 50 поставляется с 64-512 КБ основная память[10] (стремясь к нижнему краю) и его типичный жесткий диск хранится чуть более 80 МБ.[11] По мере того, как в 1960-х и 1970-х годах возможности систем росли, коллекция документов Крэнфилда стала основным корпусом испытательных стендов, который неоднократно использовался в течение многих лет.[12]

Сегодня коллекция слишком мала, чтобы использовать ее для практических испытаний, помимо пилотных экспериментов. Его место в основном заняла коллекция TREC, которая содержит 1,89 миллиона документов по более широкому кругу вопросов, или еще более недавняя коллекция GOV2 из 25 миллионов веб-страниц.[8]

Смотрите также

Рекомендации

Цитаты

  1. ^ Клевердон, C.W. (1960). "Исследовательский проект Аслиба Крэнфилда по сравнительной эффективности систем индексации". Протоколы ASLIB. Изумруд. 12 (12): 421–431. Дои:10.1108 / eb049778. ISSN  0001-253X.
  2. ^ Клевердон, Кирилл (1967). «Тесты Крэнфилда на устройствах с индексным языком». Протоколы ASLIB. Изумруд. 19 (6): 173–194. Дои:10.1108 / eb050097. ISSN  0001-253X.
  3. ^ Cleverdon, C.W .; Кин, Э. М. (1966). Факторы, определяющие эффективность систем индексации. Vol. 1: Дизайн, Том. 2: Результаты. Крэнфилд, Великобритания: Исследовательский проект Аслиба Крэнфилда.
  4. ^ Бакленд, Майкл К. (Май 1992 г.). "Эмануэль Голдберг, Поиск электронных документов и Memex Ванневара Буша". Журнал Американского общества информационных наук. 43 (4): 284–94. Дои:10.1002 / (SICI) 1097-4571 (199205) 43: 4 <284 :: AID-ASI3> 3.0.CO; 2-0.
  5. ^ а б c d е ж Робертсон 2008, п. 3.
  6. ^ а б c d е Робертсон 2008, п. 4.
  7. ^ Робертсон 2008, п. 7.
  8. ^ а б Manning, Raghavan & Schütze, 2008 г..
  9. ^ КРЕНФИЛД.
  10. ^ Функциональные характеристики IBM System / 360 Model 50 (PDF). IBM. 1967. A22-6898-1.
  11. ^ "Архивы IBM: дисковое хранилище IBM 1302". IBM. 2003-01-23. Получено 2011-07-20.
  12. ^ Робертсон 2008, стр. 5,7.

Библиография

внешняя ссылка