Поисковые системы и каталоги. Принцип действия ПС

Поисковые системы и каталоги

Объем хранящейся в Интернете информации чрезвычайно велик и оценивается десятками терабайт. На серверах сети хранится более 2 миллиардов Web-страниц.

Поиск информации в сети можно вести с помощью поисковых систем (ПС) и каталогов. Мощные поисковые системы и каталоги являются сложными техниче­скими комплексами, содержащими десятки быстродействующих компьютеров, обслуживание которых ведут сотни специалистов.

Вначале рассмотрим принцип действия ПС, а затем — каталогов.

Принцип действия ПС

ПС иначе называют: поисковыми средствами, поисковыми машинами, автоматическими индексами. Эквивалентными иностранными терми­нами являются: английский — Search Engines, немецкий — Suchmaschinen, фран­цузский — Le systeme de prospection. На жаргоне сети ПС иногда называют искалками, поисковиками.

Работа ПС основывается на формировании запроса, по которому происходит отбор нужных документов из распределенной базы данных, хранящейся на серве­рах в Интернете. Запрос формируется с помощью ключевых слов (одного или не­скольких). Результаты поиска выдаются пользователю в виде списка адресов (гиперссылок) и краткой аннотации к ним.

Ключевое слово — это лексическая единица, являющаяся существительным, прилагательным, глаголом, числительным, наречием или местоимением естествен­ного языка, которая в наибольшей степени отражает содержание всего искомого документа. При формировании запроса могут использоваться не только отдельные ключевые слова, но и словосочетания, состоящие из нескольких ключевых слов.

Запрос — это набор соединенных операторами ключевых слов, с помощью ко­торых поисковая система автоматически ведет поиск и отбор необходимых доку­ментов. Другими словами, запрос — это инструкция (команда) для ПС на поиск нужных документов.

Запросы бывают двух типов:

· простые запросы состоят из отдельных ключевых слов или словосочетаний;

· сложные (или расширенные, advanced): запросы, кроме ключевых слов, содержат логические и другие операторы.

Поиск — это процедура отбора нужных документов, хранящихся в сети.

Поиск осуществляется:

· автоматически с помощью ключевых слов, вводимых в ПС;

· путем последовательного ручного прохода по рубрикам в каталогах.

Поиск с помощью ключевых слов сводится к их вводу (формированию запроса) в специальное поле Поиск и последующему нажатию кнопки Найти. Кнопка НАЙТИ в разных ПС может называться Search, Find, Go, Go Get it, Suchen.

Для ускорения процедуры поиска ПС производит обработку хранящихся в сети документов — индексацию.

Индексация — это процедура автоматического создания базы данных, в которой хранятся ключевые слова, аннотации документов и доменные адреса, по которым размещены эти документы. В базе данных каждому документу ставится в соответствие свой набор ключевых слов и доменных адресов.

Когда идет обслуживание конкретного запроса на поиск нужной информации, то ПС сравнивает ключевые слова, введенные пользователем, с ключевыми слова­ми, полученными в процессе индексации и хранящимися в базе данных ПС. При совпадении этих слов пользователю выдается доменный адрес данного документа, т. е. указывается место его хранения в сети.

Процедура поиска по ключевым словам очень напоминает работу с обычной книгой, в которой есть алфавитный указатель. Читатель с помощью алфавитного указателя определяет номера страниц книги, на которых присутствует нужное ключевое слово. Этим ускоряется поиск нужной информации. В данном случае номер страницы книги — это как бы доменный адрес Web-страницы.

Индексация документов, размещенных на различных серверах, производится поисковыми системами автоматически с помощью специальных программ — роботов (Robots). Другие названия этих программ — пауки (Spiders) или черви (Worms).

Робот (паук, червь) — программа, которая автоматически периодически «посещает» сайты и индексирует их (т. е. собирает сведения о их содержимом и место­положении).

Назначение роботов очевидно: эти программы постоянно «осматривают», сканируют сеть, запоминают, что где лежит, чтобы в нужный момент времени показать пользователю точное место хранения документа (т. е. его доменный адрес). Этим объясняется высокая скорость поиска нужной информации. Фактически роботы начинают поиск задолго до обслуживания конкретного запроса.

Тенденция развития ПС такова, что наиболее быстродействующие ПС стремятся произвести индексацию всего документа, а не только его названия и первых предложений текста. Наиболее совершенные роботы при индексации сканируют не только главную (домашнюю) страницу, но и по гиперссылкам заходят Вглубь сайта (узла). Ограничивается такая идеалистическая картина индексации лишь низкой скоростью работы современных ПС и общим быстродействием всей сети.

Предварительная индексация хранящихся в сети документов позволяет впоследствии за несколько секунд обслуживания запроса обработать (отсортировать) гигабайты разнообразной информации.

С помощью механизма предварительной индексации можно получить хороший результат поиска в случаях, когда удается точно сформировать запрос с помощью небольшого числа ключевых слов. В иных случаях пользователь либо получит большое число ссылок (иногда говорят, линков, т. е. связей), которые являются лишь «информационным шумом», либо вовсе не удастся найти необходимый документ.

Значительно повышают избирательность поиска фильтры, которыми снабжа­ются поисковые системы.

Фильтры позволяют:

· ограничить список отбираемых документов с помощью логических операторов (выполнить так называемый сложный поиск);

· ограничить пространство поиска типом протокола, с помощью которого был создан документ (поиск на Web-сайтах или в телеконференциях);

· ограничить отбираемый материал временным отрезком, определенными датами создания разыскиваемого документа (например, между 31 июля 2002 г. и 19 апреля 2003 г. );

· отобрать документы, составленные только на определенном языке (русский, английский);

· ограничить отбор документов территорией размещения серверов (например, только Европа);

· ограничить поиск определенной частью документа (заголовок, доменный
адрес);

· отобрать документы, которые содержат фразу с заданным порядком расположения ключевых слов.

Поиск русских документов в сети дополнительно осложняется особенностями национальной грамматики. В русском языке (в отличие от английского языка) не­обходимо учитывать падежные окончания ключевых слов.

Наибольшей популярностью в русскоязычной части Интернета пользуются по­исковые системы Rambler (произносится Ремблер, а переводится как бродяга, праздношатающийся, его адрес www. rambler. ru), Апорт (www. aport. ru) и Яndex (www. yandex. ru).

Русскоязычные ПС позволяют отбрасывать окончания ключевых слов и заме­нять их метасимволами «*» и «? ». При этом на запрос «самар*» будут найдены до­кументы, содержащие слова: Самара, Самары, самарский, самарская и т. п.

Поисковая система Aport использует принципы искусственного интеллекта. Она обрабатывает запрос таким образом, что подбирает синонимы введенным ключевым словам и автоматически решает проблему падежных окончаний.

При поиске информации ПС может делать две ошибки: пропускать (не отби­рать) нужные пользователю документы и, наоборот, отбирать (присылать) посто­ронние документы (мусор, информационный шум). Эти ошибки, совершаемые автоматическими ПС, описываются терминами «избирательность» и «чувствитель­ность».

Заметим, что в приведенной фразе есть некоторая терминологическая неточность: ПС отбирают не документы, а лишь гиперссылки на них. С помошью полученных ссылок пользователь просматривает или загружает на собственный компьютер понравившийся ему документ. Однако методически удобнее говорить о несоответствии запросу документа, а не гиперссылки.

Избирательность — способность ПС отбирать документы, соответствующие запросу, не включая лишних документов. Качество избирательности характеризует­ся числом ошибок первого рода — число отобранных документов, не соответствую­щих запросу. Чем выше избирательность, тем меньше посторонних документов попадает к пользователю.

Избирательность можно изменять (регулировать) с помощью логических опе­раторов (фильтров).

Чувствительность — способность ПС отбирать документы, соответствующие запросу, не пропуская нужных документов. Чувствительность характеризуется чис­лом ошибок второго рода — числом пропусков нужных документов. Чем выше чув­ствительность, тем меньше вероятность пропуска нужного документа.

Релевантность — степень (мера) соответствия (адекватности) найденного в процессе поиска документа сделанному запросу.

Уточнить запрос (говорят: отфильтровать информацию) позволяют логические операторы OR, AND, NOT.

Использование логического оператора AND (И) приводит к отбору документов, которые обязательно содержат все перечисленные в запросе ключевые слова, соединенные этим оператором.

Оператор NOT (НЕТ) позволяет исключить документы, которые содержат ключевое слово, указанное после этого оператора.

С помощью оператора NEAR (вблизи, рядом) пользователь может отбирать документы, в которых ключевые слова, соединенные этим оператором, будут нахо­диться поблизости друг от друга, а не в разных концах документа.

Оператор FOLLOWED BY позволяет отбирать документы, в которых ключевые слова следуют друг за другом в заданном порядке.

Оператор ADJ отбирает документы, в которых ключевые слова являются смежными (следуют одно за другим).

К сожалению, каждая ПС имеет собственный синтаксис запросов. Поэтому перед формированием расширенных запросов необходимо уточнить правила испо­льзования логических и других операторов.

В настоящее время ведутся работы по унификации приемов работы на различ­ных ПС. В 1999 г. началась разработка проекта SESP (Search Engine Standards Project), который призван стандартизировать работу поисковых служб.

Современные ПС становятся интеллектуальными. Используя принципы искусственного интеллекта, они ранжируют (располагают) выводимый список докумен­тов (ссылок на них) в зависимости от степени их релевантности. При этом ПС анализируют положение найденных ключевых слов в документе (заголовок или текст), число повторений ключевых слов, их взаимное расположение в документе. Наиболее точно отобранные документы располагаются в начале списка найденных в процессе поиска документов.

Для ранжирования найденных документов используют следующие показатели.

· Положение ключевого слова на странице (keyword prominence) — показатель, определяющий, как близко к началу документа находится заданное ключевое слово. Как правило, чем ближе к началу страницы располагается ключевое слово, тем Точнее документ соответствует запросу.

· Частота ключевого слова (keyword frequency) — показатель, учитывающий абсолютную частоту использования ключевых слов (т. е. сколько раз встречается данное ключевое слово на странице).

· Наибольший «вес» при ранжировании документов имеют слова, расположенные в заголовке Web-страницы (так называемый титул). Именно этот заголовок отображается в строке заголовка браузера при просмотре страницы, и приведенные там слова имеют наибольшую ценность для ПС.

· Некоторые поисковые системы при ранжировании учитывают индекс цитирования (link popularity) — количество сайтов, которые ссылаются на данный сайт.

Не всякий запрос можно четко сформулировать с помощью небольшого числа ключевых слов. Поэтому, кроме индексного механизма, используются и другие механизмы поиска и хранения информации в сети.

⇐ Предыдущая12345678910Следующая ⇒

Поделиться:

Воспользуйтесь поиском по сайту: