Средства снижения размерности массива измерений

Класс инструментальных средств поддержки процессов анализа данных — это весьма пестрый по составу класс, объединенный одним свойством входящих в него средств: все они направлены на преодоление проблемы большой размерности. Сущность проблемы заключается в том, что человек, хотя и устроен как мощнейшая система анализа и обработки данных, но система эта обладает недостаточно мощной подсистемой сбора данных. Она, эта подсистема сбора данных, обладает относительно низким разрешением, инерционна и обладает множеством иных недостатков. Отсюда это стремление к созданию все новых инструментальных средств, расширяющих возможности органов чувств... Но, как только очередная проблема этого сорта решена, так сразу появляются проблемы коммуникации с очередным созданным инструментом, преодоления избыточности массива измерений, обеспечения избирательности и иные — то есть, все то, что порождено высокой размерностью массива измерений. Эти проблемы порождены «неинтеллектуальностью» инструментария сбора данных.

В результате человек концентрируется на изыскании путей снижения размерности, выделения именно тех фрагментов данных, которые представляют интерес для решения конкретной проблемы, сведения процесса анализа к оцениванию минимального числа интегральных показателей, позволяющих с заданной точностью решать те или иные задачи.

В принципе, весь инструментарий ИАР может быть по ряду признаков отнесен именно к этому классу, однако лучше всего в этот класс вписываются средства статистической, корреляционной и спектральной обработки результатов наблюдений. Наибольшее распространение получили здесь программные комплексы статистической обработки данных.

Для пользователей, имеющих дело со сверхбольшими объемами данных, характеризующихся высоким уровнем формализации представления, серьезной альтернативы использованию этого класса программного обеспечения пока нет. Сегодня на этом рынке лидируют профессиональные западные пакеты статистической обработки и среды математического моделирования. В большинстве из них реализованы специальные высокоуровневые языки программирования для реализации собственных алгоритмов обработки данных. Их разработка осуществляется путем комбинирования готовых подпрограмм, поставляемых с данным программным продуктом в специализированных библиотеках. При этом задача пользователя состоит, главным образом, в исследовании информативности и выделении наиболее информативных признаков функционирования объекта изучения, установлении взаимосвязи между их изменениями и состоянием объекта. Кроме того, пользователям предоставляется возможность разработки собственных процедур с применением встроенных средств разработки или внешних сред программирования.

Существует условное деление инструментальных средств этого класса на профессиональные (специализированные) и универсальные, не имеющие привязки к отрасли исследований программные продукты. Безусловно, специализированные программные продукты за счет адаптации к классу решаемых задач обладают большей эффективностью при решении прикладных задач в заданной области исследований, но при проведении междисциплинарных исследований универсальным средам альтернативы нет. Поэтому на рынке представлены как специализированные системы обработки данных (например, предназначенные для экономических или социологических исследований), так и универсальные системы.

Универсальные пакеты обладают несколько меньшими возможностями. Но, с другой стороны, их стоимость значительно ниже, чем стоимость профессиональных. Универсальные пакеты во многом схожи по составу методов обработки, реализованы по модульному принципу и за счет обращения к процедурам и функциям операционной системы упрощают работу с графикой и интерфейсными элементами. Однако, при приобретении таких систем следует убедиться, что они действительно реализуют требуемые методы и алгоритмы обработки данных.

Существует около тысячи распространяемых на мировом рынке пакетов, решающих в том или ином виде задачи статистического анализа данных, и реализованные для различных операционных систем.

Среди западных универсальных пакетов наиболее известны и выделяются высоким качеством системы SAS (SAS Institute), SYSTAT, SPSS[102] (SSPS Inc.), Minitab (MiniTab Inc.), Statgraphics (Manugistics, Inc.), Statistica (StatSoft, Inc.). Все эти продукты реализованы на высоко профессиональном уровне, а их производители активно осваивают все новые и новые «ниши» аналитики, обращаясь к технологиям анализа текстов, интеллектуального анализа данных, операционному анализу и иным отраслям, связанным с анализом данных. Заметим, что в последние годы усиливается тенденция к специализации по отраслям — на базе основной версии выпускаются программные продукты, адаптированные к решению задач в медицине, экономике и т. д.

Особый класс программного обеспечения, представленного на рынке, — это специализированные библиотеки подпрограмм обработки данных, предназначенные для встраивания в прикладные программные продукты, разрабатываемые силами собственных отделов автоматизации организаций, нуждающихся в проведении тех или иных исследований. В этом классе несомненными лидерами являются библиотека численных и статистических методов IMSL (Visual Numerics) и библиотека S-Plus (AT&T Bell Labs), сочетающая в себе как библиотеку подпрограмм, разработанных на объектном языке программирования S, так и интерактивную среду-интерпретатор, которая обеспечивает возможность полноценного графического анализа данных. Кроме того, существует масса других библиотек, в том числе, и бесплатно распространяемых через ГСТК Интернет.

Следует заметить, что в СНГ также интенсивно развивается направление, связанное с разработкой программного обеспечения для статистической обработки данных. К классу полу-универсальных могут быть отнесены российские пакеты STADIA[103] (НПО «Информатика и компьютеры»), ОЛИМП (ЗАО «CPS») и белорусский пакет РОСТАН (Белорусский Государственный Университет). Имеются примеры создания специализированных систем для решения задач классификации и снижения размерности, например: КЛАСС-МАСТЕР (Научное изд-во «ТВП»), КВАЗАР (ИММ УрО РАН), PALMODA (ВЦ РАН), Stat-Media (ЗАО «Полихимэкс») и иные. Кроме того, на рынке представлены и статистические экспертные системы, например, СТАТЭКС (РМ и ПК, Казахстан).

Довольно интересный класс программного обеспечения представляют собой системы, ориентированные на решение задач снижения размерности, классификации и анализа данных. Эти системы используют комбинацию методов статистической и нейросетевой[104] обработки данных. В этой области столь эффективно работают такие гиганты, как SAS (серия продуктов SAS Data and Text Mining) и SPSS, создающие программные продукты, сочетающие мощь статистических методов обработки с методами нейрокомпьютинга. Среди наших разработчиков следует отметить ВЦ РАН (ЛОРЕГ), ЗАО «Megaputer» (система PolyAnalyst), НПИЦ «Микросистемы» (система TextAnalyst), фирму «Контекст» (пакет «ДА-система») и «MediaLingua» (система Классификатор).

Следует помнить, что сами по себе результаты статистической обработки и статистические данные, без модели их интерпретации, лишены какой бы то ни было ценности. Для аналитика крайне важны не просто некоторые наборы величин (рождаемость ли, стоимость ли «потребительской корзины»), а их динамика во времени, модель эталона или нормы, используемая при проведении анализа, точность и тому подобные сведения.

Рассмотренные ранее классы систем, увы, не могут претендовать на роль аналитика, поскольку таковых моделей не продуцируют. Все эти системы, сколь бы совершенны они ни были, продуцируют лишь данные. Заметим, что человечество уже приблизилось к тому рубежу, когда встала проблема измерения стоимости информационных продуктов типа «знание» и «модель». Именно они определяют функциональные возможности программного обеспечения, стоимость которого на самом деле относительно легко исчислить. Для продуктов же, именуемых этими словами, такой расчет произвести крайне сложно — проблем здесь существует масса: от определения авторства (особенно при коллективной научной деятельности) — до определения реального социально полезного времени, затраченного на синтез нового знания.

В настоящее время на Западе ведутся активные философские (и не только философские, но и с привлечением менеджеров в области научных изысканий и информационного бизнеса) дискуссии на эту тему, вызванные изменением экономических и, прежде всего, социальных приоритетов. Тема, сама по себе, интересная, но она лежит за рамками обсуждаемой в этой книге тематики.