Парадигма развития науки. Идеологическое обеспечение (стр. 44 )

(2)

где . Как и в случае распознавания, можно сложную задачу минимизации интеграла подменить задачей минимизации приближающей его суммы

(3)

но тогда, чтобы обеспечить малость ожидания штрафа (2) можем понадобиться регуляризация. Следует обратить внимание на то, что отображения f и с входят в формулы (2) и (3) только в виде композиции с ◦ f.

Дальше, как и в случае распознавания можно забыть про вероятностную модель и решать задачу, подобную (3), а качество полученного квантования оценивать экспериментально, вычисляя штраф на независимом тестовом наборе X'. А можно продолжать изучать вероятностную модель и перенести на случай кластеризации и векторного квантования соображения об апостериорной вероятности или байесовском обучении.

В таком виде задача обучения осмысленна и полезна не только при конечном пространстве , но при любом. Например если и — евклидовы пространствa dim()< dim(), а клacc С состоит из гладких или линейных функций, то обучение квантованию равносильно поиску dim()-мерного подмножества (гладкой поверхности или плоскости, соответственно), хорошо аппроксимиру­ющего встречающиеся вектора признаков. Но называется эта задача уже не квантованием, а понижением размерности (dimension reduction)

Квантование и понижение размерности можно рассматривать как частный случай задачи регрессии: пространство ответов совпадает с пространством признаков , и нужно приблизить тождественное отображение с помощью отображений вида с◦f, множество значений которых либо конечно (квантова­ние), либо маломерно (понижение размерности)

Такие методы классической статистики как факторный анализ (FA, factor analysis) и анализ главных компонент (РСЛ principal component analysis) так­же являются методами понижения размерности, работающими в предположении гауссовости распределений р(х}у).

3.10. Нечеткие кластеры

В разделе рассматриваются вопросы примене­нии понятий теории нечетких множеств к неявной классификации. Они включают аксиоматический вывод понятий кластера и разби­ения на кластеры, формальные условия существования кластеров и связи между такими формальными подходами и формулировка­ми многозначной логики, особенно логики Лукасевича алеф 1. Рассматриваются также теоретические основы для оценки «кла­стеризуемости» выборки данных и для разработки методов ие­рархического разбиения на нечеткие кластеры.

3.10.1. Введение в нечеткий кластер-анализ

Методы математической классификации привлекали большое внимание исследователей и привели к соз­данию одного из основных классов автоматизируемых процедур, предназначенных описывать структурные характеристики выбо­рочного множества по описаниям его компонентов.

Открытие структур, которые нелегко заметить с помощью стандартных процедур анализа данных, имеет первостепенную важность для понимания того, какие отношения регулируют пове­дение реальных систем. Появившаяся возможность выявить орга­низационные схемы привела к широкому использованию класси­фикационных процедур в прикладных и социальных науках познания и созидания.

Однако полезность процедур классификации ограничена двумя факторами.

Во-первых, большинство предложенных методов опирается на эвристические соображения, возникающие из конкретных прило­жений понятия классификации к частным задачам познания и созидания. Попытки рас­ширить сферу применимости выведенных таким образом проце­дур часто дают неудовлетворительные результаты. Применение этих методов при решении конкретных задач познания и созидания приводит к различ­ным классификациям, зависящим от использованной процедуры, и не позволяет проникнуть в сущность причин, вызывающих так­сономические различия, и подвергнуть их аналитическому иссле­дованию. В случаях, когда такие исследования проводились, об­наруживалось, что процедуры, подогнанные под характеристики конкретного примера познания и созидания и механически примененные для другого случая, оказывались непригодными для решения задачи.

Во-вторых, большинство предложенных процедур пытались применять для классификации точек по принадлежности к подхо­дящим множествам по степени подобия между точками выбороч­ных данных. Но это, как будет подробнее рассмотрено в п. 3.10.3, недостижимая цель для большинства практических применений, и так поставленная проблема познания и созидания может не иметь решения. Искусные усовершенствования процедур, обычно используемые для разре­шения этой проблемы познания и созидания, такие как деформация первоначальной меры подобия (как это делается, например, в односвязывающем методе) или ослабление классификационных требований (напри­мер, некоторые сходные точки разрешается относить к разным классам) совершенно неприемлемы вследствие плохого качества полученных результатов.

Для успешной постановки этих проблем познания и созидания в данном разделе бу­дем придерживаться строгой аналитически развитой методологии, основанной на аксиоматической теории, которая объясняет и свя­зывает различные понятия и подходы, используемые в кластерном анализе, для получения осмысленных и полезных решений проб­лемы классификации в качестве основы для описания как выбо­рочных данных, так и их классификаций, предлагается исполь­зовать теорию нечетких множеств. Существенная особенность излагаемого материала состоит в систематическом введении соответствующих понятий на аксиома­тической основе и идентификации отношений между полученными таким образом понятиями и основными положениями теории не­четких множеств и нечеткой логики.

В п.3.10. 2 кратко рассматривается логическое обоснование не­четкого кластер-анализа и затем обсуждаются основные неустра­нимые трудности, с которыми сталкиваются при решении проб­лемы кластеризации традиционными методами. В п.3.10.3 дается аксиоматическая разработка понятия кластера и устанавливаются условия существования кластеров в выборочных данных. В п.3.10.4 устанавливается связь между определением нечеткого кластера и формальной интерпретацией транзитивности нечеткого отно­шения в логике Лукасевича алеф1. В п.3.10.5 обсуждаются различные пути обобщения, проясняющие понятие кластера и ведущие к более глубокому пониманию понятия кластерного про­тотипа, чем обеспечивается важная характеризация проблем иерар­хической классификации выборки и оценки кластеризуемости или определения классификационного потенциала кластера. В п.3.10.6 понятие кластеризации противопоставляется понятию кластера и приводятся результаты, относящиеся к аксиоматическому опре­делению понятия кластеризации как наиболее экономного спосо­ба представления выборки кластерами.

3.10.2. Нечеткие множества, нечеткие кластеры, нечеткая кластеризация

Нечеткая кластеризация как поход к представлению данных

Нечеткое разбиение на кластеры было введено как путь решения некоторых проблем представления традиционного разби­ения на кластеры, позволяющий достигнуть осмысленных реше­ний во многих классификационных проблемах, неподдающихся анализу с помощью традиционных методов.

Неформально проблему разбиения выборочного множества на классы можно сформулировать следующим образом:

«Сгруппировать точки выборочного множества в подмножест­ва (называемые кластерами) так, чтобы подобные точки относи­лись к одному и тому же подмножеству, а не подобные — к раз­личным подмножествам».

В типичной задаче кластеризации предполагается, что подо­бие (не следует путать с нечетким отнощением эквивалентности, определенным Заде) между точками определяется с помощью функции, которая назначает неотрицательные действительные значения каждой па­ре точек выборочного множества.

Простые примеры, когда два или больше хорошо определен­ных множеств соединяются «мостиками» из внутренне связанных объектов выборки, показывают, что в общем случае не сущест­вует решения этой проблемы, если только не ослабить требования и не рассматривать ее решение в другом контексте. Как отмеча­ет далее , теория нечетких множеств обеспечивает желаемый пе­ренос выборов таксономических решений из дискретного метриче­ского пространства в непрерывное пространство, в котором поня­тие «похожая классификация» можно определить более содержа­тельно

Далее, теория нечетких множеств, заменяя строгую принад­лежность множеству на непрерывную степень принадлежности, позволяет более удовлетворительно представлять точки, которые лежат снаружи ядра или прототипной части каждого кластера (например, «мостики»). Гносеологические рассмотрения показы­вают, что нечеткие множества более пригодны в качестве инстру­мента представления непрерывных кластеров, чем теория вероят­ностей.

Степень принадлежности служит для представления сходства точки с прототипным элементом кластера, а не вероятности ошибки в классификации.

Некоторые проблемы, возникающие при анализе нечетких множеств как нечетких кластеров

Методы, предложенные , опирались на определение не­четкой кластеризации как разбиения множества данных на сово­купность его нечетких подмножеств. Оптимальная нечеткая клас­теризация определялась как разбиение на нечеткие подмножест­ва, доставляющие оптимальное значение некоторому функциона­лу, определенному на множестве всех возможных разбиений. Этот функционал определялся так, чтобы он соответствовал инту­итивному понятию «качества классификации».