Практический курс по дисциплине «Системы искусственного интеллекта» (стр. 1 )

ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

«ВОЛГОГРАДСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ»

КАМЫШИНСКИЙ ТЕХНОЛОГИЧЕСКИЙ ИНСТИТУТ (ФИЛИАЛ)

ГОУ ВПО «ВОЛГОГРАДСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ»

,

ПРАКТИЧЕСКИЙ КУРС ПО ДИСЦИПЛИНЕ «СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

Учебное электронное издание

Волгоград

2010

Рецензенты: коллектив кафедры «Системотехника» Саратовского государственного технического университета; заведующий кафедрой «Информационные системы и математическое моделирование» Волгоградского государственного архитектурно-строительного университета, д. т. н., профессор

Электронный аналог печатного издания:

Степанченко, курс по дисциплине «Системы искуственного интеллекта»: учеб. пособие / , ; ВолгГТУ, Волгоград, 2010. – 104 с.

ISBN 0388-2

Излагаются общие принципы построения систем искусственного интеллекта, описание моделей представления знаний, основы теории распознавания образов и теории нейронных сетей. Также приведено описание генетических алгоритмов. Для разделов «Элементы теории распознавания образов», «Введение в теорию нейронных сетей» и «Генетические алгоритмы» приводятся формулировки практических задач по исследованию алгоритмов, описанных в теории, методики проведения экспериментов.

Предназначено для студентов специальности 220200 «Автоматизированные системы обработки информации и управления» всех форм обучения.

Ил. 42. Табл. 5. Библиогр.: 15 назв.

ISBN 0388-2 © Волгоградский

государственный

технический

университет, 2010

СОДЕРЖАНИЕ

Список аббревиатур.............................................................................	4
Введение...............................................................................................	5
1. Принципы построения систем искусственного интеллекта........	6
1.1. Происхождение теории искусственного интеллекта..........	6
1.2. Архитектура систем искусственного интеллекта................	9
1.3. Проблема представления знаний в СИИ..............................	13
1.4. Организация знаний в СИИ...................................................	16
1.5. Продукционная модель представления знаний...................	22
1.6. Сетевые модели......................................................................	25
1.7. Фреймовые сети......................................................................	26
1.8. Логические модели.................................................................	29
1.9. Алгоритмические модели......................................................	33
2. Элементы теории распознавания образов....................................	37
2.1. Основные понятия теории распознавания образов.............	37
2.2. Классификация методов распознавания символов.............	41
2.3. Методы детерминистской классификации .........................	43
2.4. Обучение в линейных классификаторах..............................	52
2.5. Функции сходства........... ......... ............	54
2.6. Реализация алгоритмов распознавания методом дискриминантных функций...........................................................................	55
3. Введение в теорию нейронных сетей............................................	60
3.1. Общие понятия искусственных нейронных сетей..............	60
3.2. Обучение нейронных сетей...................................................	67
3.3. Сети встречного распространения.......................................	74
3.4. Реализация алгоритмов обучения нейронных сетей...........	80
4. Генетические алгоритмы.................................................................	84
4.1. Генетические операторы........................................................	85
4.2. Модели генетических алгоритмов........................................	87
4.3. Алгоритм работы генетического алгоритма........................	90
4.4. Сходимость генетического алгоритма..................................	93
4.5. Реализация моделей генетического алгоритма....................	98
5. Список использованной литературы..............................................	103

СПИСОК АББРЕВИАТУР

БЗ – базы знаний

ГА – генетический алгоритм

ГО – генетический оператор

ДБ – база данных

ЕЯ – естественный язык

ИИ – искусственный интеллект

ЛП – логика предикатов

ЛПР – лицо, принимающее решение

МТ – машина Тьюринга

ПГА – простой генетический алгоритм

ППФ – правильно построенная формула

ПРО – примитивный рекурсивный оператор

ПРФ – примитивно-рекурсивная функция

РФ – рекурсивная функция

СНИ – система искусственного интеллекта

ФП – функция пригодности

ЦФ – целевая функция

ЭС – экспертная система

ВВЕДЕНИЕ

Изначально искусственный интеллект рассматривался как наука создания мыслящих машин. Эту область считали священным Граалем компьютерных наук. Со временем искусственный интеллект превратился в более прагматичную дисциплину. К этой сфере по-прежнему относится изучение механизмов мышления. В рамках искусственного интеллекта рассматриваются различные стратегии компьютерного решения сложных практических проблем. Кроме того, на сегодняшний день стало ясно, что сам интеллект – это слишком сложная сущность, которую нельзя описать в рамках одной теории. Различные теории описывают его на различных уровнях абстракции. Изучение на самом низком уровне обеспечивают нейронные сети, распознающие машины, генетические алгоритмы и другие формы вычислений, моделирующие свойство адаптации, восприятия и взаимодействия с физическим миром. На более высоком уровне абстракции работают создатели экспертных систем, интеллектуальных агентов, стохастических моделей и систем понимания естественного языка. На этом уровне учитывается роль социальных процессов в создании, передаче и извлечении знаний. К самому высокому уровню абстракции можно отнести логические подходы, в том числе дедуктивные, абдуктивные модели, системы поддержки истинности и другие формы и методы рассуждений.

В данном пособии излагаются основы некоторых теорий низкого уровня с практическими заданиями по исследованию алгоритмов, строящихся на положениях данных теорий. В частности, рассматриваются основы теории распознавания образов с задачей исследования линейных дискриминантных функций и функций сходства; теория искусственных нейронных сетей с постановкой задачи исследования свойств искусственных нейронных сетей на задаче распознавания образов; генетические алгоритмы с постановкой задачи исследования их свойств при поиске экстремума функции. Для выполнения исследовательских задач необходимо уметь программировать на каком-либо языке программирования, желательно объектно-ориентированном.

1.  ПРИНЦИПЫ ПОСТРОЕНИЯ
СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

1.1.  Происхождение теории искусственного интеллекта

1.1.1.  Понятие искусственного интеллекта

Термин интеллект (intelligence) происходит от латинского intellectus, что означает ум, рассудок, разум, мыслительные способности человека. Соответственно искусственный интеллект (ИИ, в английском эквиваленте: artificial intelligence, AI) есть свойство автоматических систем брать на себя отдельные функции интеллекта человека.

Любой искусственный интеллект представляет собой модель принятия решения, осуществляемого естественным интеллектом человека. Искусственный интеллект может претендовать на сравнение с естественным при условии, что качество формируемых решений не хуже по сравнению со средним естественным интеллектом.

1.1.2.  Искусственный интеллект в контуре автоматизации

Большинство объектов в автоматизированных системах управления (АСУ) слабо структурированы, плохо определены и имеют ряд «неожиданных» свойств для традиционной АСУ:

−  уникальность,

−  отсутствие формализуемой цели,

−  отсутствие критериев оптимальности.

В таких системах в контур управления вводят лицо, принимающее решение (ЛПР).

ЛПР обладает собственной системой предпочтений относительно критерия управления объектом, и даже цели существования объекта. ЛПР, чаще всего, не соглашается хотя бы частично с режимами, которые предлагает традиционная АСУ. ЛПР управляет, как правило, основными параметрами системы, в то время как остальное управляется локальными системами управления. Возникает задача автоматизации деятельности ЛПР в контуре управления.

ИИ – научно-исследовательское направление, создающее модели и соответствующие программные средства, позволяющие с помощью ЭВМ решать задачи творческого, невычислительного характера, которые в процессе решения требуют обращения к семантике (проблеме смысла).

ИИ – программная система, имитирующая на компьютере мышление человека. Для создания такой системы необходимо изучить процесс мышления ЛПР, выделить основные шаги этого процесса, разработать программное обеспечение, воспроизводящее эти шаги на ЭВМ.

1.1.3.  Понятие интеллектуальной задачи и деятельности

Особенность интеллекта человека – способность решать интеллектуальные задачи путем приобретения, запоминания и целенаправленного преобразования знаний в процессе обучения на опыте и адаптации к разнообразным обстоятельствам.

Интеллектуальные задачи – задачи, формальное разбиение процесса поиска решения которых на отдельные элементарные шаги часто оказывается весьма затруднительным, даже если само их решение несложно.

Деятельность мозга, направленную на решение интеллектуальных задач, мы будем называть мышлением или интеллектуальной деятельностью.

Интеллектуальная деятельность предполагает способность к выводу, генерации, конструированию решения, которое в явном и готовом виде не содержится в системе. Вывод решений возможен только при наличии внутреннего представления знаний в системе (модели внешнего мира) – формализованного представления знаний о внешнем мире (автоматизируемой предметной области).

1.1.4.  Первые шаги истории искусственного интеллекта

Первые программы, реализующие особенности интеллектуальной деятельности:

1.  Машинный перевод (1947 г.). В СССР с 1955 года работы в области машинного перевода связаны с , , . Задача машинного перевода потребовала отделение знаний от кода. Появление языка-посредника знаменовало собой первую попытку создания языка внутреннего представления знаний.

2.  Автоматизированное реферирование и информационный поиск (1957 г., США). Идея вычленения системы связей-отношений между отдельными фактами, воплощенная в понятии тезауруса.

3.  Доказательство теорем (1956 г., США). Появление программы доказательства теорем логики высказываний: «Логик-Теоретик». В 1965 г. появился метод резолюций (Дж. Робинсон, США), в 1967 г. – обратный метод (, СССР). Методы реализуют идею использования эвристик – опытных правил для сокращения перебора вариантов при выводе решения.

4.  Распознавание образов (начало 60-х годов). Идеи теории распознавания, связанные с обучением нахождению решающего правила на множе­стве положительных и отрицательных примеров.

В 1956 г. К. Шеннон, М. Минский и Дж. Маккарти организуют конференцию в Дартмуте (США) для обобщения практического опыта разработки интеллектуальных программ.

1.1.5.  Создание теоретической базы

В 1969 году в Вашингтоне состоялась Первая международная конференция по искусственному интеллекту (IJCAI). В 1976 г. начал издаваться международный журнал «Искус­ственный интеллект». В течение 70-х годов сложились основные теоретические направления исследо­ваний в области интеллектуальных систем:

−  представление знаний, формализация знаний о внешней среде, создание внутренней модели внешнего мира;

−  общение, создание языков взаимодействия системы и пользователя;

−  рассуждение и планирование, принятие решений в альтернативных ситуациях;

−  восприятие (машинное зрение), получение данных из внешней среды;

−  обучение, извлечение знаний из опыта функционирования системы;

−  деятельность, активное поведение системы на основе собственных целей функционирования.

1.1.6.  Философские проблемы теории искусственного интеллекта

В данном подразделе перечислены основные вопросы и некоторые комментарии к ним по часто и широко обсуждаемым проблемам теории искусственного интеллекта.

Можно ли воспроизвести интеллект? Самовоспроизводство теоретически возможно. Принципиальная возможность автоматизации решения интеллектуальных задач с помощью ЭВМ обеспечивается свойством алгоритмической универсальности. Однако не следует думать, что вычислительные машины и роботы могут в принципе решать любые задачи. Существуют алгоритмически неразрешимые проблемы.

Какова цель создания искусственного интеллекта? Допустим, что человек сумел создать интеллект, превышающий свой собственный интеллект (пусть не качеством, так количеством). Что теперь будет с человечеством? Какую роль будет играть человек? Для чего он теперь нужен? И вообще, нужно ли в принципе создание ИИ? По-видимому, самым приемлемым ответом на эти вопросы является концепция «усилителя интеллекта».

Безопасно ли создание искусственного интеллекта? Обладая интеллектом и возможностями коммуникации во много раз превышающими человеческие, техника станет мощной самостоятельной силой, способной противодействовать ее создателю.

1.1.7.  Области применения

1.  Обработка естественных языков, распознавания изображений, речи, сигналов, а также создание моделей интеллектуального интерфейса, финансовое прогнозирование, извлечение данных, диагностика систем, контроль за деятельностью сетей, шифрование данных (направление – нейронные сети).

2.  Нанотехнологии, проблемы самосборки, самоконфигурирования и самовосстановления систем, состоящих из множества одновременно функционирующих узлов, многоагентные системы и робототехника (направление – эволюционные вычисления).

3.  Гибридные управляющие системы, обработка изображений, средства поиска, индексирования и анализа смысла изображений, распознавания и классификации образов (направление – нечеткая логика).

4.  Медицинская диагностика, обучение, консультирование, автоматическое программирование, проверка и анализ качества программ, проектирование сверхбольших интегральных схем, техническая диагностика и выработка рекомендаций по ремонту оборудования, планирование в различных предметных областях и анализ данных (направление – экспертные системы (ЭС)).

5.  Транспортные задачи, распределенные вычисления, оптимальная загрузка ресурсов (направление – методы сокращения перебора).

6.  Разработка крупных программных систем проектирования, кодогенерация, верификация, тестирование, оценка качества, выявление возможности повторного использования, решение задач на параллельных системах (направление – интеллектуальная инженерия).

7.  Создание полностью автоматизированных киберзаводов.

8.  Игры, социальное поведение человеческих эмоций, творчества.

9.  Военные технологии.

1.2.  Архитектура систем искусственного интеллекта

1.2.1.  Элементы архитектуры СИИ

Архитектура системы искусственного интеллекта (СИИ) – организация структуры, в рамках которой происходит принятие решений и применение знаний в конкретной области. Наиболее общая схема СИИ представлена на рис. 1. В такой форме не существует ни одна реальная СИИ, те или иные блоки могут отсутствовать. В СИИ всегда присутствуют лишь два блока: база знаний и механизм вывода.

Рассмотрим основные типы СИИ в автоматизированных системах обработки информации и управления:

−  СИИ управления технологическим процессом;

−  СИИ диагностирования;

−  СИИ планирования и диспетчеризации;

−  интеллектуальные роботы.

Рис. 1. Обобщенная схема СИИ

1.2.2.  СИИ управления технологическим процессом

Архитектура СИИ управления технологическим процессом представлена на рис. 2.

Особенности этой системы:

−  использование технологической информации для управления (измеренные характеристики продукта о параметрах и структуре оборудования);

−  механизм вывода применяется для модификации данных и выработки рекомендаций и управляющих решений;

−  необходимость работы в реальном времени;

−  необходимость реализации темпоральных рассуждений (учет изменяющихся условий).

Работа системы организуется на трех уровнях:

−  база знаний (БЗ) включает в себя правила решения проблем, процедуры решения проблем, данные о проблемной области, то есть на уровне баз знаний организуется сама технология и вся стратегия управления технологическим процессом;

−  рабочая память содержит информацию о заданных характеристиках и данные о рассматриваемом процессе (БД);

−  механизм вывода (в обычной системе – это регулятор) содержит в себе общий механизм управления для достижения конечной цели (приемлемого решения).

Решения носят характер рекомендаций пользователю.

Важным компонентом являются блоки связи между технологическим процессом с БД и БЗ (блоки «Анализ данных» и «Данные о процессе»). Они обеспечивают пользователю верхний уровень доступа к производственной информации о технологическом процессе с объектов нижнего уровня, т. е. поддерживают содержание БД и БЗ в актуальном состоянии путем обновления. Блоки также обеспечивают функции мониторинга с целью предупреждения критических ситуаций.

Обоснование и объяснение взвешенности и адекватности реакции системы на развитие производственной ситуации обеспечивают блоки «Диалоговый интерфейс» и «Управляющие данные».

Рис. 2. Структура СИИ управления технологическим процессом

1.2.3.  СИИ диагностирования

Данная система в основном не отличается от предыдущей системы. И поскольку признаки различных дефектов во многом могут совпадать и могут быть непостоянны их проявления, то в этих системах более развернуто присутствуют компоненты обоснования и объяснения диагноза. Поэтому очень часто в таких системах вводят оценку решений с точки зрения субъективной вероятности.

1.2.4.  СИИ роботизированных линий и гибких производственных систем

Особенностью таких систем является наличие модели мира. Робототехническая система действует в своих специфических условиях, и в принципе возможно детальное описание этой окружающей среды. Данная математическая модель среды называется моделью внешнего мира. Она есть основное содержание БЗ СИИ робота, а другой частью БЗ является знание о целях системы (рис. 3).

Рис. 3. СИИ роботизированных линий и гибких производственных систем

Система восприятия состояния среды включает в себя:

−  сенсоры, непосредственно связанные с внешней средой;

−  подсистему предварительной обработки;

−  блок сегментации характерных особенностей;

−  символическое описание состояния среды;

−  семантическое описание состояния среды;

−  блок формирования модели состояния среды.

Механизм вывода или система планирования поведения определяет действия робота во внешней среде в результате сложившейся ситуации и согласно глобальной цели. Состоит из:

−  системы вывода решений;

−  блока планирования движения исполнительных механизмов.

Система исполнения действий включает в себя:

−  подсистему управления приводом;

−  привод;

−  исполнительные устройства.

1.2.5.  СИИ планирования и диспетчеризации

Назначение: решают задачи оперативного управления, сопоставления результатов наблюдения за функционированием объекта с точки зрения плановых заданий, а также мониторинг (рис. 4).

Мониторинг – непрерывная или периодическая интерпретация сигналов и выдача сообщений при возникновении ситуаций, требующих вмешательства.

Особенность данных систем – действие в реальном времени, связь с распределенной БД интегрированной системы управления. Такая система необходима, так как данные СИИ входят в состав систем управления.

Рис. 4. СИИ планирования и диспетчеризации

1.3.  Проблема представления знаний в СИИ

1.3.1.  Знания и данные

Проблема представления знаний возникла как одна из проблем ИИ. Она связана с созданием практически полезных систем, прежде всего ЭС, применяемых в медицине, геологии, химии. Создание такого рода систем требует интенсивных усилий по формализации знания, накопленного в соответствующей науке.

С термином «представление знаний» связывается определенный этап в развитии математического обеспечения ЭВМ. Если на первом этапе доминировали программы, а данные играли вспомогательную роль своеобразной «пищи» для «голодных» программ, то на последующих этапах роль данных неуклонно возрастала. Их структура усложнялась: от машинного слова, размещенного в одной ячейке памяти ЭВМ, происходил переход к векторам, массивам, файлам, спискам. Венцом этого развития стали абстрактные типы данных – классы. Последовательное развитие структур данных привело к их качественному изменению и к переходу от представления данных к представлению знаний.

Представлению данных присущ пассивный аспект: книга, таблица, заполненная информацией память. В теории ИИ особо подчеркивается активный аспект представления знаний: приобретение знания должно стать активной операцией, позволяющей не только запоминать, но и применять воспринятые (приобретенные, усвоенные) знания для рассуждений на их основе.

Уровень представления знаний отличается от уровня представления данных не только более сложной структурой, но и существенными особенностями: интерпретируемость, наличие классифицируемых связей, наличие ситуативных отношений (одновременности, нахождения в одной точке пространства и т. п., эти отношения определяют ситуативную совместимость тех или иных знаний, хранимых в памяти). Кроме того, для уровня знаний характерны такие признаки, как наличие специальных процедур обобщения, пополнения имеющихся в системе знаний и ряда других процедур.

Представлению данных присущ пассивный аспект: книга, таблица, заполненная информацией память. В теории ИИ особо подчеркивается активный аспект представления знаний: приобретение знания должно стать активной операцией, позволяющей не только запоминать, но и применять воспринятые (приобретенные, усвоенные) знания для рассуждений на их основе.

1.3.2.  Идея саморазвивающихся машин

Исследования в области ИИ возникли под влиянием идей кибернетики – прежде всего идеи общности процессов управления и передачи информации в живых организмах, обществе и технике, в частности, в компьютерах.

Философская приемлемость проблематики ИИ в ее традиционном виде была обусловлена лежащим в ее основе представлением о том, что порядок и связь идей те же, что порядок и связь вещей. Тем самым создать в компьютере структуру, воспроизводящую «мир идей», означало попросту создать структуру, изоморфную структуре вещественного мира, т. е. построить «электронную модель мира». Эта модель рассматривалась как компьютерная модель – модель человеческих знаний о мире. Процесс человеческого мышления интерпретировался в компьютере как машинный поиск таких трансформаций модели, которые должны были перевести компьютерную модель в некое финальное состояние. СИИ нуждалась в знаниях о том, как осуществлять трансформации состояний модели, приводящие к заранее заданной цели – состоянию с определенными свойствами. В первое время было распространено убеждение в принципиальной способности компьютера к самостоятельному исследованию хранящейся в нем модели, то есть к самообучению стратегии достижения поставленной цели.

Данная гипотетическая способность интерпретировалась как возможность машинного творчества, как основа создания будущих «мыслящих машин». И хотя в реально разрабатывавшихся системах достижение цели осуществлялось на основе человеческого опыта с помощью алгоритмов, основанных на теоретическом анализе создаваемых моделей и результатов проводимых на них экспериментов, идеи построения самообучающихся систем многим казались наиболее перспективными. Лишь к 80-му году была осознана значимость проблемы использования в интеллектуальных системах человеческих знаний о действительности, повлекшая серьезную разработку баз знаний и методов извлечения личных знаний экспертов.

1.3.3.  Рефлексия как составляющая интеллектуальной деятельности

С развитием данного направления возникла идея рефлексивного управления. До этого момента в кибернетике управление рассматривалось как передача объекту сигналов, непосредственно воздействующих на его поведение, а эффективность управления достигалась с помощью обратной связи – получения информации о реакциях управляемого объекта. Рефлексивное же управление – есть передача информации, воздействующей на имеющийся у объекта образ мира. Тем самым обратная связь оказывается излишней – состояние субъекта известно передающему информацию, то есть объекту.

Традиционные СИИ основаны на идеологии целеориентированного поведения типа шахматной игры, где цель обоих партнеров состоит в том, чтобы поставить мат ценой любых жертв. Не случайно именно шахматные программы оказались столь важными для отработки методов ИИ.

Анализ функционирования собственной модели или модели «всей окружающей действительности» (в рамках поставленной задачи), контроль над ее состоянием, прогнозирование состояния – есть не что иное, как реализация рефлексии. Рефлексия – есть некий метауровень. С применением языков программирования высокого уровня, таких как Пролог, позволяющий формулировать цели и строить логические выводы достижимости этих целей, задача реализации рефлексии уже может быть частично решена. С их помощью можно построить некую надстройку, некий метауровень, позволяющий оценивать поведение предыдущего. Однако при рассмотрении термина «глубокая рефлексия» или «многоуровневая рефлексия» встает проблема построения моделей самой системой. Здесь на помощь приходят абстрактные типы данных. Они позволяют оперировать структурами данных любой конечной сложности. Таким образом, можно считать, что системы искусственного интеллекта могут содержать модель рефлексии.

Таким образом, считать интеллектуальную систему полноценной без умения оценивать, «понимать» свои действия, то есть рефлексировать, нельзя. Более того, рефлексию следует считать одним из главных инструментов построения поведения систем. Говоря языком математики, рефлексия является необходимым условием существования интеллектуальной системы.

1.3.4.  Языки представления знаний

В определенном смысле любая компьютерная программа содержит знания. Программа сортировки по методу «пузырька» содержит знания программиста о том, как упорядочить элементы списка. Разобраться в сути компьютерной программы, решающей задачу сортировки списков, совсем непросто. Она содержит знания программиста о методе решения задачи, но, помимо этих знаний, в ней содержатся и другие:

−  как манипулировать языковыми конструкциями используемого языка программирования;

−  как добиться высокой производительности программы;

−  как выбрать подходящие методы решения частных проблем обработки данных, играющих тем не менее важную роль в достижении конечного результата, и как организовать управление процессом.

Языки представления знания являются языками высокого уровня, специально предназначенными для кодирования в явном виде фрагментов знаний человека, таких как правила влияния и набор свойств типовых объектов, причем высокий уровень языка проявляется в том, что от пользователя скрываются, насколько это возможно, технические подробности механизма представления знаний. В отличие от более привычных языков программирования, языки представления знаний исключительно экономичны в смысле объема программного кода. В значительной мере это объясняется тем, что заботу о множестве мелочей берет на себя интерпретатор языка.

Несмотря на отмеченные достоинства таких языков, нельзя забывать и о существовании определенных проблем при их применении.

Переход от описания знаний о предметной области на всем понятном «человеческом» языке к их представлению в виде какого-либо формализма, воспринимаемого компьютером, требует определенного искусства, поскольку невозможно (по крайней мере на сегодняшний день) описать, как механически выполнить такое преобразование. Так как возможности логического вывода, которые может реализовать программа, напрямую связаны с выбором способа представления знаний, то именно представление знаний, а не их извлечение является самым узким местом в практике проектирования ЭС.