Поиск

Полнотекстовый поиск:
Где искать:
везде
только в названии
только в тексте
Выводить:
описание
слова в тексте
только заголовок

Рекомендуем ознакомиться

'Документ'
1. Характерной особенностью римского гражданского про­цесса в течение республиканского периода и периода принципата было деление процесса на две стад...полностью>>
'Документ'
1) Труды Объединенного Научного Центра проблем космического мышления. Т.2 / Ред. кол. Т.П. Григорьева, И.А. Герасимова и др. — М.: Международный Цент...полностью>>
'Презентация'
В России реализуется благотворительный проект « Сказка всем». В нем принимали участие : международный Союз писателей «Новыйсовременник», общероссийск...полностью>>
'Документ'
Одна из лучших живописных работ М. Ю. Лермонтова «Крестовая гора» написана под сильными впечатлениями от увиденного им на Кавказе. Она выполнена по з...полностью>>

Алгоритмы и программные средства настройки параметров нечетких моделей на основе гибридных методов

Главная > Автореферат
Сохрани ссылку в одной из сетей:

На правах рукописи


Лавыгина Анна Владимировна

АЛГОРИТМЫ И ПРОГРАММНЫЕ СРЕДСТВА НАСТРОЙКИ ПАРАМЕТРОВ НЕЧЕТКИХ МОДЕЛЕЙ НА ОСНОВЕ ГИБРИДНЫХ МЕТОДОВ

Специальность 05.13.18

Математическое моделирование, численные методы

и комплексы программ

АВТОРЕФЕРАТ

диссертации на соискание ученой степени

кандидата технических наук

Томск – 2010

Работа выполнена в Томском государственном университете систем управления и радиоэлектроники (ТУСУР)

Научный руководитель

доктор технических наук

Ходашинский Илья Александрович

Официальные оппоненты:

доктор технических наук профессор Мицель Артур Александрович

(ТУСУР)

кандидат технических наук доцент

Цой Юрий Робертович

(Томский государственный политехнический университет)

Ведущая организация

Новосибирский государственный технический университет

Защита состоится 4 марта 2010 г. в 15 час. 15 мин. на заседании диссертационного совета Д. 212.268.02 при ТУСУР по адресу: 634050, г. Томск, пр. Ленина, 40, ком. 203.

С диссертацией можно ознакомиться в научной библиотеке ТУСУР по адресу: г. Томск, ул. Вершинина, 74.

Автореферат разослан 3 февраля 2010 г.

Ученый секретарь диссертационного совета


Р.В. Мещеряков

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы

При моделировании сложных систем исследователи сталкиваются с неточным или неполным описанием изучаемого объекта. Решением такой проблемы является нечеткое моделирование.

Технология нечеткого моделирования применяется при невозможности построения аналитической модели изучаемого объекта, либо слишком большой сложности такой модели, либо отсутствии достаточного опыта для построения экспертных систем, либо недостаточности экспериментальных данных для статистического моделирования.

Нечеткие модели находят широкое применение в таких проблемных областях как распознавание образов, прогнозирование и моделирование, управление и принятие решений. Они встроены в огромное количество промышленных изделий, начиная с роботов и систем управления электропоездами, и заканчивая такими потребительскими товарами, как фото- и видеокамеры, кондиционеры стиральные машины и др. К преимуществам нечетких моделей относятся невысокая стоимость разработки, интуитивно понятная логика функционирования, гибкость.

Базовая концепция нечеткого моделирования заключается в использовании степени принадлежности, которая является эффективным средством описания поведения плохо формализованных объектов, систем и процессов. Построение нечетких моделей возможно на основе наблюдаемых данных, а также с использованием априорного знания и опыта, которые могут быть неточными и иметь неколичественный характер.

Основополагающие результаты в области нечеткого моделирования получили А.Н. Аверкин, И.З. Батыршин, Л.С. Берштейн, С.М. Ковалев, Л.Г. Комарцова, Ю.И. Кудинов, А.О. Недосекин, Ф.Ф. Пащенко, В.Б.Тарасов, А.В. Язенин, Н.Г. Ярушкина, P. Angelov, R. Babuska, A. Bastian, J.C. Bezdek, J. Casillas, J.L. Castro, O. Cordon, D. Dubois, D. Filev, J. González, S. Guillaume, F. Herrera, H. Ishibuchi, U. Kaymak, B. Kosko, R. Krishnapuram, R. Kruse, E.H. Mamdani, J. M. Mendel, S. Oh, W. Pedrycz, H. Prade, M. Sugeno, T. Takagi, H. Tanaka, I. B. Turksen, R.R. Yager, T.Yasukawa, L.-X.Wang, L. Zadeh.

Однако анализ литературных источников показал, что при разработке нечетких моделей не приводятся убедительные доказательства выбора структуры и параметров таких моделей, а представленные результаты по нечеткому моделированию зачастую имеют характер лабораторных исследований. Отсутствуют пакеты программ с достаточными средствами настройки нечетких моделей на основе наблюдаемых данных.

Цель работы

Целью диссертационной работы является разработка и исследование гибридных алгоритмов настройки параметров нечетких моделей, обеспечивающих повышение качества решений при умеренном количестве ресурсов, и программного комплекса нечеткого моделирования, позволяющего производить настройку модели на основе наблюдаемых данных.

Для достижения поставленной цели необходимо решить следующие задачи:

1) исследование существующих методов настройки нечетких моделей;

2) реализация гибридных алгоритмов настройки параметров нечетких моделей на базе метаэвристик и методов, основанных на производных;

3) проведение исследований разработанных алгоритмов на контрольных примерах;

4) разработка программного комплекса настройки нечетких моделей на основе предложенных алгоритмов.

Объект и предмет исследования

Объектом исследования является процесс настройки параметров нечетких моделей.

Предметом исследования является комплекс алгоритмов и программ идентификации параметров антецедентов и консеквентов правил.

Методы исследования

В диссертационной работе применялись методы искусственного интеллекта, теории нечетких множеств, теории вероятности и математической статистики, линейной алгебры, структурного и объектно-ориентированного программирования.

Достоверность результатов

Степень достоверности результатов обеспечивается строгостью применения математических методов, результатами проведенных численных экспериментов, которые сопоставлены с данными, полученными другими авторами.

Научная новизна

Научной новизной обладают следующие результаты диссертационной работы:

1. Разработан двухэтапный алгоритм настройки параметров нечеткой модели; на первом этапе параметры функций принадлежности настраиваются генетическим алгоритмом, а параметры консеквентов – методом наименьших квадратов; на втором этапе параметры функций принадлежности и консеквенты настраиваются градиентным методом или алгоритмом фильтрации Калмана. Такой алгоритм исключает недостаток методов, основанных на производных, и недостаток генетического алгоритма.

2. Впервые для настройки параметров нечетких моделей разработан гибридный алгоритм, в котором алгоритм имитации отжига генерирует множество начальных решений для грубой настройки параметров нечеткой модели генетическим алгоритмом. Точная настройка производится градиентным методом или алгоритмом фильтрации Калмана.

3. Впервые использован градиентный метод и фильтр Калмана в качестве оператора мутации генетического алгоритма для настройки параметров нечетких моделей. При этом часть особей популяции изменяются с использованием градиентного метода или фильтра Калмана, остальные мутируют обычным образом. После настройки антецедентов осуществляется настройка консеквентов методом наименьших квадратов.

4. Разработан алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии, который в отличие от известных учитывает свойства таблицы наблюдений и требования полного покрытия лингвистическими термами области определения входной переменной.

Теоретическая значимость

Теоретическая значимость работы заключается в развитии технологии построения нечетких моделей. Предложенные алгоритмы могут быть применены для решения задач оптимизации с непрерывно меняющимися параметрами.

Практическая ценность

Обоснованность предложенных алгоритмов подтверждена использованием их для решения практических задач. Программная система нечеткой аппроксимации атмосферных температурных полей внедрена в Институте оптики атмосферы имени В.Е.Зуева СО РАН.

Результаты исследований использованы в следующих проектах:

  1. проект РФФИ № 06-08-00248 «Основанное на данных нечеткое моделирование технических систем» (2006 2007 гг.)

  2. проект РФФИ № 09-07-99008 «Исследование и разработка технологии идентификации нечетких моделей на базе метаэвристик и методов, основанных на производных» (2009 2010 гг.);

  3. проект «Основанные на метаэвристиках и производных гибридные алгоритмы идентификации нечетких моделей и программно-инструментальный комплекс нечеткого моделирования» программы «Участник молодежного научно-инновационного конкурса» (У.М.Н.И.К.).

Разработанные алгоритмы построения нечетких моделей на основе таблиц наблюдений используются при проведении лабораторных работ по дисциплине «Базы знаний» на кафедре автоматизации обработки информации Томского государственного университета систем управления и радиоэлектроники.

Часть программно-инструментальных средств передана в отраслевой фонд алгоритмов и программ Министерства образования Российской Федерации (номера государственной регистрации 50200602165, 50200800872).

Предложенные алгоритмы и программный комплекс при небольших доработках могут быть применены и для решения задач оптимизации с непрерывно меняющимися параметрами.

Алгоритмы, разработанные в рамках программной системы нечеткой аппроксимации атмосферных температурных полей, универсальны и могут быть применены не только к базам атмосферных температурных полей, но и к другим данным формата netCDF.

Основные защищаемые положения

1. Разработанные гибридные алгоритмы настройки параметров нечетких моделей позволяют уменьшить ошибку вывода на порядок по сравнению с использованием методов по отдельности и в несколько раз по сравнению с алгоритмами, предлагаемыми другими авторами.

2. Алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии генерирует только корректно заданные параметры нечетких моделей и позволяет уменьшить время настройки нечетких моделей по сравнению со случайным формированием базы правил.

3. Программный комплекс, позволяющий настраивать нечеткие модели, как на основе наблюдаемых данных, так и на основе знаний эксперта, в отличие от известных систем нечеткого моделирования, ориентированных только на знание эксперта.

Апробация работы

Основные положения работы докладывались и обсуждались на Томском IEEE семинаре "Интеллектуальные системы моделирования, проектирования и управления", на семинарах кафедр АОИ и АСУ ТУСУР, на научных и научно-технических конференциях, в том числе на 3-й Всероссийской конференции молодых ученых, г. Томск, 2006 г., Международной конференции «Workshop on INTAS programmes supporting young scientists, their followup and European dimension of further prospective for young scientists», г. Томск, 2007 г., XLV и XLVI Международных научных конференциях «Студент и научно-технический прогресс», г. Новосибирск, (2007, 2008 гг.), Всероссийской научно-технической конференции «Научная сессия ТУСУР», г. Томск, 2007, 2008, 2009 гг., Всероссийской конференции по вычислительной математике КВМ2009, г. Новосибирск, 2009 г.

Доклады на конференциях Научная сессия ТУСУР в 2007 и 2008 гг. были награждены дипломами третьей и первой степени соответственно.

Публикации по теме работы

По теме диссертации опубликовано 19 печатных работ, из них две – в периодических изданиях, рекомендованных ВАК России для публикации научных работ, получено два свидетельства об официальной регистрации подсистем разработанного программного комплекса в ОФАП, одно учебно-методическое пособие.

Личный вклад автора

Постановка задачи, а также подготовка материалов к печати велась совместно с научным руководителем. Основные научные результаты получены автором самостоятельно. Автором самостоятельно разработан комплекс программ настройки нечетких моделей.

Структура и объем работы

Диссертационная работа состоит из введения, пяти глав и заключения. Объем работы составляет 180 страниц. Список литературы содержит 108 наименований.

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы исследования, сформулирована цель работы, изложены полученные автором основные результаты проведенных исследований, показана их научная новизна, теоретическая и практическая значимость, отражены основные положения, выносимые на защиту

В первой главе производится обзор проблемы исследования.

Отображение вход-выход в нечеткой модели представлено как множество нечетких «ЕСЛИ-ТО» правил. Каждое правило состоит из двух частей: условной и заключительной. Антецедент (условная часть) содержит утверждение относительно значений входных переменных, в консеквенте (заключительной части) указывается значение, которое принимает выходная переменная.

Правила нечеткой модели типа синглтон имеют следующий вид:

правило i: ЕСЛИ x1 = А1i И x2 = А2i И … И xm = Аmi ТО y = ri ,

где Aji – лингвистический терм, которым оценивается переменная xj , а выход y оценивается действительным числом ri.

Модель осуществляет отображение , заменяя оператор нечеткой конъюнкции произведением, а оператор агрегации нечетких правил – сложением. Отображение F для модели типа синглтон определяется формулой:

,

где, n – количество правил нечеткой модели, m – количество входных переменных в модели, – функция принадлежности нечеткой области Aji.

Нечеткое моделирование включает два основных этапа: идентификацию структуры и настройку параметров нечеткой модели. Идентификация структуры – определение таких характеристик нечеткой модели, как число нечетких правил, количество лингвистических термов, на которое разбиты входные и выходные переменные. Настройка параметров – это определение неизвестных параметров антецедентов и консеквентов нечетких правил путем оптимизации работы нечеткой модели по заданному критерию.

Для настройки параметров нечетких моделей используются две группы методов. Первая группа – классические методы оптимизации, основанные на производных: метод наименьших квадратов, градиентный метод, фильтр Калмана. Эти методы обладают высокой скоростью сходимости, но они имеют тенденцию сходиться к локальным оптимумам.

Трудности применения классических методов оптимизации, в частности проблема локального экстремума и «проклятие размерности», заставляют обратиться ко второй группе методов – метаэвристических, таких как алгоритмы муравьиной колонии, роящихся частиц, имитации отжига, генетические алгоритмы. Но это методы грубой настройки, требующие больших временных ресурсов. Кроме того, применение метаэвристик не гарантирует нахождения оптимального решения и, как правило, связано с эмпирической настройкой параметров используемых алгоритмов.

Использование гибридных алгоритмов позволит объединить преимущества метаэвристических методов с преимуществами методов, основанных на производных. Такое объединение повысит качество решений при умеренном количестве ресурсов и за приемлемое время.

Во второй главе приводятся разработанные алгоритмы настройки нечетких моделей.

В работе предлагается следующий алгоритм настройки нечетких моделей:

Алгоритм настройки нечетких моделей

Шаг 1. Задание количества термов лингвистических переменных.

Шаг 2. Инициализация параметров нечеткой модели.

Подшаг 2.1 Задание параметров антецедентов правил с помощью субъективного разделения данных.

Подшаг 2.2 Инициализация консеквентов правил на основе модифицированной процедуры диффузии.

Шаг 3. Настройка параметров нечеткой модели одним из метаэвристических, основанных на производных или гибридных алгоритмов.

Шаг 4. Если среднеквадратичная ошибка нечеткой модели больше заданной, то увеличение количества термов, переход на шаг 2, иначе выход из алгоритма.

Инициализация параметров модели производится на основе субъективного разделения данных и процедуры диффузии. Нечеткие правила и функции принадлежности должны покрывать весь универсум, на котором они определены. Переход от одной функции принадлежности к другой не содержит разрывов, иначе поверхность вывода также будет содержать разрывы. В общем случае алгоритм настройки параметров состоит из следующей последовательности шагов.

Алгоритм настройки параметров нечеткой модели

Шаг 1. Задание начальных параметров нечеткой модели и параметров выбранного алгоритма.

Шаг 2. Генерация решения выбранным алгоритмом настройки.

Шаг 3. Оценка решения с помощью нечеткой модели.

Шаг 4. Проверка условия останова. Если условие выполняется, то переход на шаг 5, иначе переход на шаг 2.

Шаг 5. Вывод решения – набора параметров нечеткой модели, выход из алгоритма.

В работе были использованы следующие методы: основанные на производных — градиентный метод, фильтр Калмана, метод наименьших квадратов, и метаэвристические — генетический алгоритм и алгоритм имитации отжига.

Генетический алгоритм работает с популяцией особей, каждая особь соответствует отдельному решению задачи. В случае настройки параметров антецедентов правил каждый ген хромосомы кодирует один параметр нечеткой модели. В качестве целевой функции выступает ошибка нечеткой модели. Предложено несколько способов формирования текущей популяции: полная замена старой популяции новой, полученной в результате применения операторов скрещивания и мутации; частичная замена, когда формируется «расширенная» популяция, в которую помещаются хромосомы как нового, так и старого поколения; помещение в новую популяцию лучших хромосом из старого поколения и лучших хромосом из нового поколения в отношении 3:7; помещение в новую популяцию лучших хромосом из старого поколения и худших хромосом из нового поколения в отношении 3:7. Описаны условия включения особи в популяцию в зависимости от вида функций принадлежности, параметры которых необходимо настраивать. Определен специфичный оператор мутации.

Алгоритм имитации отжига использует упорядоченный случайный поиск, основываясь на аналогии с процессом охлаждения металла. Параметры функций принадлежности, полученные в результате субъективного разделения данных, формируют текущее решение, которое, при его изменении случайным образом, переходит в рабочее. Рабочее решение может опять вернуться в текущее, либо перейти в лучшее при условии уменьшения ошибки нечеткой модели. Рабочее решение может быть принято в качестве текущего, даже если его ошибка превышает ошибку текущего, в том случае, когда выполняется критерий допуска. При высокой температуре плохие решения принимаются чаще, чем отбрасываются. При снижении температуры вероятность принятия худшего решения уменьшается.

Градиентный метод в практике обучения нечетких правил используется давно. Суть метода заключается в том, что последующее приближение функции получается из предыдущего движением в направлении, противоположном направлению градиента целевой функции. При настройке параметров нечетких моделей целевой функцией является среднеквадратичная ошибка, а вектор параметров определен на множестве параметров антецедентов и консеквентов правил.

Постановка задачи настройки параметров нечетких моделей на основе фильтра Калмана приведена ниже. Состояние системы задается вектором значений параметров функций принадлежности. Вычисляемой переменной, определенным образом связанной с состоянием системы, является выход нечеткой модели. Два последовательно определенных вектора состояния связаны рекуррентным уравнением (модель процесса). Определенным уравнением связаны вектор измерений и вектор состояний (модель измерения). Процессом для системы является движение по пространству решений задачи, шумы процесса и измерения определяются неточностью в определении нахождения решения в пространстве и неточностью в измерении координат решения, соответственно. Сходимость алгоритма и точность определения параметров нечеткой модели зависят от выбора значений матриц ковариаций шума процесса и шума измерения.

Метод наименьших квадратов используется в работе для настройки параметров консеквентов. Здесь минимизируется сумма квадратов отклонений значений, полученных в результате нечеткого вывода, от наблюдаемых данных.

Разработаны гибридные алгоритмы на базе основанных на производных (градиентный метод, фильтр Калмана, метод наименьших квадратов) и метаэвристических (генетический алгоритм и алгоритм имитации отжига) методов, направленные на объединение преимуществ этих двух групп.

В работе предлагается три способа гибридизации.

Первый способ – двухэтапная настройка параметров модели (рис. 1). На первом этапе параметры функций принадлежности настраиваются генетическим алгоритмом, а консеквенты – методом наименьших квадратов. На втором этапе параметры функций принадлежности и консеквенты настраиваются градиентным методом или алгоритмом фильтрации Калмана.

Рис. 1. Схема первого способа гибридизации (ГА – генетический алгоритм, МНК – метод наименьших квадратов, ГМ – градиентный метод, ФК – фильтр Калмана, ФП – функция принадлежности)

Такой подход исключает недостаток основанных на производных методов – неспособность проходить локальные минимумы, и недостаток генетического алгоритма – не всегда точное попадание в глобальный оптимум. Таким образом, используя на начальных этапах генетический алгоритм, вычисляется начальное приближение, локализованное в области экстремума, на заключительном этапе уточняется положение экстремума градиентным методом или фильтром Калмана.

Второй способ. Применение градиентного метода или фильтра Калмана в качестве оператора мутации генетического алгоритма или совместно с ним. При этом часть особей популяции изменяются с использованием градиентного метода (фильтра Калмана), остальные мутируют обычным образом. После настройки антецедентов – настройка консеквентов методом наименьших квадратов.

Третий способ – трехэтапная настройка параметров модели. Предлагается изменить первый способ гибридизации следующим образом: использовать алгоритм имитации отжига для формирования начальной популяции особей генетического алгоритма (рис. 2). Таким образом, сначала алгоритмом имитации отжига генерируется некоторое множество решений задачи, из которых формируется начальная популяция в генетическом алгоритме. После генетического алгоритма и метода наименьших квадратов настройка производится градиентным методом или алгоритмом фильтрации Калмана.



Скачать документ

Похожие документы:

  1. Программные средства реализации адаптивных моделей с нечеткой логикой

    Документ
    В статье сделан обзор программных продуктов, использующих нечеткую логику. Также исследованы алгоритмы принятия решений существующих пакетов с нечеткой логикой, проведен анализ и область применения программных продуктов, их преимущества и недостатки.
  2. Программный комитет семинара

    Семинар
    10.00-13.00. Конференц-зал. Секция 1. Неклассические логики и приближенные рассуждения в искусственном интеллекте (руководители: д.т.н., профессор В.Н.
  3. Оценка структурной сложности программных средств в промышленности на ранних стадиях жизненного цикла

    Автореферат
    Защита состоится 19 июня 2009 г. в 16.00 часов на заседании диссертационного совета Д212.262.04 в Тверском государственном техническом университете по адресу: 170026, г.
  4. Управления для сложных задач на основе извлеченных человеческих умений

    Документ
    Объектом рассмотрения настоящей работы является подход к созданию систем управления сложными процессами на основе умений, извлекаемых у человека. Известным направлением искусственного интеллекта является извлечение знаний, которые
  5. Ніверситеті радіоелектроніки (1965-2010) Науково-допоміжний анотований бібліографічний покажчик до 80-річчя з дня заснування Харків 2010 ббк ч75: Ч215

    Документ
    Дисертації, захищені у Харківському національному університеті радіоелектроніки (1965-2010) : [Текст] : наук.-допом. анот. бібліогр. покажч. / упоряд.

Другие похожие документы..