УДК 519.6

apkarpenko@mail.ru, chernobrivchenko.k@gmail.com

Введение

В настоящее время интенсивно развиваются метаэвристические поведенческие методы оптимизации такие, как метод роя частиц, метод пчелиного роя, метод колонии муравьев.

Первым методом, основанным на идее функционирования колонии муравьев, стал метод AntSystem (система муравьев) [1]. Метод был использован при решении большого числа комбинаторных задач, например, задачи коммивояжера, задачи раскраски графа и др.

Первым «муравьиным» методом, созданным для решения задач непрерывной оптимизации, стал метод CACO (ContinuousAntColonyOptimization - непрерывная оптимизация колонией муравьев) [2]. Взаимодействие агентов в методе CACO осуществляется на основе модели стигмертии - использования муравьями феромонов для пометки лучших путей [3].

Реализация идеи стигмертии не является единственным способом использования муравьиного интеллекта при решении задач оптимизации. Так, в работе [3] предложена модель, в которой канал стигмертии проигнорирован, а взаимодействие между агентами осуществляется на межиндивидуальном уровне с использованием механизма, названного мобилизацией [3]. Соответствующий метод назван авторами указанной работы методом CIAC (ContinuousInteractingAntColony - непрерывно взаимодействующая колония муравьев).

Данная статья посвящена исследованию эффективности модифицированного метода CIAC при решении ряда тестовых задач непрерывной глобальной оптимизации. Кроме того, в работе исследуется одно из приложений указанного метода – приближенное построение множества Парето (а, тем самым, и фронта Парето) в задаче многокритериальной оптимизации.

В первом разделе работы рассматриваются бионические предпосылки метода муравьиной колонии. Второй раздел содержит постановку задачи и схему используемого метода CIAC. В третьем разделе обсуждается схема и результаты тестирования метода и разработанного программного обеспечения. В четвертом разделе приводятся результаты исследования эффективности метода для многомерной многоэкстремальной тестовой функции, а в пятом разделе – для многомерной одноэкстремальной овражной функции. Шестой раздел посвящен исследованию эффективности приближенного построения множества Парето в задаче многокритериальной оптимизации с помощью метода CIAC. В заключении обсуждаются основные результаты работы.

Исследование эффективности метода выполнено на многоэкстремальной функции Растригина (Rastrigin) и одноэкстремальной овражной функции Розенброка (Rosenbrock) из известного пакета тестовых функций CES (Congress of Evolutionary Computing) [4].

1. Бионические предпосылки метода муравьиной колонии

Муравьи относятся к социальным насекомым, живущим внутри некоторого коллектива — колонии. Число муравьев в одной колонии может достигать нескольких миллионов. Поведение муравьев при транспортировке пищи, преодолении препятствий, строительстве муравейника и других действиях, зачастую, приближается к теоретически оптимальному. Например структура взаимосвязи колоний в мегаколонии муравьев Formicalugubris в Швейцарии близка к минимальному остовному дереву, соединяющему все колонии в мегаколонию [5].

«Социальное» поведение муравьев строится на основе самоорганизации, т.е. на основе множества механизмов, обеспечивающих достижение системой глобальной цели в результате низкоуровневого взаимодействия ее элементов. Принципиальной особенностью такого взаимодействия является использование элементами системы только локальной информации. Любая глобальная информация и централизованное управление в этом случае отсутствуютт.

Муравьи используют два способа передачи информации. Прямой способ (уровень индивидуальных взаимодействий) реализуется между парой муравьев посредством обмена пищей, мандибулярных (челюстных) манипуляций, визуального и химического контактов. Непрямой способ (стигмертия - stigmergy) представляет собой разнесенный во времени тип взаимодействия, когда один субъект взаимодействия изменяет некоторую часть окружающей среды, а остальные используют информацию о состоянии этой части среды позже, когда находятся в ее окрестности. У муравьев стигмертия осуществляется через феромон (pheromone) — специальный секрет, который откладывается в виде следа при перемещении муравья и который может восприниматься муравьями в течение нескольких суток. Чем выше концентрация феромона на тропе, тем эта тропа более привлекательна для муравьев и большее число муравьев будет двигаться по этой тропе. Со временем феромон испаряется, что позволяет муравьям адаптировать свое поведение к изменениям внешней среды [6].

Общественное поведение муравьев в колонии подчинено идее плотной гетерархии, которая, в противоположность иерархии, предполагает не вертикальные связи между элементами системы, а горизонтальное распределение системных функций между этими элементами, при котором сами элементы равноправны между собой. В данном случае мы имеем дело с плотной гетерархией, когда каждый из муравьев может связаться с любым другим в любой момент времени. При этом информация передается через два канала связи – канал индивидуальных взаимодействий и канал стигмертии.

2. Постановка задачи и схема метода CIAC

Рассмотрим задачу многомерной глобальной условной оптимизации: найти максимум целевой функции Φ(X), определенной на множестве D евклидова пространства ,

.                                 (1)

Здесь  - вектор варьируемых параметров,

 -                           (2)

множество допустимых значений вектора варьируемых параметров, представляющее собой гиперпараллелепипед.

Схема метода CIAC имеет следующий вид [3].

1) Создаем агентов (муравьев) ,  и случайным образом распределяем их в области поиска D. Здесь  - число агентов в колонии.

2) Моделируем работу канала стигмертии, для чего для каждого из агентов ,  вычисляем координаты центра тяжести феромонных точек

,

где  - вектор координат i-ой феромонной точки, N- их общее число,

 -

нормированный интерес j-го агента к i-ой феромонной точке, определяемый по формуле

.

Здесь  - среднее расстояние между двумя агентами в колонии,  - количество феромона в точке ,  - расстояние между j-м агентом и i-ой феромонной точкой.

3) Перемещаем агента  в направлении центра тяжести  на случайное расстояние в пределах его размерного параметра , где  – случайная величина, распределенная по нормальному закону, имеющая нулевое математическое ожидание и среднеквадратичное отклонение ;  - делитель размерного параметра, определяющий величину этого параметра.

4) Моделируем функционирование канала прямого взаимодействия – агент  читает случайное сообщение из своей памяти.

5) Сравниваем значение целевой функции  в точке расположения агента  с соответствующим значением , полученным в сообщении от агента . Если , то агент  перемещается в случайную точку гиперсферы, центром которой является точка , а радиусом - размерный параметр  этого агента.

6) Если , то агент  посылает сообщение со своими координатами  и значением целевой функции случайному агенту популяции, а затем в пределах размерного параметра  совершает случайное перемещение в окрестности точки .

7) После того, как по рассмотренной схеме все агенты колонии завершили свои перемещения, моделируем испарение феромонных точек.

8) Проверяем критерий останова, в качестве которого может использоваться условие достижения заданного числа итераций  или условие стагнации вычислительного процесса: расстояние между двумя последовательными лучшими значениями критерия оптимальности , достигнутыми колонией, не превышает заданную величину  в течение  итераций.

На -ой итерации количества феромона в некоторой точке определяется формулой

,

где  - количество феромона в данной точке на предыдущей итерации, ρ – коэффициент устойчивости феромонных точек. Полагается, что феромонная точка исчезает, если количество феромона в ней становится меньшим величины . Количество ферромона в начальных точках расположения агентов принимается равным единице.

Размер памяти агента ограничен – полагается, что максимально допустимое число сообщений в памяти каждого из агентов не превышает величины . В ситуации, когда возможно переполнение памяти (агент получает новое сообщение при текущем числе сообщений в его памяти, равном ), одно из выбранных случайным образом сообщений удаляется из памяти, а новое сообщение записывается в нее.

Алгоритм CIACсодержит шесть свободных параметров:

 - число агентов в системе;

 - коэффициент устойчивости феромонных точек;

 - количество феромона, при котором феромонная точка исчезает;

 - максимально допустимое число сообщений в памяти агента;

 - величина делителя размерного параметра;

 - среднеквадратичное отклонение размерного параметра при .

В соответствии с рекомендациями работы [3], относительно параметров  приняты следующие соглашения:

;      ;         .

Величины ,  в процессе исследования варьировались в пределах, значения которых указаны ниже.

3. Тестирование алгоритма

         Метод CIAC реализован в среде программной системы MatLab[6]. Тестирование метода и разработанного программного обеспечения выполнено для сферической целевой функции  и области допустимых значений , где 2, 3, 4. Легко видеть, что максимум функции  равен нулю и достигается в указанной области Dв точке с координатами .

Если не оговорено противное, здесь и далее, использованы следующие значения свободных параметров метода CIAC, которые не определены выше: число агентов в колонии ; делитель размерного параметра . Максимально допустимое число итераций  равно 5000,а величина  - 1500 итераций.

Поскольку эффективность метода существенно зависит от случайного начального расположения агентов, здесь и далее каждый эксперимент повторялся 30 раз. Эффективность метода оценивалась средним числом итераций  и средней достигнутой точностью  локализации максимума целевой функции.

Результаты тестирования иллюстрируют таблица 1 и рисунок 1 (случай , ). Красные, синие и зеленые точки на рисунке 1 показывают начальные положения агентов, а также их положения на 20-ой и на 500-ой итерациях соответственно.

Результаты тестирования показывает, что для всех рассмотренных размерностей целевой функции  максимум этой функции найден с высокой точностью.

Таблица 1 – Результаты тестирования программного обеспечения

Рисунок 1 – К тестированию метода

4. Исследование эффективности метода. Многоэкстремальная функция Растригина

4.1. Рассмотрим прежде двумерную функцию Растригина ()

,                               (3)

определенную в области

.                                      (4)

Глобальный максимум функции (3) на множестве (4) достигается в точке (0,0,…,0) и равен нулю.

Результаты исследования при варьировании величины  иллюстрируют рисунки 2 – 4. Зде и далее  - усредненная вероятность локализации глобального максимума функции  с заданной точностью .

Рисунок 2 – Число итераций  в функции величины :

функция Растригина;

Рисунок 3 – Усредненная погрешность решения в функции величины : функция Растригина;

Рисунок 4 – Усредненная вероятность локализации глобального максимума: функция Растригина; ;

Аналогичные результаты при варьировании делителя размерного параметра  иллюстрируют рисунки 5 – 7. Здесь максимальное число сообщений в памяти муравьев  принято равным 27.

Рисунок 5 – Усредненное число итераций в функции величины ψ:

функция Растригина;

                          а) 1; 4; 16                                            б) 64; 256

Рисунок 6 – Усредненная погрешность решения в функции величины ψ: функция Растригина;

Рисунок 7 - Усредненная вероятность локализации глобального максимума: функция Растригина;

Результаты, представленные на последнем рисунке, получены при  для 4, 16, 64, 256 и при  - для .

4.2. Рассмотрим теперь пятимерную функцию () Растригина (3), определенную в области (4). Положим, что число агентов в колонии , а величина делителя размерного параметра 30.

Результаты исследования при варьировании величины  иллюстрируют рисунки 8 – 10. Аналогичные результаты исследования при варьировании величины  иллюстрируют рисунки 11 – 13.

Рисунок 8 – Усредненное число итераций в функции величины : функция Растригина;

Рисунок 9 – Усредненная погрешность решения в функции величины : функция Растригина;

Рисунок 10 – Усредненная вероятность локализации глобального максимума: функция Растригина; ;

Рисунок 11 – Усредненное число итераций в функции величины ψ:

функция Растригина;

                              а) 1; 4                                          б) 16; 64

Рисунок 12 – Усредненная погрешность решения в функции величины ψ: функция Растригина;

Рисунок 13 – Усредненная вероятность локализации глобального максимума:

функция Растригина; ;

4.3. В обсуждение приведенных результатов экспериментов, прежде всего, следует отметить высокую эффективность метода, как для двумерной, так и для пятимерной функций Растригина. Действительно, при варьировании величины  в первом случае усредненное число итераций не превышало=2010, а во втором – =1230; усредненная погрешность решения - величин =, = соответственно; при лучших значениях варьируемых параметров средняя вероятность локализации глобального максимума не опускалась в том и другом случаях ниже %.

Результаты исследования показывают, что, как для двумерной, так и для пятимерной функций Растригина, имеют место следующие свойства метода CIAC. Усредненное число итераций  и усредненная вероятность локализации глобального максимума  слабо зависят от величины . За исключением случаев , 6, усредненная погрешность решения  также слабо зависит от этой величины.

Для двумерной функции Растригина отсутствует четкая тенденция зависимости усредненного числа итераций  от величины . В то же время, для пятимерной функции имеет место снижение числа итераций  с ростом величины  со значения =1228 до значения =1071 (рисунок 11). Для двумерной и для пятимерной функций Растригина, усредненная погрешность решения  уменьшается с ростом величины  на три порядка (рисунки 6, 12). С другой стороны, вероятность локализации глобального максимума  в тех же условиях уменьшается в примерно 3 раза для двумерной функции Растригна и практически до нуля – для той же пятимерной функции (рисунки 7, 13).

5. Исследование эффективности метода. Овражная функция Розенброка

Рассмотрим сначала двумерную функцию Розенброка ()

,                               (5)

определенную в области допустимых значений

.                                (6)

Глобальный максимум в задаче (5), (6) достигается в точке (1,1,…,1) и равен нулю.

Результаты исследования при варьировании величины  иллюстрируют рисунки 14, 15. Вероятность локализации глобального максимума при всех рассматриваемых значения параметра  равна 100% и поэтому соответствующая диаграмма не приведена.

Рисунок 14 – Усредненное число итерации в функции параметра :

функция Розенброка;

Рисунок 15 – Усредненное значение погрешности решения в функции параметра : функция Розенброка;

Результаты исследования при варьировании величины делителя размерного параметра  иллюстрируют рисунки 16, 17. Исследование выполнено при максимальном числе сообщений .

Рисунок 16 – Усредненное число итераций в функции величины :

функция Розеброка;

Вероятность локализации глобального максимума при всех рассматриваемых значения параметра , за исключением случая , равна 100%.

Таким образом, на основе результатов исследования эффективности метода CIACдля двумерной функции Розеброка можно сделать следующие выводы.

                              а) 1; 4                                             б) 16; 64

Рисунок 17 – Усредненная погрешность решения в функции величины :

функция Розеброка;

Усредненное число итераций  слабо зависит от значений параметра , хотя имеет место отчетливая тенденция увеличения этого числа с ростом величины  (с =2068 при =1 до =3157 при =31) – рисунок 14.

В зависимости усредненной погрешности решения  от значений параметра  имеется четкий максимум, соответствующий =11 и равный . Минимальное значение, равное , погрешность  принимает при =1. При  погрешность  слабо зависит от значений параметра  и равна  (рисунок 15).

Усредненное число итераций  монотонно увеличивается с ростом величины  с =2254 при =1 до =7000 при =256 (рисунок 16).

Имеет место сильная зависимость усредненной погрешности решения  от значений величины . При увеличении  погрешность  уменьшается почти на четыре порядка – с  при =1, до  при =64 (рисунок 17).

Аналогичное исследование было выполнено также для пятимерной функции () Розенброка (5). Исследование показало низкую вероятность локализации максимума этой функции методом CIACпри всех рассматриваемых значениях параметров , .

6. Приближенное построение множества Парето в задаче многокритериальной оптимизации с помощью метода CIAC

Рассмотрим задачу многокритериальной оптимизации

,                                           (7)

где  - множество допустимых значений вектора варьируемых параметров ,  - векторный критерий оптимальности [9]. Запись (7) понимается только в том смысле, что необходимо максимизировать значения всех частных критериев оптимальности .

         Для приближенного построения множества Парето (а, тем самым, и фронта Парето) задачи (7) используем комбинацию метода CIACи метода MOPSO[8]. В методе MOPSO положение каждого агента оценивается с точки зрения доминирования по отношению к другим агентам. После каждой итерации метода координаты доминирующих агентов заносятся в специальный архив, в котором точки не доминируют друг друга. Если после очередной итерации некоторый агент доминирует агента из архива, то последний из архива удаляется, а на его место в архив записываются координаты доминирующего агента.

Исследование эффективности указанной комбинации методов проводилось на тестовой двухмерной двухкритериальной задаче

                                  (8)

где множество допустимых значений

                                 (9)

(рисунок 18). Можно показать, что множество достижимости  и фронт Парето  этой задачи имеют вид, представленный на рисунке 19, а множество Парето  – на рисунке 18 [8].

Исследование выполнено при следующих значениях параметров метода CIAC: максимальное число сообщений ; знаменатель размерного параметра ψ=50.

Рисунок 18 – Область допустимых значений  и множество Парето  задачи многокритеральной оптимизации (8), (9)

Рисунок 19 – Область достижимости  и фронт Парето  задачи многокритеральной оптимизации (8), (9)

Результаты исследования иллюстрируют рисунки 20, 21.

Проведенное исследование показало, что метод CIAC, использующий оба канала связи между агентами популяции, по сравнению с вариантом использования только канала стигмертии обеспечивает меньшую плотность покрытия фронта Парето и множества Парето.

                                        а)                                                      б)

Рисунок 20 – Аппроксимация множества Парето (а) и фронта Парето (б):

используется, как прямой канал, так и канал стигмертии

                                           а)                                                    б)

Рисунок 21 – Аппроксимация множества Парето (а) и фронта Парето (б):

используется только канал стигмертии

Заключение

Исследование эффективности метода CIACпри максимизации многоэкстремальной функции Растригина показало, что метод в широком диапазоне своих свободных параметров обеспечивает близкую к 100% вероятность локализации глобального максимума этой функции, как в двумерном, так и в пятимерном пространстве варьируемых параметров. В то же время, максимизация этим методом овражной функции Розенброка показала высокую вероятность локализации глобального максимума только в двумерном случае. Таким образом, результаты исследования показывают, что, вообще говоря, алгоритм CIACможет быть эффективно использован при решении задачи глобальной максимизации многоэкстремальных, но не овражных функций.

Результаты исследования позволяют дать следующие рекомендации относительно выбора значений свободных параметров ,  метода CIAC. При поиске глобального максимума многоэкстремальных функций величина  должна принимать значения, не превышающие шести. При этом обеспечивается минимальная погрешность локализации этого максимума. При выборе значения величины  следует исходить из того, что с увеличением этой величины имеют место две противоречивые тенденции – уменьшение погрешности решения и уменьшение вероятности локализации глобального максимума. Разумным компромиссом могут быть значения , равные ~16 для функций невысокой размерности и равные единице для функций высокой размерности.

Исследование показало перспективность использования комбинации методов CIAC, MOPSO для приближенного построения множества Парето и фронта Парето в задаче многокритериальной оптимизации.

В развитии работы предполагается разработка и исследование эффективности параллельных вариантов метода CIAC для решения задач многомерной глобальной оптимизации.

Литература

1. A. Colorni, M. Dorigo, V. Maniezzo. Distributed optimization by ant colonies // Proceedings of the First European Conference on Artificial Life, ECAL’91.- Elsevier, Paris, France, 1992.- pp. 34–142.

2. G. Bilchev, I.C. Parmee. The ant colony metaphor forsearching continuous design spaces // Lect. Notes Comput. Sci., 1995, 993.- pp. 25–39.

3. J. Dréo, P. Siarry/ Continuous interacting ant colony algorithm based on dense heterarchy // Future Generation Computer Systems, 2004, 20.- pp. 841–856.

4. Tang K., Yao X., Suganthan P.N., MacNish C., Chen Y.P., Chen C.M., Yang Z. Benchmark Functions for the CEC'2008 Special Session and Competition on Large Scale Global Optimization. - Nature Inspired Computation and Applications Laboratory, USTC, China, 2007.

5. Cherix D. Note preliminaire sur la structure, la phenologie et le regime alimentaire d'une super-colonie de Formica lugubris Zett // Insects Sociaux, 1980, 27.- pp. 226–236.

6. ШтовбаС.Д. Муравьиныеалгоритмы // Exponenta Pro. Математика в приложениях, 2003, ╧4.- с.70-75.

7. Джон Г. Мэтьюз, Куртис Д. Финк. Численные методы. Использование MATLAB.- 3-е изд.- М.: «Вильямс», 2001.- С. 720.

8. Антух А.Э., Семенихин А.С., Хасанова Р.В. Приближенное построение множества Парето в задаче многокритериальной оптимизации методом роя частиц // Электронное научно-техническое издание «Наука и образование», 2010, ╧4 (http://technomag.edu.ru/doc/141969.html).