Презентация Алгоритмы оптимизации онлайн

Содержание слайда: ФГБОУ ВПО «Липецкий государственный технический университет» Кафедра прикладной математики Учебно-исследовательская работа по дисциплине: «Алгоритмы оптимизации»

Содержание слайда: Проект: Исследование алгоритмов глобальной оптимизации Цель: Реализация и исследование качества работы и эффективности алгоритмов глобальной оптимизации функций Задание: Разработать программное обеспечение для глобальной оптимизации функций на основе методов Монте-Карло, имитации обжига, генетических алгоритмов, интервальных методов. Провести исследования и сравнительный анализ качества и эффективности работы алгоритмов на нескольких (не менее трёх) тестовых задачах. Выявить параметры, наиболее сильно влияющие на качество и эффективность алгоритмов глобальной оптимизации. Сделать выводы о работе на основе результатов исследования и сравнительного анализа алгоритмов глобальной оптимизации, указать возможные способы усовершенствования алгоритмов.

Содержание слайда: Метод Монте-Карло Заключается в генерировании бесконечно большого количества случайных точек, в каждой из которых вычисляется значение целевой функции. Результат работы - точка, которая приводит к наименьшему значению функции. Метод Монте-Карло - базовый алгоритм стохастической оптимизации Алгоритм 1. Инициализация: fmin:=∞, xmin=NaN (Not A Number – неопределенность типа (0/0)), N – очень большое целое число – число генерируемых точек, i:=0, 1. Цикл: повторять пока i < N 1.1. xi := случайная точка 1.2. Если f(xi)<fmin, то xmin=xi, fmin =f(xi) 1.3. i:=i+1 и перейти на шаг 1.1. Если значения функции вычисляются в точках, полученных на основе равномерного распределения области S, наименьшее значение функции сходится к глобальному минимуму с вероятностью 1.

Содержание слайда: Программная реализация метода Монте-Карло

Содержание слайда: Метод имитации обжига Алгоритм имитации обжига отражает поведение расплавленного материала при отвердевании с применением процедуры отжига (управляемого охлаждения) при температуре, последовательно понижаемой до нуля. В процессе медленного управляемого охлаждения, называемого обжигом, кристаллизация расплава сопровождается глобальным уменьшением его энергии, однако допускаются ситуации, в которых она может на какое-то время возрастать. Алгоритм 2. Инициализация: T := Tmax > 0 – максимальная температура (большое вещественное число) L – количество циклов для каждой температуры (целое число) r из интервала (0;1) – параметр снижения температуры (вещественное число) eps > 0 – малое вещественное число (например, 1e-10) 1. Выбрать случайную точку x 2. Пока T > 0 повторять L раз следующие действия: 2.1. Выбрать новую точку x’ из eps-окрестности точки x 2.2. Рассчитать изменение целевой функции Δ=f(x’)-f(x) Если Δ<=0, то x:=x’ иначе Если случайного числа, р/р на интервале (0;1), то x:=x’ 3. Уменьшить температуру T:=rT. Вернуться к пункту 2. 4. Провести оптимизацию любым методом локальной оптимизации.

Содержание слайда: Программная реализация метода имитации обжига

Содержание слайда: Генетические алгоритмы Генетические алгоритмы – смена поколений на основе операторов отбора, скрещивания, мутации, редукции. Основные понятия ГА: Фитнесс-функция: f(x). Особь (хромосома, индивид):x = (x1x2x3…xn), Ген - бит строки xi. Популяция - X = {xi, i=1,…,k}. Работа ГА - смена поколений. Алгоритм 3. Создание исходной популяции. Выбор родителей для процесса размножения (оператор отбора). Создание потомков выбранных пар родителей (оператор скрещивания). Мутация новых особей (оператор мутации). Сокращение расширенной популяции до исходного размера (оператор редукции). Проверка выполнения критерия останова. Если не выполнен, то переход на шаг 2. Выбор лучшей достигнутой особи в конечной популяции в качестве решения.

Содержание слайда: Программная реализация генетического алгоритма оптимизации

Содержание слайда: Интервальный анализ Интервальная арифметика – расширение арифметики действительных чисел на случай интервалов. Основы интервального анализа: X, Y, Z – множества, – бинарное отображение. Расширение на множества: Если то Основа интервальных алгоритмов глобальной оптимизации– итерационная процедура разбиения исходного бруса на подбрусы (бисекция) и исследование поведения функции на каждом подбрусе. Для отсеивания неперспективных брусов используются тесты в средней точке, на монотонность, на выпуклость. С помощью интервального анализа возможно нахождение всех глобальных оптимумов.

Содержание слайда: Алгоритм 4 (алгоритм поиска всех глобальных оптимумов). Алгоритм 4 (алгоритм поиска всех глобальных оптимумов). Вход: Функция f(x), ; f’(x), f’’(x), [x] – начальный брус; минимальная ширина бруса . Выход: Lres – список брусов, содержащих точки глобального минимума; [f*] – оценка глобального минимума. 1. Инициализация: [p] := [x], c := mid([p]) 2. Оценка верхней границы минимума: 3. Инициализация списков: L := {}, Lres := {} 4. Главный ЦИКЛ: 4.1.Выбираем компоненту l, по которой брус [p] имеет наибольшую длину: l := arg max wid([pi]) 4.2. Бисекция [p] по l-й координате на [p1] и [p2] 4.3. Цикл по i := 1..2 4.3.1. [g] := [f’]([pi]) – функция включения для градиента 4.3.2. Если тест на монотонность не пройден, то переход на следующий i 4.3.3. [f]c := (f(m)+[g]([pi]-m)) – центрированная форма функции включения 4.3.4. Если тест на нижнюю границу не пройден, т.е. , то переход на следующий i

Содержание слайда: 4.3.5. [H] := [f’’]([pi]) – функция включения для матрицы Гессе 4.3.5. [H] := [f’’]([pi]) – функция включения для матрицы Гессе 4.3.6. Если тест на выпуклость не пройден (на главной диагонали [H] есть элементы, меньшие 0) , то переход на следующий i 4.3.7. – сохранение в списке 4.4. ВыполнятьБисекцию := Ложь 4.5. Цикл: Пока (L <> {}) и (не ВыполнятьБисекцию) 4.5.1. := 1-й элемент списка L; – удаление из списка; m := mid([p]) 4.5.2. Удаление всех брусов из L, не проходящих тест на среднюю точку с . 4.5.3. . 4.5.4. Если (wid([f*]) ≤ ε) или (wid([p]) ≤ ε), то иначе ВыполнятьБисекцию := Истина ПОКА (ВыполнятьБисекцию) 5. := 1-й элемент списка L ;

Содержание слайда: Программная реализация интервальных методов оптимизации

Содержание слайда: Сравнительная таблица эффективности алгоритмов оптимизации

Содержание слайда: Оптимальные параметры для методов оптимизации

Содержание слайда: Заключение Были исследованы основные особенности схемы алгоритмов, тесты на проверку, особенности определения парадигм интервального анализа, а также вопросы их программной реализации, что позволило создать программный продукт с дружественным интерфейсом для оптимизации функции нескольких переменных. В работе произведен ряд улучшений классической схемы глобальной оптимизации, создан класс для работы с интервальным исчислением. В большинстве случаев алгоритмы интервального анализа более точны, нежели остальные алгоритмы. Время работы алгоритма интервального анализа по сравнению с другими – быстрое, реализация алгоритма значительно быстрее стохастических и генетических алгоритмов оптимизации, временные задержки могут быть связаны с особенностью интервального исчисления и переопределения функций. Разница в точности между алгоритмом с применением теста на НУ оптимума и без него практически отсутствует, однако, количество брусов, получающихся при отключении теста значительно больше, чем при его наличии, что, в свою очередь, существенно влияет на время выполнения программы.

Содержание слайда: Благодарим за внимание!