 |
Методы поиска экстремума функции
|
|
|
|
Глава 3. Нелинейное программирование.
Постановка задачи нелинейного программирования
Предположение о возможности описать зависимости между управляемыми переменными с помощью линейных функций вообще говоря не всегда адекватно природе моделируемого объекта. Например, в рассмотренных моделях цена товара считается независимой от количества произведенного продукта, однако в повседневной жизни мы постоянно сталкиваемся с тем, что она может зависеть от объема партии товара. Аналогичные замечания могут быть сделаны и по поводу технологических ограничений: расход определенных видов сырья и ресурсов происходит не линейно, а скачкообразно (в зависимости от объема производства). Попытки учесть эти факторы приводят к формулировке более общих и сложных оптимизационных задач. Изучение методов их решения составляет предмет научной области, получившей названия нелинейного программирования.
Общая задача нелинейного программирования (ОЗНП) определяется как задача нахождения максимума (или минимума) целевой функции 
на множестве D, определяемом системой ограничений
(1)
где хотя бы одна из функций f или 
является нелинейной.
По аналогии с линейным программированием ЗНП однозначно определяется парой 
и кратко может быть записана в следующем виде
(2)
Для определенности, в дальнейшем по умолчанию будем рассматривать задачи максимизации.
Как и в ЗЛП, вектор 
называется допустимым планом, а если для любого 
выполняется неравенство 
, то 
называют оптимальным планом. В этом случае является точкой глобального максимума.
С точки зрения экономической интерпретации 
может рассматриваться как доход, который получает фирма (предприятие) при плане выпуска х, а 
как технологические ограничения на возможности выпуска продукции. В данном случае они являются обобщением ресурсных ограничений в ЗЛП 
|
|
|
Задача (2) является общей, т. к. допускает запись логических условий, например:
или запись условий дискретности множеств:
.
Набор ограничений, определяющих множество D, при необходимости всегда можно свести либо к системе, состоящей из одних неравенств:
либо, добавив фиктивные переменные у, к системе уравнений:
Перечислим свойства ЗНП, которые существенно усложняют процесс их решения по сравнению с задачами линейного программирования:
1. Множество допустимых планов D может иметь очень сложную структуру (например, быть невыпуклым или несвязным).
2. Глобальный максимум (минимум) может достигаться как внутри множества D, так и на его границах (где он, вообще говоря, будет не совпадать ни с одним из локальных экстремумов).
3. Целевая функция f может быть недифференцируемой, что затрудняет применение классических методов математического анализа.
В силу названных факторов задачи нелинейного программирования настолько разнообразны, что для них не существует общего метода решения.
Методы поиска экстремума функции
Одним из наиболее общих подходов к решению задачи поиска экстремума (локального максимума или минимума) функции при наличии связующих ограничений на ее переменные (или, как еще говорят, задачи условной оптимизации) является метод Лагранжа. Идея метода состоит в сведении задачи поиска условного экстремума целевой функции
(3)
на множестве допустимых значения D, описываемом системой уравнений
(4)
к задаче безусловной оптимизации функции
(5)
где 
- вектор дополнительных переменных, называемых множителями Лагранжа. Функцию 
, где 
, , называют функцией Лагранжа. В случае дифференцируемости функций f и справедлива теорема, определяющая необходимое условие существования точки условного экстремума в задаче (3)-(4).
|
|
|
Теорема 2.1. Если - точка условного экстремума функции (3) при ограничениях (4) и ранг матрицы первых частных производных функций
равен т, то существуют такие 
, не равные одновременно нулю, при которых
. (6)
Из теоремы (1) вытекает метод поиска условного экстремума, получивший название метода множителей Лагранжа, или просто метода Лагранжа. Он состоит из следующих этапов.
1. Составление функции Лагранжа .
2. Нахождение частных производных
и 
/
3. Решение системы уравнений
(7)
относительно переменных х и и.
4. Исследование точек, удовлетворяющих системе (7), на максимум (минимум) с помощью достаточного признака экстремума.
Наличие четвертого этапа объясняется тем, что теорема (1) дает необходимое, но не достаточное условие экстремума. Проверка достаточных условий экстремума сопряжена со значительными трудностями. Основное практическое значение метода Лагранжа заключается в том, что он позволяет перейти от условной оптимизации к безусловной и, соответственно, расширить множество доступных средств решения задачи. Заметим, что задача решения системы уравнений (7), к которой сводится данный метод, в общем случае не проще исходной проблемы поиска экстремума (3)-(4). Методы, подразумевающие такое решение, называются непрямыми. Они могут быть применены для весьма узкого класса задач, для которых удается получить линейную или сводящуюся к линейной систему уравнений (7). Их применение объясняется необходимостью получить решение экстремальной задачи в аналитической форме (допустим, для тех или иных теоретических выкладок). При решении конкретных практических задач обычно используются прямые методы, основанные на итеративных процессах вычисления и сравнения значений оптимизируемых функций.
Ведущее место среди прямых методов решения экстремальных задач занимает градиентный метод (точнее, семейство градиентных методов) поиска стационарных точек дифференцируемой функции. С тационарной называется точка, в которой 
и в которой, в соответствии с необходимым условием оптимальности, возможно достигается локальный экстремумум. Таким образом, применяя градиентный метод, находят множество точек локальных максимумов (или минимумов), среди которых определяется глобальный максимум (или минимум).
|
|
|
Идея данного метода основана на том, что градиент функции указывает направление ее наиболее быстрого возрастания в окрестности той точки, в которой он вычислен. Поэтому, если из некоторой текущей точки 
перемещаться в направлении вектора , то функция f будет возрастать, по крайней мере, в некоторой окрестности точки . Следовательно, для точки 
, 
, лежащей в такой окрестности, справедливо неравенство 
. Продолжая этот процесс, мы постепенно будем приближаться к точке некоторого локального максимума (см. Рис. 2.1 ).
Однако одновременно с определением направления сдвига возникает вопрос о величине этого сдвига или, другими словами, возникает проблема выбора шага l, в рекуррентной формуле
, (8)
задающей последовательность точек, стремящихся к точке максимума.
В зависимости от способа ее решения различают различные варианты градиентного метода. Рассмотрим наиболее известных из них.
|
|
|
