Otimização/Métodos de penalidades
Origem: Wikilivros, livros abertos por um mundo aberto.
| Otimização |
Os métodos que recebem este nome fazem parte de uma família de métodos baseados em:
- Simplicidade conceitual;
- Eficiência prática;
Algumas das primeiras funções de penalidade foram desenvolvidas por:
- Courant (1943)
- Ablate Brighham (1955) (qual o artigo?)
- AV Fiacco, GP McCormick (1968) (qual o artigo?)
Para compreender este tipo de método, será considerado o seguinte problema:

Adicionalmente, se for considerado o conjunto de pontos
, o problema (P) se escreve ainda como

Uma primeira idéia para a resolução desse tipo de problema é fazer uso de funções indicadoras, conforme é definido a seguir:
- Definição
Dado um conjunto não vazio
, define-se a função indicadora
por:
Notas: A função indicadora IC é às vezes denotada por χC.
Para transformar um conjunto (P) em um problema sem restrições, pode-se proceder da seguinte maneira: Considerar o problema (PD), dado por:

Considerando
definida por:
Tem-se ainda o problema (PP), dado por:

Comentários:
- A grande vantagem desta idéia é que ela transforma um problema com restrições em um problema irrestrito.
- A principal desvantagem é que a função φ definida a seguir é descontínua em cada ponto
:
Índice |
[editar] Método de penalidade exterior
Para contornar a desvantagem da descontinuidade da função apresentada anteriormente, surgem outras funções, como por exemplo:
- Definição
Dada uma função
, definida em um conjunto arbitrário A, define-se a parte positiva de g, como:
- g + (x) = max{0,g(x)}
| Um dos autores deste material sugeriu a adição de uma imagem para comparar uma função g(x) e sua correspondente g + (x) = max{0,g(x)}. |
- Exercício
Verifique que para cada
tem-se, para cada i, a igualdade
, onde
é a parte positiva de gi e H é a função definida no exemplo anterior.
| Resolução |
|---|
De fato, dada qualquer função , segue da própria definição de H que
Mas implica que Portanto, |
- Exercício
Verifique que para cada
tem-se, para cada j, a igualdade
.
| Um dos autores deste material sugeriu conferir o enunciado do exercício anterior. A afirmação parece ser falsa nos casos em que hj(x) < 0. |
A idéia de aplicar penalizações aos pontos que não pertencem ao conjunto viável é formalizada na seguinte definição:
- Definição
Seja
. A função H é chamada de função de penalidade exterior se possui as seguintes propriedades:


- H é contínua
Nota: Lembre-se que
é o conjunto viável do problema (P).
Em particular, as funções
são funções de penalidade exterior.
- Definição
Seja
. A função θ é dita coerciva se 
| Um dos autores deste material sugeriu a adição de exemplos de funções de penalidade, juntamente com algumas imagens ilustrando os seus gráficos. |
Nota: Conforme o dicionário on-line, disponibilizado pela empresa Priberam, o termo coercivo significa: que coage; que reprime; que impõe pena; coercitivo. Nesse sentido, esse é um termo adequado ao tratar do conceito anterior, no contexto dos métodos de penalidade.
- Exercício
Verifique que θ é uma função coerciva se, e somente se,
é limitado para todo
.
| Resolução |
|---|
| Pela definição de limite, a afirmação
é equivalente a dizer que
Esta última implicação, é equivalente à
Pela definição de conjunto de nível, isso equivale à |
| Um dos autores deste material sugeriu a adição de uma imagem que ilustre geometricamente a relação entre coercividade e conjuntos de nível. |
- Exercício
Verifique que
definida por
é uma função de penalidade exterior, onde conforme anteriormente,
é a parte positiva de gi.
| Resolução |
|---|
| Primeiramente, H(x) é uma função não negativa, pois o quadrado de qualquer número real é não negativo, assim como a soma de números reais não negativos.
Em segundo lugar, tem-se H(x) = 0 se, e somente se, para cada índice i e cada índice j vale Finalmente, como a soma e o produto de funções contínuas resulta em uma função contínua, segue que H(x) é contínua, pois gi,hj são contínuas. |
- Exercício
Verifique que se
é uma função contínua coerciva, então existe
tal que
.
| Resolução |
|---|
Considere um ponto arbitrário . Tome . Nestas condições, Lg(λ) é limitado (conforme um dos exercícios anteriores) e fechado (pois é pré-imagem de um conjunto fechado por uma função contínua), portanto compacto. Neste caso, conforme o teorema de Weierstrass, a função g possui algum ponto de mínimo no conjunto Lg(λ), ou seja, existe tal que .
Ne verdade, tal ponto |
| Um dos autores deste material sugeriu a adição de uma imagem ilustrando a existência de minimizadores globais para funções coercivas. |
[editar] Alguns conceitos da topologia
Em algumas situações, é interessante ter em mente que certos conceitos definidos no contexto da Otimização são, na verdade, instanciações de conceitos mais gerais, muitos deles provenientes da topologia. Alguns exemplos são apresentados a seguir.
- Definição
Dado um conjunto X, uma coleção
de subconjuntos de X é chamada de topologia se:
- Exemplos
- Topologia euclidiana:
- X = R
Em outras palavras, a topologia euclideana é a coleção de todos os conjuntos abertos contidos em
. Pode-se verificar com facilidade que de fato são satizfeitas as três propriedades que definem uma topologia.
Outo exemplo muito comum é o seguinte:
- Topologia euclideana extendida:
Em geral, a noção de limite seria caracterizada topologicamente da seguinte forma:
- Definição

[editar] De volta ao método
Uma vez apresentados os conceitos iniciais, pode-se provar o seguinte teorema:
- Teorema
Considere:
uma função de penalidade exterior;
uma função contínua;
um conjunto fechado;
uma sequência de termos positivos tal que
.
- f é coerciva.
- C é limitado e H é coerciva.
,então:
possui algum ponto de acumulação;- Todo ponto de acumulação de
é solução do problema (P);
.
| Um dos autores deste material sugeriu a adição de uma imagem que ilustre geometricamente o significado do teorema acima. |
| Demonstração |
|---|
Se (1) acontece, então é coerciva, pois
A desigualdade é válida pois H é uma função de penalidade, portanto não negativa, e a igualdade se deve à hipotese sobre f. Além de coerciva, tal função é contínua (pois é combinação linear de funções contínuas). Logo, a função possui um ponto de mínimo global, ou seja, existe , para qualquer Mas f é contínua e coerciva, então também existe Por outro lado, se vale (2), então Em ambos os casos, dada uma sequência Sendo que a primeira desigualdade se deve ao fato de Além disso, tem-se as seguintes desigualdades: Logo, somando os membros correspondentes, obtem-se: ou seja, Portanto, Por outro lado, Se a primeira das hipóteses acontece, segue da coercividade e dessa última desigualdade que Se ocorre a segunda, então H é coerciva, mas foi mostrado que Portanto, em qualquer caso, Seja A sequência Como H é contínua, Logo, |
- Exercício
Dado o problema (P), considere
(isso não quer dizer que o problema tenha solução). suponha-se que f,g e h são funções contínuas e que
seja não vazio, ou seja, que C é factível. Tome
como
, onde
denota a parte positiva de gi, como de costume. Considere ainda
dada por
e, para cada r > 0, seja
Nessas condições, provar que:
- H é uma função de penalidade exterior


- Se 0 < r < s então m(s) < m(r)
- Se f,gi,hj são covexas, então
é convexa. - Se f,gi,hj são diferenciáveis, então
é diferenciável em x, e 
- Se 0 < rk + 1 < rk e
e se {xk} é uma sequência tal que
e
então
é solução de (P).
[editar] Algoritmo de penalidade exterior
Primeiro passo: Escolha, r > 0 e k = 1 Passo iterativo k: Calcular
, solução global de
Escolha rk tal que 0 < rk < rk − 1
Nota: Neste algoritmo, H é uma função de penalidade exterior.
- Exercício
Sejam f(x,y) = x2 + y2 e
. Considere o problema:
Utilize o método de penalidade exterior para determinar o ponto de mínimo da função f sobre o conjunto C.
| Resolução |
|---|
Esboço: Pode-se tomar , onde:
Tem-se então o problema irrestrito: |
[editar] Implementação do algoritmo de penalidade exterior em SciLab
Considerando o problema
com f uma função quadrática, A simétrica positiva definida, gi,hj lineares, e a função de penalidade, H, dada por:
Pode-se usar o método dos gradientes conjugados para resolver o seguinte problema:
onde f + H terá sua matriz Hessiana definida positiva.
| Incluir o código para uma implementação do método em SciLab. |
[editar] Método de penalidade interior
Este método também é conhecido como método de barreira. Ele consistem em trabalhar com funções de penalidade tais que
e qualquer que seja a sequência
para a qual
, se tem que a função de penalidade tende a
.
Mas como conseguir esse tipo de função?
[editar] Exemplos
Considere o caso em que
. Lembrando que a função logarítmica tem a a propriedade:
pode-se tomar
, pois
implica que
Analogamente, tem-se
então, uma outra função com a propriedade desejada é
.
O problema a ser resolvido quando se quer aplicar o método de barreira é o seguinte:
onde
é tal que 
Observação: C0 não é necessariamente igual ao interior do conjunto C. Por exemplo:
| Um dos autores deste material sugeriu a adição de uma imagem para ilustrar um conjunto C cujo correspondente C0 seja diferente do interior de C. |
- Definição
Se diz que uma função
é uma função de barreira se ela possui as seguintes propriedades:
- B é limitada inferiormente em C.
- Para qualquer sequência
tal que
vale 
- B é contínua
[editar] Algoritmo de barreira
Primeiro passo: Escolha, r > 0 e t0 > 0 Passo iterativo k: Calcular
, solução global de
Escolha tk + 1 tal que 0 < tk + 1 < tk
Observação: Neste método os termos da sequência {xn} estão sempre em C0.
[editar] Implementação do algoritmo de barreira em SciLab
Considerando o problema
pode-se usar o método de barreira no conjunto:
Pode-se usar qualquer das funções de penalidade interior apresentadas, por exemplo:
ou ainda
Como
, o problema passa a ser:
Observação: Note que é necessário conhecer um ponto inicial
, para servir de primeira aproximação, ou ponto de partida para o algoritmo.









. Como
tal que
tem-se
.
(sua contrapositiva).
. A existência de um número
e
, tem-se 
. Tome
. Nestas condições,
tal que
.
então 




![\Gamma = \Gamma_1 \cup \left\{ A \subset \mathbb{R} \cup \{ \infty \}: \exists a \in \mathbb{R}, A = \left] a, \infty \right]\right\}](http://upload.wikimedia.org/math/a/5/9/a5966eb32235a528b40a60b471878fa0.png)
é coerciva, pois


tal que
tal que
, defina-se
por 
ser um minimizador, por construção, e a segunda segue por que
.




, sendo primeira desigualdade válida por
.
. Então
é uma sequência limitada.
, consequentemente
. Sendo
tal que
. Logicamente,
. Pela continuidade de
. Mas já havia sido verificado que
.
é crescente. Seja
(por que razão ele existe?). Como
, tem-se
. Portanto,
. Logo
, ou seja,
.
, e este valor é nulo se, e somente se,
.
, donde
, ou seja,
,
, solução global de
Escolha
, onde:
, onde pode ser aplicado o método de gradientes conjugados.






, solução global de
Escolha 



