Lagrange-multiplicator

Afbeelding 1: Zoek de ${\displaystyle x}$ en ${\displaystyle y}$ waarvoor de functie ${\displaystyle f(x,y)}$ maximaal is, en waarvoor de eis ${\displaystyle g(x,y)=c}$ (weergegeven in het rood) voldaan is.

Veel optimaliseringsproblemen zijn van de vorm:

maximaliseer de functie ${\displaystyle f(x,y)}$

onder de voorwaarde ${\displaystyle g(x,y)=c}$.

In woorden: zoek het punt ${\displaystyle (x,y)}$ dat op de kromme ${\displaystyle g(x,y)=c}$ ligt en waarvoor de functie ${\displaystyle f}$ maximaal is. Dit probleem is geschetst op de afbeeldingen rechts.

Als uit de voorwaarde afgeleid kan worden hoe een van de variabelen afhankelijk is van de andere, bijvoorbeeld ${\displaystyle y=y(x)}$, kan deze relatie gesubstitueerd worden in de te maximaliseren functie, zodat het probleem slechts één variabele heeft:

maximaliseer ${\displaystyle f(x,y(x))}$.

Als dit niet het geval is kan het probleem soms opgelost worden door de invoering van een nieuwe variabele ${\displaystyle \lambda }$, de zogeheten Lagrange-multiplicator, en de functie ${\displaystyle \Lambda ,}$ Lagrangefunctie genoemd, te beschouwen, gedefinieerd door:

${\displaystyle \Lambda (x,y,\lambda )=f(x,y)+\lambda {\Big (}c-g(x,y){\Big )}}$

Het blijkt nu dat er voor een oplossing ${\displaystyle (x,y)}$ van het oorspronkelijke probleem, noodzakelijk een ${\displaystyle \lambda }$ bestaat waarvoor ${\displaystyle (x,y,\lambda )}$ een stationair punt is van de functie ${\displaystyle \Lambda (x,y,\lambda )}$.

Deze nieuwe formulering van het probleem heeft twee voordelen: het oorspronkelijke probleem wordt herleid tot een volkomen standaard en goed bestudeerd probleem, namelijk het zoeken naar de stationaire punten van een functie, en verder blijken de op te lossen vergelijkingen in deze formulering in veel gevallen eenvoudiger dan in de oorspronkelijke verwoording.

Afbeelding 2: Alternatieve weergave van Afbeelding 1. De rode lijn geeft wederom de eis ${\displaystyle g(x,y)=c}$ weer, en de waarde de functie ${\displaystyle f(x,y)}$ is nu als hoogte weergegeven. De blauwe lijnen zijn hoogtelijnen, dus lijnen waarlangs de waarde van ${\displaystyle f}$ constant is. De oplossing is gegeven door de plaats waar de rode lijn raakt aan de blauwe hoogtelijn.

Hierboven werd gesteld dat elke oplossing van het oorspronkelijke variatieprobleem gegeven is door een stationair punt van de Lagrangefunctie ${\displaystyle \Lambda }$. (Andersom is dit niet waar: niet elk stationair punt van ${\displaystyle \Lambda }$ geeft een oplossing van het oorspronkelijke variatieprobleem.) Om deze uitspraak intuïtief te begrijpen, kan men de volgende redenering houden. Beschouw de lijnen waarlangs de functie ${\displaystyle f}$ een constante waarde heeft: ${\displaystyle f(x,y)=d}$. Als men de functiewaarden van ${\displaystyle f}$ op de z-as aangeeft, zijn deze lijnen de hoogtelijnen. Er zijn er zo twee getekend op de afbeelding rechts (dat wil zeggen, voor twee verschillende functiewaarden ${\displaystyle d_{1}}$ en ${\displaystyle d_{2}}$). Stel nu dat we wandelen langs de rode kromme ${\displaystyle g(x,y)=c}$. Dat is de verzameling punten die aan het vereiste voldoen. In het algemeen zal (gedurende dit wandelen) de waarde van ${\displaystyle f}$ aan het toe-, dan wel afnemen zijn. Dat wil zeggen dat op die plaatsen de kromme de hoogtelijnen snijdt. Echter, op het punt van de kromme waar ${\displaystyle f}$ extreem is, verandert de hoogte niet meer (bereikt zijn minimum/maximum), en dus raakt de hoogtelijn daar de kromme ${\displaystyle g(x,y)=c}$. Aangezien de gradiënt van een functie loodrecht staat op de lijnen waarlangs deze functie constant is, impliceert de vorige zin dat ter hoogte van het gezochte punt – ${\displaystyle f(x,y)}$ extremaal en ${\displaystyle g(x,y)=c}$ – de gradiënten van ${\displaystyle f}$ en ${\displaystyle g}$ evenwijdig zijn. De oplossing van het probleem heeft dus als bijzondere eigenschap

${\displaystyle \left({\frac {\partial f}{\partial x}},{\frac {\partial f}{\partial y}}\right)=-\lambda \left({\frac {\partial g}{\partial x}},{\frac {\partial g}{\partial y}}\right)}$

Hier drukt de constante ${\displaystyle \lambda }$ uit dat de loodrechte vectoren (de gradiënten) evenwijdig zijn, maar niet noodzakelijk even groot zijn/in dezelfde richting staan.

Nu zien we dat de uitspraak in de voorgaande sectie inderdaad steekhoudt. Daar werd gesteld dat de oplossing van het probleem gegeven is door stationaire punten van de Lagrangefunctie, dus punten waarvoor

${\displaystyle \nabla _{x,y,\lambda }\Lambda (x,y,\lambda )=0}$

(de notatie ${\displaystyle \nabla _{x,y,\lambda }}$ slaat weer op de gradiënt, dus zowel de afgeleiden naar ${\displaystyle x}$, en naar ${\displaystyle y}$, als die naar ${\displaystyle \lambda }$ moeten nul zijn.) Als we de uitdrukking voor de Lagrangefunctie ${\displaystyle \Lambda }$ invullen, zien we dat de afgeleiden naar ${\displaystyle x}$ en ${\displaystyle y}$ impliceren dat

${\displaystyle \nabla _{x,y}f=-\lambda \nabla _{x,y}g}$

Dat is precies de bovenstaande uitspraak dat ter hoogte van de oplossing, de loodrechte vectoren op de hoogtelijnen van ${\displaystyle f}$ en ${\displaystyle g}$ evenwijdig zijn. Anderzijds, de afgeleide naar ${\displaystyle \lambda }$ geeft het oorspronkelijke vereiste, namelijk

${\displaystyle g(x,y)=c}$.

Dit bevestigt (ten minste intuïtief) dat elke oplossing ${\displaystyle (x,y)}$ van het oorspronkelijke probleem overeenkomt met een ${\displaystyle (x,y,\lambda )}$ die voldoet aan ${\displaystyle \nabla \Lambda =0}$.

Typisch vindt men echter een aantal oplossingen voor ${\displaystyle \nabla \Lambda =0}$, waarvan dan slechts een of enkele oplossingen voldoen aan het oorspronkelijke probleem. (Dit is analoog aan het zoeken naar extrema van een functie. De punten waar de afgeleide van de functie nul worden zijn lokale extrema, en typisch zijn daarvan slechts een of twee punten globale extrema.)

Afbeelding 3: eenvoudig voorbeeld.

Voor welk(e) punt(en) op de eenheidscirkel is de som van de coördinaten maximaal? Voor dit probleem is ${\displaystyle f(x,y)=x+y}$ de functie die gemaximaliseerd moet worden, onder de voorwaarde ${\displaystyle g(x,y)=x^{2}+y^{2}=1=c}$. Aangezien de lijnen van constante ${\displaystyle x+y}$ gegeven zijn door rechtes, met richtingscoëfficiënt ${\displaystyle -1}$, kan men vrijwel op het eerste gezicht zien dat de raakpunten tussen een van deze hoogtelijnen en de cirkel zijn gegeven door de punten ${\displaystyle ({\tfrac {1}{2}}{\sqrt {2}},{\tfrac {1}{2}}{\sqrt {2}})}$ en ${\displaystyle (-{\tfrac {1}{2}}{\sqrt {2}},-{\tfrac {1}{2}}{\sqrt {2}})}$. Het eerste van de twee is het punt waarin ${\displaystyle f}$ maximaal is.

De oplossing met een Lagrange-multiplicator gaat als volgt.

De Lagrange-functie is

${\displaystyle \Lambda (x,y,\lambda )=f(x,y)+\lambda (c-g(x,y))=x+y+\lambda (1-x^{2}-y^{2})}$

Stel de afgeleiden van ${\displaystyle \Lambda }$ naar ${\displaystyle x}$ en naar ${\displaystyle y}$ gelijk aan 0:

${\displaystyle {\frac {\partial \Lambda }{\partial x}}=1-2\lambda x=0}$

${\displaystyle {\frac {\partial \Lambda }{\partial y}}=1-2\lambda y=0}$

De afgeleide naar ${\displaystyle \lambda }$ levert weer de voorwaarde

${\displaystyle x^{2}+y^{2}=1}$

De eerste twee vergelijkingen impliceren dat ${\displaystyle x=y}$, en als men dit in de voorwaarde invult, volgt dat ${\displaystyle 2x^{2}=1}$; dus ${\displaystyle x=\pm {\tfrac {1}{2}}{\sqrt {2}}}$.

De punten waarin ${\displaystyle f}$ een extreme waarde aanneemt, zijn dus ${\displaystyle ({\tfrac {1}{2}}{\sqrt {2}},{\tfrac {1}{2}}{\sqrt {2}})}$ en ${\displaystyle (-{\tfrac {1}{2}}{\sqrt {2}},-{\tfrac {1}{2}}{\sqrt {2}})}$. Niet elk extremaal van de Lagrange-functie is een oplossing van het oorspronkelijke probleem. Het maximum van ${\displaystyle x+y}$ wordt bereikt voor de eerste van deze twee mogelijkheden.

Bij veel problemen heeft de concrete waarde van de Lagrange-multiplicator ook een betekenis. Bedenk eerst dat:

${\displaystyle -{\frac {\partial \Lambda }{\partial c}}=\lambda }$

${\displaystyle \lambda }$ zegt dus in welke mate de waarde van het bereikte maximum verandert indien men de eis ${\displaystyle g(x,y)=c}$ verandert door een andere waarde voor ${\displaystyle c}$ toe te laten. Een typische situatie in economie waarbij Lagrange-multiplicatoren gebruikt worden is een vraagstuk van de vorm: gegeven een bepaald budget, hoe kunnen we een bepaalde grootheid (het economisch nut) maximaliseren. In dat geval zal (bij het oplossen van het probleem), de waarde van de Lagrange-multiplicator aangeven in welke mate het nut verandert als men het budget aanpast.

• Extremum

• (en) Lagrange-multiplicatoren op de Wolfram-website.
• (en) http://eom.springer.de/L/l057190.htm

(Veralgemenen ook naar de situatie met meerdere opgelegde eisen, wat meerdere Lagrange-multiplicatoren vereist.)

• (en) Conceptuele inleiding
• (en) Leertekst over Lagrange-multiplicatoren
• (nl) Voorbeeld-oefening uit de economie