előadásvázlatok Szabó Péter Gábor, Virágh János:Közelítő és szimbolikus számítások haladóknak

Főkedvezményezett:

Pannon Egyetem 8200 Veszprém Egyetem u. 10.

Kedvezményezett:

Szegedi Tudományegyetem 6720 Szeged

Dugonics tér 13.

A felsőfokú informatikai oktatás minőségének fejlesztése,

modernizációja

TÁMOP-4.1.2.A/1-11/1-2011-0104

Szabó Péter Gábor, Virágh János:

Közelítő és szimbolikus számítások haladóknak előadásvázlatok

Közelítő és szimbolikus számítások haladóknak

1. előadás

Ortogonális transzformációk

Ortogonális mátrixok,

ortogonális transzformációk

Ortogonális mátrixok

Definíció. A mátrix ortogonális, ha

Példa. Az alábbi mátrixok ortogonálisak.

n

Rn

Q ^

. I QQ























0 0

1 0

1 0

0 0

0 0

0 1

0 1

0 0

















 2

1 2

3

2 3 2

1

Ortogonális mátrixok

• Csak reguláris mátrix lehet ortogonális.

(Következik a determinánsok szorzás- tételéből.)

• Ortogonális mátrix inverze megegyezik a transzponáltjával.

Q

Q



Ortogonális mátrixok

• Ortogonális mátrix oszlopvektorai

ortonormált vektorrendszert alkotnak.

• Komplex mátrixok esetén a H-ortogonális mellett használatos az unitér elnevezés is.

 





 

 i j

j q i

q

ha ,

0

ha ,

 1

Ortogonális transzformáció

Definíció. A ortogonális mátrixszal megadott

leképezést, ortogonális transzformációnak nevezzük.

Az ortogonális transzformációknak számos gyakorlati alkalmazásuk van.

n

Rn

Q ^

Qx x 

n

n

R

R 

Ortogonális transzformáció

Ortogonális mátrixok távolságtartó transzformációt indukálnak.

Tétel. A ortogonális mátrixra és vektorra

Bizonyítás.

Megjegyzés. A tétel megfordítása is igaz, vagyis ha minden vektorra , akkor

n

Rn

Q ^

x  R

2.

2 x

Qx 

     

2

2 Qx Qx x Q Qx x Q Q x x x x

Qx  ^T  ^{T T}  ^{T T}  ^T 

R

x 

Ortogonális transzformáció

Tétel. Tetszőleges mátrixra és ortogonális mátrixra

a) b)

n

Rn

Q ^

n

Rn

A ^

2

2 A

QA 

Hasonló „hosszmegőrző” tulajdonság teljesül akkor is, ha mátrixok ortogonális transzformációját tekintjük, a 2-es és a Frobenius normában^.

F.

F A

QA 

Bizonyítás

a)

         

2 2 2

2

) (

)

( A IA A A A

A Q

Q A

QA QA

QA

T T

T T T





















 

2 2 2

1 1

2 2 2

2 2

||

||

) (

F n

j n

j

n

j

j F j

A Ae

Ae Q

e QA QA



 



 









b) 

Megjegyzések

• Mivel tetszőleges mátrix esetén mindkét vizsgált normára teljesül , így azt is igazoltuk, hogy

• Tetszőleges ortogonális hasonlósági transz- formáció esetén

n

Rn

B ^

||

||

||

|| B  B^T

2

2 A

AQ 

F.

F A

AQ 

A AQ

Q^T 

Következmény

• Tetszőleges mátrixra és

ortogonális mátrixra mind a 2-es, mind a Frobenius normához tartozó kondíció- számokra

) ( cond )

(

cond QA  A

).

( cond )

(

cond Q^T AQ  A

n

Rn

A ^ QR^nn

Megjegyzés

• A „hosszmegőrző” tulajdonságból következik, hogy minden Q valós ortogonális mátrix saját- értékeinek abszolút értéke 1. (De ettől még lehetnek komplex sajátértékei is a mátrixnak.) Példa.

ortogonális mátrix sajátértékei























0 1

0

1 0

0

0 0

1 Q

Gram-Schmidt-féle ortogonalizáció

Ortogonális-trianguláris felbontás

Definíció. Az mátrix ortogonális- trianguláris felbontásán, A-nak egy

alakú dekompozícióját értjük, ahol Q ortogonális, R felső trianguláris mátrix.

n

Rn

A ^

QR

A 

Gram-Schmidt-féle ortogonalizáció

Legyen tetszőleges reguláris mátrix.

Az A=QR egyenlőséget oszlopokra bontva így is megadhatjuk:

   



























 n n k k

n k

n k

n k

n k

r r r

r r

r

r r

r r

q q

q q a

a a

a

0 0

0

0 0

0 0

0 ...

...

...

...

, 1 2 2

22

1 1

12 11

2 1 2

1





































n

Rn

A ^

Gram-Schmidt-féle ortogonalizáció

2 2

1 1

2 22 1

12 2

1 11 1

k k k k

k

k r q r q r q

a

q r q

r a

q r a





















Az A mátrix lineárisan független oszlopvektorai az alábbi lineáris kombinációkkal fejezhetők ki a Q orto- gonális mátrix ortonormált oszlopvektorrendszerével:

Gram-Schmidt-féle ortogonalizáció

Az első

egyenlőségből

következik, így választható és

1 11

1

r q

a 

2 11 1

1 2

11 1

1

a r q q r

a





1 1

11

a a

r  

1 .

1

1

a

q r

def



Gram-Schmidt-féle ortogonalizáció

Feltéve, hogy -ig adott és , az értékekre -t balról beszorozva - tal:

1 ,...,

2 ,

1 

 k

j q_j r_ij





1 ,...,

2 ,

1 

 k

i a_k q_i^T

   

0 1

0 2 2

0 1

1 k

T i k k i

T i ik T

i k T

i k k

T

i

a r q q r q q r q q r q q

q        

Innen

T

a q

r 

Gram-Schmidt-féle ortogonalizáció

Meghatározva a

) ...

(



 





def

k

a r q r q r q

b

vektort, a összefüggést felhasználva adódik

és

k kk

k

r q

b 

k T k

kk

b b

r   1 .

k k k def

k

b

q  r

Az algoritmus műveletigénye

• n darab négyzetgyökvonás,

• az aritmetikai műveletek száma

• A gyakorlatban a módosított Gram-

 

























n

k n

k

n O k

n

k n n

k n

1

3 1

) ( )

1 2

( 2

) 1 (

2 2

) 1 (

2

Maple kód a QR-felbontás

meghatározására a Gram-Schmidt-

féle ortogonalizáció alapján

Megjegyzés

Ha a kiindulási mátrix oszlopvektorai lineárisan

függetlenek, az előbbi eljárás kiterjeszthető az és esetre is.

Ha az oszlopreguláris (s így szükség-

képpen ), akkor egyértelműen megadhatók olyan és mátrixok, hogy , és (i) Q oszlopvektorai ortonormált rendszert

alkotnak,

(ii) R olyan felső trianguláris mátrix, amelyben

m

Rn

A ^{ n  m}

m

Rn

A ^

m n 

m

Rn

Q ^ RR^mm A  QR

Elemi tükröző mátrixok

Elemi tükröző mátrixok

Definíció. A Q kvadratikus mátrixot elemi tükröző mátrix- nak mondjuk, ha Q=I vagy felírható

alakban, ahol q olyan vektor, amelyre

Az elemi tükröző mátrixokat Householder-mátrixoknak is nevezik.

qq

I

Q   2

.

2

1

2



 q q

q

Elemi tükröző mátrixok

Az elnevezés onnan adódik, hogy esetben, az transzformáció az n-

dimenziós euklideszi térnek egy q normál- vektorral megadott, origón átmenő hiper- síkra való tükrözését adja, ahol

Qx x 

I Q 

. 2 qq

I

Q  

Példa

Írjuk fel a normálvektorral megadott, origón átmenő egyenesre való tükrözést

szolgáltató elemi tükröző mátrixot, és számoljuk ki a segítségével az (5,3)

koordinátájú pontnak az előbbi egyenesre való tükörképének a koordinátáit.

T







 

2 , 2 2

2

Megoldás



 



 



 







 



 



 

 







 



















 



 



 





0 1

1 0

1 1

1 1

1 0

0 1

2 2 2

2 2

2 2

2 1 2

0

0 2qq^T 1

I Q

A megadott pont tükörképének koordinátái:

3 . 5

1

0 



 

 



 



Tétel. Minden elemi tükröző mátrix szimmetrikus és ortogonális.

Bizonyítás.

Legyen Q elemi tükröző mátrix.

a) Q szimmetrikus, mert





 

Q^T   ^{T T}  ^T  ^{T T T}   ^T 

Elemi tükröző mátrixok

Elemi tükröző mátrixok

  

  ^{q q q I}

q qq

I

qq qq

qq qq

I

qq I

qq I

QQ Q

Q

T T

T

T T

T T

T T

T



























4 4

4 2

2

2 2

b) Q ortogonális, mert

felhasználva, hogy Q szimmetrikus és

Elemi tükröző mátrixok

Tétel. Legyenek x és y azonos hosszúságú de különböző vektorok az euklideszi

térben. Ekkor a és

formulákkal megadott elemi tükrözés x-et y- ba viszi.

Rn

y 2

x

y q x



 

qq

I

Q   2

Elemi tükröző mátrixok

Bizonyítás. Könnyen látható, hogy

Határozzuk meg a Qx vektort!

.

2 1

2  q q 

q ^T





 

































 



2 2

2 x

y x

y x y

x

y I x

Qx

T

T

A bizonyítás folytatása

 





 



 x x y x x y y y

x y x

y x x

x

T T

) (

2

 ^  ^{  }





 2 ( ) ( )

y x

y x

x y x

y x x

x

T T

Használjuk fel, hogy

y y

x

x



x

y  y

x .

A bizonyítás vége

Ezzel igazoltuk, hogy

. y Qx 

) . (

2

) (

) 2 (

) (

2

x y y

x x

x y

x y x

x x

y y

y x

x y

x x

x y x

y x x

x

T T

T T

T T

T T

T T

 

 





 





 





Megjegyzés

• A későbbiekben többször használni fogjuk az előző transzformációt az

speciális esetben, amikor a tükrözés célja a x vektor (elsőtől különböző) komponen- seinek kinullázása. Ekkor a

vektor által definiált transzformációt alkalmazzuk.

2e1

x y 

||2

|| x y y q x



 

Megjegyzés

• Tetszőleges Q elemi tükröző mátrix, A

mátrix és x vektor esetén a Qx (illetve ) transzformált vektor művelettel, a QA (illetve ) transzformált mátrix

művelettel meghatározhatók.

Q x^T

Q

A^T O(n²)

)

(n

O

Gyakorló feladatok

Gyakorló feladatok

• Hány olyan 3x3-as Q ortogonális mátrix van, amelynek minden komponense 0, 1 vagy -1?

• Igazolja, hogy az egységmátrixtól

különböző n-ed rendű elemi tükröző

mátrixnak a +1 szám (n-1)-szeres, a -1

pedig egyszeres multiplicitású sajátértéke.

Gyakorló feladatok

• Határozza meg az alábbi mátrix QR felbontását a Gram-Schmidt-féle

ortogonalizációs eljárás segítségével.































0 2

2 0

1 2

0 0

2 1

1 2

2 1

1 2

Irodalomjegyzék

• John H. Mathews, Numerical Methods for Mathematics, Science, and Engineering, Second Edition, Prentice Hall, Englewood Cliffs, 1992.

• Mihálykó Csaba – Virágh János, Közelítő és szimbolikus számítások. Feladat-

gyűjtemény, Typotex, 2011.

• Virágh János, Numerikus matematika, JATEPress, Szeged, 1997.

Közelítő és szimbolikus számítások haladóknak

2. előadás

Mátrixok ortogonális-trianguláris felbontása

A Householder-algoritmus

Partícionált elemi tükröző mátrixok

Tétel. Legyen egy elemi tükröző mátrix.

Ekkor az alábbi partícionált formában meg- adott mátrix is elemi tükröző mátrix.

n

Rn

Q ^

m m

T

R

Q O

O

T I  



 



 

n n

R

O 

Bizonyítás

Ha Q egységmátrix, akkor

is egységmátrix, így az állítás ekkor igaz.

Ha , ahol q egységnyi hosszúságú, akkor vezessük be a

m m

T

R

I Q

O

O

T I  



 





 

qqT

I

Q   2

) ,...,

, , 0 ,..., 0 , 0 (

'^T q₁ q₂ q_n

q 

Bizonyítás

Könnyen látható, hogy q’ hossza is egységnyi és

tehát T is elemi tükröző mátrix.

Megjegyzés. Analóg módon, az alábbi partícionált mátrix is elemi tükröző mátrix, ha elemi

tükröző mátrix.

, ' '

2q q ^T I

T  

m m

T

R

I O

O

T Q  



 



 

n

Rn

Q  ^

Householder-algoritmus

Tétel Minden A n-edrendű, valós, kvadratikus mátrixhoz megadhatók olyan

elemi tükröző mátrixok, hogy az

rekurzióval számított mátrix 1,2,...,j-dik oszlopában minden főátló alatti elem 0.

Speciálisan így felső trianguláris alakú.

1 2

1,Q ,..., Q_n Q

A A₀ 

1

,



j

Q A

A

A

Aj

Householder-algoritmus

Bizonyítás.

A bizonyítást j szerinti indukcióval végezzük.

A j=1 esetben használjuk fel azt a tételt, amely elemi tükröző mátrix segítségével kinullázza egy vektornak a második komponensétől kezdve az elemeit úgy, hogy közben a vektor hossza nem változik. A korábbi tételbeli jelöléseket használva legyen

Így a szorzás elvégzése után kapott mátrix első oszlopában a második elemtől kezdve minden érték 0.

a Ae

x  ₁  ₁.

2e a

y 

0 1A Q

Householder-algoritmus

Bizonyítás (folyt.)

Tegyük fel, hogy az állítás teljesül az első j esetre! Az mátrixot írjuk fel

partícionált alakban, ahol

Aj



 



 

j T

j

j j

j O C

B A U

j

,

j

j

R

U 

Householder-algoritmus

Bizonyítás (folyt.)

Ismét felhasználva az előbb már alkalmazott tételt, van olyan elemi tükröző mátrix,amellyel szorozva az mátrix első oszlopában a máso- diktól kezdve minden elem 0.

A partícionált elemi tükröző mátrixokra vonatkozó tétel szerint

szintén elemi tükröző mátrix.

) ( )

(n j n j

j R

S  ^{  }

j jC S



 



 



j T

j

j j

j O S

O Q ₁ I

Householder-algoritmus

Bizonyítás (befejezés).

Tehát az

mátrix már a j+1-dik oszlopában is olyan

tulajdonságú lesz, hogy az főátló alatti elemei rendre 0 értékűek.



 



 



 







 



 

 _



j j T

j

j j

j T

j

j j

j T

j

j j

j j

j O S C

B U

C O

B U

S O

O A I

Q A _{1 1}

1

Aj

Ortogonális-trianguláris felbontás

A fenti tétel bizonyításában szereplő eljárás valóban dekompozíciót ad, hiszen így

ahol felső trianguláris mátrix,

ortogonális mátrix, aminek Q inverze (vagyis az előbbi szorzatmátrix transzponáltja) is ortogonális, így

A=QR.

, ...

2 1

1

Q Q Q A

A



1

 A_n

R ^Q_n1^Q_n2^...Q₁

Példa

Határozzuk meg a Householder-algoritmussal az alábbi mátrix ortogonális-trianguláris

felbontását.

 

 



 

5 4

2

A 3

Megoldás

Most csak egy elemi tükröző mátrixra van szükség, arra, amely az első oszlop

második elemét kinullázza. Legyen és .

Így

x  (3,4)T ^{y  (5,0)T}

T

q 



 







5 , 2

5

1 _.

5 3 5

4

5 4 5

3

















 Q 

és

Megoldás

7 . 5 5 26

3 4

5 4 5

3 5

4

2 3













 











 



 























 



 



























5 0 7

5 5 26

5 4

2 3

5 3 5

4

5 4 5

3 QA

R

Tehát a QR dekompozíció:

Felső Hessenberg mátrix

Definíció: A H felső Hessenberg mátrix, ha bármely j+1<i-re.

h

 0









1 2 1 0

2 2

3 2

4 1

1 1

Példa:

Felső Hessenberg alakra transzformálás

Megjegyzés. Tetszőleges mátrix véges sok elemi tükröző mátrixszal végzett ortogonális hasonlósági transzformáció segítségével felső Hessenberg alakra

transzformálható, vagyis megadhatók olyan elemi tükröző mátrixok, hogy az

rekurzióval számított 1,2,…,j-dik oszlopában már felső Hessenberg alakú. Speciálisan az mátrix felső Hessenberg alakú mátrix lesz.

n

Rn

A ^

2 2

1,Q ,..., Q_n Q

2

An

A

A₀  ^A_j ^{ Q}_j ^A_j1^Q_j^,

Reguláris mátrixok QR-felbontása

a Cholesky-féle dekompozícióval

Eljárás

Ha A reguláris, akkor a mátrix pozitív definit, tehát létezik B-nek kanonikus

Cholesky-felbontása.

Legyen . Ekkor az A=QR ortogonális trianguláris felbontás, hiszen R felső

trianguláris mátrix, másrészt Q ortogonális.

A A

B  ^T

1

 AR Q

Q ortogonalitásának bizonyítása

     

     

   ^{R R BR R}  ^{  RR R II R R I R}

AR A

R AR

AR Q

Q

T T

T T T

T T T T



















 

















1 1

1 1

1 1

1 1

1 1

A Cholesky-féle felbontáson alapuló QR-felbontás

Példa

Határozzuk meg a Cholesky-felbontáson

alapuló eljárással az alábbi reguláris mátrix ortogonális-trianguláris felbontását

5 . 4

2 3 



 



 

A

Megoldás



 



 



 







 



 

 26 29

26 25

5 4

2 3

5 2

4 A 3

A B ^T



























 



5 0 7

5 5 26

5 7 5

26

0 5

R R

B ^T

B Cholesky-felbontása:

Megoldás















 

















 



 



 

 ^

5 3 5

4

5 4 5

3

7 0 5

35 26 5

1 5

4

2

1 3 AR Q

Így

7 . 0

5 5 26

3 4

5 4 5

3 5

4

2 3























 

 



 





Tehát a QR-dekompozíció:

Összehasonlítás

Hasonlítsuk össze a Householder-algoritmus és a Cholesky-féle felbontáson alapuló

eljárás eredményeit.

5 26 4

3 2

3 





 





. 5 0 7

5 5 26

5 3 5

4

5 4 5

3 5

4

2 3

















 

















 



 

 Householder-algoritmus: 

Cholesky-féle felbontáson

A felbontás unicitásáról

Tétel. Reguláris A mátrix ortogonális triangularizációja Q oszlopainak és R

sorainak előjelétől eltekintve egyértelmű.

Bizonyítás.

Tekintsük A két felbontását.

2 2

1

1

R Q R

Q

A  

Bizonyítás (folytatás)

Mivel A reguláris, így a determinánsok szorzás- tétele miatt, a felbontásban szereplő minden mátrix reguláris, ezért

Itt a baloldalon ortogonális mátrix áll, a jobb

oldalon viszont felső trianguláris mátrix, ami csak úgy lehet, ha mindkét oldal egy V diagonális

1

.

1 2

1 2

 R R

Q Q

,

Bizonyítás (befejezés)

V Q

Q



^R

^{ VR}

Mivel V egyszerre diagonális és

ortogonális mátrix is, így a főátlójában csak +1 és -1 állhat, valamint

ami a tétel bizonyítását jelenti.

Elemi forgatómátrixok

Elemi forgatómátrixok

Definíció. Tetszőleges és esetén az

alakban megadható mátrixokat elemi forgatómátrixoknak nevezzük.

(Másik szokásos elnevezésük: Givens- mátrixok.)

) (

sin )

)(

1 (cos

) , , (

T p q T

q p T

q q T

p

pe e e e e e e

e I

q p S



















1  p  q  n ^{0    2 }

S(p,q,θ)







































1 1

cos sin

sin cos

1 1













  ( p)

)

 (q

Tulajdonságok

Tetszőleges S(p,q,θ) elemi forgatómátrix és A mátrix esetén

a) az S(p,q,θ) mátrix ortogonális,

b) az A’=AS(p,q,θ) mátrix oszlopvektorai tetszőleges -re A oszlopvektoraiból az alábbi képlettel

számolhatóak























ha , cos

sin

ha

, sin

cos

és ha

,

'

q m

a a

p m

a a

q m

p m

a a

q p

q p

m m









1 m  n

QR-felbontás, felső Hessenberg- alakra transzformálás

• Tetszőleges valós, kvadratikus mátrix ortogonális trianguláris felbontása

előállítható elemi forgató mátrixokkal O(n³) művelettel.

• Tetszőleges valós, kvadratikus mátrix O(n²) elemi forgatómátrixszal végzett ortogonális hasonlósági transzformáció segítségével O(n³) művelettel felső

Hessenberg-alakra transzformálható.

QR-felbontás

Példa. Határozzuk meg az alábbi mátrix QR-felbontását elemi forgató mátrixokkal

Megoldás.

5 . 4

2 3 



 



  A

5 3 4

3 cos 3

2

2 

 

 5

4 4

3 sin 4

2

2 

 











 

 









 5

5 26 2

5 3 4 5

3

SA ^













 

 7

5 5 26 3

4

5 4 5

3 A