Algoritmuselmélet 1. el ˝oadás

(1)

Katona Gyula Y.

Budapesti M ˝uszaki és Gazdaságtudományi Egyetem Számítástudományi Tsz.

I. B. 137/b

kiskat@cs.bme.hu 2002 Február 11.

(2)

(3)

• Rónyai Lajos–Ivanyos Gábor–Szabó Réka:

Algoritmusok, TYPOTEX, 1999

(4)

• Feladatgy ˝ujtemény letölthet ˝o:

http://www.cs.bme.hu/˜kiskat/algel

(5)

• Feladatgy ˝ujtemény letölthet ˝o:

http://www.cs.bme.hu/˜kiskat/algel

• Egyéb információk, hirdetmények ugyanitt.

(6)

(7)

Zárthelyi dolgozat: 2002. április 8. — 6 db 10 pontos feladat 100 percre, mindet lehet használni.

Pontozás: 20-29 pont 2-es, 30-39 pont 3-es, 40-49 pont 4-es, 50-60 pont 5-ös.

Aláírás: Feltétele a ZH megírása 2-esre. Szükség esetén pótZH.

Vizsga: Írásbeli — 2 elméleti kérdés, 4 példa, nem lehet semmit használni.

Pontozás: mint a ZH-n.

Vizsga jegy: Ha érdemes, akkor lehet a vizsga ZH eredményét átlagolni az évközi eredménnyel. Ha aláírás csak pótZH-val született, ez a lehet ˝oség nem áll fenn.

Javítás: Ha az így kialakult jegy nem elég jó, akkor kizárólag a vizsga

eredményhirdetésének id ˝opontjában lehet szóban felelni, amivel ±1 jegyet lehet változtatni.

(8)

• Egyel ˝ore nem definiáljuk rendesen az algoritmus fogalmát.

(9)

• Eljárás, recept, módszer.

(10)

• Eljárás, recept, módszer.

• Jól meghatározott lépések egymásutánja, amelyek már elég pontosan, egyértelm ˝uen megfogalmazottak ahhoz, hogy gépiesen végrehajthatók legyenek.

(11)

Al Khvarizimi (Mohamed ibn Músza) bagdadi matematikus a IX. században könyvet írt az egészekkel való alapm ˝uveletek végzésér ˝ol.

(12)

Al Khvarizimi (Mohamed ibn Músza) bagdadi matematikus a IX. században könyvet írt az egészekkel való alapm ˝uveletek végzésér ˝ol.

algoritmus ↔ számítógép program

(13)

• Legtöbbször csak a lépésszám nagyságrendje érdekes.

Hogyan függ a lépésszám az input méretét ˝ol?

(14)

• Az input méretét legtöbbször n-nel jelöljük.

(15)

• A lépésszám ennek egy f függvénye, azaz ha n méret ˝u az input, akkor az algoritmus f(n) lépést végez.

(16)

• Igazából az f függvény az érdekes.

(17)

• 100n vagy 101n, általában mindegy

(18)

• n² vagy n³ már sokszor nagy különbség, de néha mindegy

(19)

• n² vagy n³ már sokszor nagy különbség, de néha mindegy

• n² vagy 2ⁿ már mindig nagy különbség

(20)

Definíció. Ha f(x) és g(x) az R⁺ egy részhalmazán értelmezett valós

értékeket felvev ˝o függvények, akkor f = O(g) jelöli azt a tényt, hogy vannak olyan c, n > 0 állandók, hogy |f(x)| ≤ c|g(x)| teljesül, ha x ≥ n.

(21)

Például:

• 100n + 300 = O(n), hiszen n = 300, c = 101-re teljesülnek a feltételek, 100n + 300 ≤ 101n, ha n ≥ 300

(22)

Például:

• 100n + 300 = O(n), hiszen n = 300, c = 101-re teljesülnek a feltételek, 100n + 300 ≤ 101n, ha n ≥ 300

• 5n² + 3n = O(n²)

• n⁴ + 5n³ = O(n⁵)

• n¹⁰⁰⁰ = O(2ⁿ)

(23)

értékeket felvev ˝o függvények, akkor f = Ω(g) jelöli azt a tényt, hogy vannak olyan c, n > 0 állandók, hogy |f(x)| ≥ c|g(x)| teljesül, ha x ≥ n.

(24)

Például:

• 100n − 300 = Ω(n), hiszen n > 300, c = 99-re teljesülnek a feltételek

(25)

Például:

• 100n − 300 = Ω(n), hiszen n > 300, c = 99-re teljesülnek a feltételek

• 5n² − 3n = Ω(n²)

• n⁴ − 5n³ = Ω(n⁴)

• 2ⁿ = Ω(n¹⁰⁰⁰)

(26)

Definíció. Ha f = O(g) és f = Ω(g) is teljesül, akkor f = Θ(g).

(27)

Például:

• 100n − 300 = Θ(n)

(28)

Például:

• 100n − 300 = Θ(n)

• 5n² − 3n = Θ(n²)

• n⁴ − 5n³ = Θ(n⁴)

• 1000 · 2ⁿ = Θ(2ⁿ)

(29)

Definíció. Legyenek f(n) és g(n) a pozitív egészeken értelmezett valós érték ˝u függvények. Ekkor az f = o(g) jelöléssel rövidítjük azt, hogy

f(n)

g(n) → 0, ha n → ∞.

(30)

f(n)

g(n) → 0, ha n → ∞.

Például:

• 100n + 300 = o(n²), hiszen ^100n+300_n₂ → 0 ha n → ∞

(31)

f(n)

g(n) → 0, ha n → ∞.

Például:

• 100n + 300 = o(n²), hiszen ^100n+300_n₂ → 0 ha n → ∞

• 5n² + 3n = o(n³)

• n⁴ + 5n³ = o(n⁴ log₂ n)

• n¹⁰⁰⁰ = o(2ⁿ)

(32)

Algoritmikus probléma −→

^A

modell −→

^B

program

(33)

Algoritmikus probléma −→

^A

modell −→

^B

program

A: pontosítás, egyszer ˝usítés, absztrakció, lényegtelen elemek kisz ˝urése, a lényeg kihámozása

(34)

Algoritmikus probléma −→

^A

modell −→

^B

program

Modell: sokféle lehet, elég tág, de elég egyszer ˝u, formalizált, pontos

(35)

Algoritmikus probléma −→

^A

modell −→

^B

program

Modell: sokféle lehet, elég tág, de elég egyszer ˝u, formalizált, pontos

B: hatékony algoritmus, bemen ˝o adatok → eredmény, érdemes foglalkozni a kapott algoritmus elemzésével, értékelésével, megvizsgálva, hogy a

módszer mennyire hatékony

(36)

Arthur király fényes udvarában 150 lovag és 150 udvarhölgy él.

A király, aki közismert civilizációs er ˝ofeszítéseir ˝ol, elhatározza, hogy megházasítja jó lovagjait és szép udvarhölgyeit. Mindezt persze emberségesen szeretné tenni.

Csak olyan párok egybekelését akarja, amelyek tagjai kölcsönösen vonzalmat éreznek egymás iránt.

Hogyan fogjon hozzá?

(37)

Arthur király fényes udvarában 150 lovag és 150 udvarhölgy él.

A király, aki közismert civilizációs er ˝ofeszítéseir ˝ol, elhatározza, hogy megházasítja jó lovagjait és szép udvarhölgyeit. Mindezt persze emberségesen szeretné tenni.

Csak olyan párok egybekelését akarja, amelyek tagjai kölcsönösen vonzalmat éreznek egymás iránt.

Hogyan fogjon hozzá?

(38)

ábrázolásáról van szó.

(39)

Nagy darab pergament vesz el ˝o, és nekilát egy páros gráfot rajzolni.

(40)

Nagy darab pergament vesz el ˝o, és nekilát egy páros gráfot rajzolni.

A királyi parancs teljesítéséhez Merlinnek élek egy olyan rendszerét kell kiválasztania a gráf éleib ˝ol, hogy a kiválasztott élek közül a gráf minden pontjához pontosan egy csatlakozzon. A kiválasztott élek felelnek meg a

tervezett házasságoknak. A gráfelmélet nyelvén teljes párosítást kell keresnie.

(41)

"

A A

AA A A A A A A A A AA

3

A A

AAU

a b

d c e

(42)

"

A A

3

A A

AAU

a b

d c e

lámpák: ac, ad, bc, bd, ec és ed állapot: lámpák → {P, Z}

(43)

"

A A

3

A A

AAU

a b

d c e

Feladat: Mennyi a minimális számú állapot, ami biztonságos és nem okoz örök dugót?

(44)

"

A A

3

A A

AAU

a b

d c e

@

@@ , ,

, ,

!!

!

ac bc ec

ad bd ed

I. II. III.

(45)

"

A A

3

A A

AAU

a b

d c e

@

@@ , ,

, ,

!!

!

ac bc ec

ad bd ed

I. II. III.

Gráfelméleti nyelven: Mennyi G kromatikus száma?

(46)

Egy adott átjátszóhoz egy adott frenkvenciát rendelnek.

Egy telefon a közelben lev ˝o átjátszók közül választ.

„Közel lev ˝o” átjátszók frekvenciája különbözzön.

(47)

Egy adott átjátszóhoz egy adott frenkvenciát rendelnek.

Egy telefon a közelben lev ˝o átjátszók közül választ.

„Közel lev ˝o” átjátszók frekvenciája különbözzön.

B A

A

B

A C

C

(48)

Definíció. A G irányított gráf s ∈ V csúcsa szuperforrás, ha minden s-t ˝ol különböz ˝o y ∈ V csúcs esetén teljesül, hogy (s, y) ∈ E és (y, s) 6∈ E. A szuperforrás olyan s csúcs, amib ˝ol a gráf minden más csúcsába él vezet, az s-be pedig egyetlen más csúcsból sem megy él.

(49)

A feladat a következ ˝o: tegyük fel, hogy az A adjacencia mátrixával adott a G = (V, E) irányított gráf, aminek a csúcshalmaza V = {1, . . . , n}.

Döntsük el, hogy van-e G-ben szuperforrás. Ha igen, találjuk meg.

(50)

Els ˝o ötlet: Sorra vesszük az i ∈ V csúcsokat, mindegyikr ˝ol megnézve, hogy szuperforrás-e.

(51)

Ennek költsége: az A mátrix 2(n² − n) elemét vizsgáljuk meg.

(52)

Ennek költsége: az A mátrix 2(n² − n) elemét vizsgáljuk meg.

Jobb módszer: Ha (i, j) ∈ E, akkor j nem lehet szuperforrás, ha (i, j) 6∈ E akkor i nem lehet szuperforrás

(53)

i := 1, j := n;

while i 6= j do

if A[i, j] = 1 then j := j − 1

else i := i + 1;

(* Amikor ideérünk, már csak i lehet szuperforrás, ezt ellen ˝orizzük a továbbiakban. *)

for k = 1 to n do

if k 6= i és (A[i, k] 6= 1 vagy A[k, i] 6= 0) then return(nincs szuperforrás) return(i szuperforrás).

(54)

i := 1, j := n;

while i 6= j do

if A[i, j] = 1 then j := j − 1

else i := i + 1;

Ennek költsége: összesen 3n − 3 elemet vizsgálunk meg, n − 1-et a while ciklusban, 2n − 2-t az ellen ˝ozésnél

(55)

i := 1, j := n;

while i 6= j do

if A[i, j] = 1 then j := j − 1

else i := i + 1;

Ennek költsége: összesen 3n − 3 elemet vizsgálunk meg, n − 1-et a while ciklusban, 2n − 2-t az ellen ˝ozésnél

Mennyire jó ez?

(56)

Jelölje T(n) a legjobb (leggyorsabb) algoritmus által megvizsgált mátrix-elemek számának maximumát az összes n pontú gráfra.

(57)

Tudjuk, hogy T(n) ≤ 3n − 3.

(58)

Nyilvánvaló, hogy 2n − 2 ≤ T(n), mert le kell ellen ˝orizni, hogy szuperforrás-e.

(59)

1 él megkérdezése legfeljebb 1 csúcsot zár ki mint lehetséges szuperforrást.

(60)

Egy algoritmus els ˝o n − 2 kérdése után még legalább két csúcs – mondjuk i és j – lehet szuperforrás. Ahhoz, hogy belássuk, hogy i szuperforrás, meg kell vizsgálni az i-edik sor és i-edik oszlop minden elemét.

(61)

Vagy i-re vagy j-re igaz lesz, hogy az els ˝o n − 2 kérdés közül legfeljebb (n − 2)/2 kérdés vonatkozott rá. Így még 2n − 2 − (n − 2)/2 legalább kérdés kell.

(62)

Vagy i-re vagy j-re igaz lesz, hogy az els ˝o n − 2 kérdés közül legfeljebb (n − 2)/2 kérdés vonatkozott rá. Így még 2n − 2 − (n − 2)/2 legalább kérdés kell. Tehát

T(n) ≥ 2n − 2 − n − 2

2 + n − 2 = 3n − 4 − n − 2 2 .

Azaz a fenti algoritmus közel optimális.

(63)

Legyen U egy halmaz, és < egy kétváltozós reláció U-n. Ha a, b ∈ U és a < b, akkor azt mondjuk, hogy a kisebb, mint b.

(64)

Legyen U egy halmaz, és < egy kétváltozós reláció U-n. Ha a, b ∈ U és a < b, akkor azt mondjuk, hogy a kisebb, mint b. A < reláció egy rendezés, ha teljesülnek a következ ˝ok:

1. a 6< a minden a ∈ U elemre (< irreflexív);

2. Ha a, b, c ∈ U, a < b, és b < c, akkor a < c (< tranzitív);

3. Tetsz ˝oleges a 6= b ∈ U elemekre vagy a < b, vagy b < a fennáll (<

teljes).

(65)

teljes).

Ha < egy rendezés U-n, akkor az (U, <) párt rendezett halmaznak nevezzük.

Példák:

• Z az egész számok halmaza. A < rendezés a nagyság szerinti rendezés.

(66)

teljes).

Példák:

• Az abc bet ˝uinek Σ halmaza; a < rendezést az abc-sorrend adja. Az x bet ˝u kisebb, mint az y bet ˝u, ha x el ˝obb szerepel az abc-sorrendben, mint y.

(67)

teljes).

Példák:

• Az abc bet ˝uinek Σ halmaza; a < rendezést az abc-sorrend adja. Az x bet ˝u kisebb, mint az y bet ˝u, ha x el ˝obb szerepel az abc-sorrendben, mint y.

(68)

Az X kisebb mint Y , ha vagy l > k és x_i = y_i ha i = 1, 2, . . . , k;

vagy pedig x_j < y_j teljesül a legkisebb olyan j indexre, melyre x_j 6= y_j. Tehát például kar < karika és bor < bot.

(69)

A rendezés feladata: adott az (U, <) rendezett halmaz elemeinek egy u₁, u₂, . . . , u_n sorozata; rendezzük ezt át egy nem csökken ˝o

v₁, v₂, . . . , v_n sorrendbe.

(70)

Input: tömb, láncolt lista, (vagy bármi)

(71)

Input: tömb, láncolt lista, (vagy bármi) Output: általában, mint az Input

(72)

Lépések: elemek mozgatása, cseréje, összehasonlítása

(73)

A rendezés önmagában is el ˝oforduló feladat, de el ˝ojön, mint hasznos adatstruktúra is.

(74)

A rendezés önmagában is el ˝oforduló feladat, de el ˝ojön, mint hasznos adatstruktúra is.

Rendezett halmazban könnyebb keresni (pl. telefonkönyv).

(75)

Bar Kochba játék: gondolok egy számot 1 − 100-ig, hány eldöntend ˝o kérdésb ˝ol lehet kitalálni?

(76)

Adott az (U, <) rendezett halmaz véges S = {s₁ < s₂ < . . . < s_n₋₁ < s_n} és s ∈ U. részhalmaza.

Összehasonlításokkal akarjuk eldönteni, hogy igaz-e s ∈ S. Hány összehasonlítás kell?

(77)

Lineáris keresés

Sorban mindegyik elemmel összehasonlítjuk.

(78)

Lineáris keresés

Költség a legrosszabb esetben: n, mert lehet, hogy pont az utolsó volt.

(79)

Lineáris keresés

Költség a legrosszabb esetben: n, mert lehet, hogy pont az utolsó volt.

Költség átlagos esetben esetben: (n/2) + 1

(80)

Oszd meg és uralkodj: el ˝oször a középs ˝o s_i-vel hasonlítunk.

(81)

Hasonló feladatot kapunk egy S₁ halmazra, amire viszont |S₁| ≤ |S|/2.

(82)

És így tovább:

|S₂| ≤ |S|

4 , |S₃| ≤ |S|

2³ , . . . |S_k| ≤ |S| 2^k

(83)

És így tovább:

|S₂| ≤ |S|

4 , |S₃| ≤ |S|

2³ , . . . |S_k| ≤ |S| 2^k

Pl. keressük meg, benne van-e 21 az alábbi sorozatban!

15, 22,25, 37, 48 , 56, 70, 82 (1)

(84)

És így tovább:

|S₂| ≤ |S|

4 , |S₃| ≤ |S|

2³ , . . . |S_k| ≤ |S| 2^k

15, 22,25, 37, 48 , 56, 70, 82 (1) 15, 22, 25 , 37,48, 56, 70, 82 (2)

(85)

És így tovább:

|S₂| ≤ |S|

4 , |S₃| ≤ |S|

2³ , . . . |S_k| ≤ |S| 2^k

15, 22,25, 37, 48 , 56, 70, 82 (1) 15, 22, 25 , 37,48, 56, 70, 82 (2) 15, 22 , 25, 37, 48, 56, 70, 82 (3)

(86)

És így tovább:

|S₂| ≤ |S|

4 , |S₃| ≤ |S|

2³ , . . . |S_k| ≤ |S| 2^k

15, 22,25, 37, 48 , 56, 70, 82 (1) 15, 22, 25 , 37,48, 56, 70, 82 (2) 15, 22 , 25, 37, 48, 56, 70, 82 (3) 15 , 22, 25, 37, 48, 56, 70, 82 (4)

(87)

Addig kell csinálni, amig |S_k| ≥ 1, vagyis 1 ≤ ₂ⁿk.

(88)

=⇒ 2^k ≤ n =⇒ k ≤ blog₂ nc

(89)

=⇒ 2^k ≤ n =⇒ k ≤ blog₂ nc

Ez k + 1 összehasonlítás volt. =⇒ k + 1 ≤ blog₂ nc + 1 ≤ dlog₂(n + 1)e

(90)

=⇒ 2^k ≤ n =⇒ k ≤ blog₂ nc

Ez k + 1 összehasonlítás volt. =⇒ k + 1 ≤ blog₂ nc + 1 ≤ dlog₂(n + 1)e Tétel. Ez optimális, nincs olyan keres ˝o algoritmus, ami minden esetben

kevesebb mint dlog₂(n + 1)e kérdést használ.

Bizonyítás: Az ellenség nem is gondol egy számra, csak mindig úgy válaszol, hogy minél többet kelljen kérdezni.

(91)

=⇒ 2^k ≤ n =⇒ k ≤ blog₂ nc

Ha egy kérdést felteszek, és az igen válasz után mondjuk szóba jön x lehet ˝oség, akkor a nem esetén szóba jön még n − x lehet ˝oség.

(92)

=⇒ 2^k ≤ n =⇒ k ≤ blog₂ nc

Az ellenség úgy válaszol, hogy minél több lehet ˝oség maradjon, így el tudja érni, hogy legalább n/2 marad. =⇒ k kérdés után is marad még ₂ⁿ_k

lehet ˝oség.

(93)

=⇒ 2^k ≤ n =⇒ k ≤ blog₂ nc

Az ellenség úgy válaszol, hogy minél több lehet ˝oség maradjon, így el tudja érni, hogy legalább n/2 marad. =⇒ k kérdés után is marad még ₂ⁿ_k

lehet ˝oség.

Ha tehát ⁿ

2^k > 1, akkor nem tudom, hogy az-e a gondolt szám, vagy nincs benne a sorozatban. Tehát még egy kérdésre szükség van.

=⇒ ₂ⁿk > 1 =⇒ n > 2^k =⇒ log₂ n > k.