Algoritmuselmélet 18. el ˝oadás

(1)

Katona Gyula Y.

Budapesti M ˝uszaki és Gazdaságtudományi Egyetem Számítástudományi Tsz.

I. B. 137/b

kiskat@cs.bme.hu

2002 Május 7.

(2)

ALGORITMUSELMÉLET 18. EL ˝OADÁS 1

Közelít ˝ o algoritmusok

Hátha nem szükséges pontos megoldás, elég az optimumtól nem túl messze lev ˝o is.

(3)

Közelít ˝ o algoritmusok

Ládapakolás: Adottak az s₁, . . . , s_m (racionális) súlyok, 0 ≤ s_i ≤ 1. A cél a súlyok elhelyezése minél kevesebb 1 súlykapacitású ládába.

(4)

Közelít ˝ o algoritmusok

NP-teljes

(5)

Közelít ˝ o algoritmusok

NP-teljes

F F-módszer (first fit): Vegyünk el ˝oször üres ládákat, és számozzuk meg ˝oket az 1,2, . . . , m egészekkel.

(6)

Közelít ˝ o algoritmusok

NP-teljes

Tegyük fel, hogy az s₁, . . . , s_i₋₁ súlyokat már elhelyeztük. Ekkor s_i kerüljön az els ˝o (legkisebb sorszámú) olyan ládába, amelybe még befér.

(7)

Közelít ˝ o algoritmusok

NP-teljes

Tegyük fel, hogy az s₁, . . . , s_i₋₁ súlyokat már elhelyeztük. Ekkor s_i kerüljön az els ˝o (legkisebb sorszámú) olyan ládába, amelybe még befér.

1.

2. 3.

4.

6.

5. 7.

8.

1.

2. 3.

4.

5.

6.

7. 8.

(8)

Tétel. Jelölje a Ládapakolás probléma egy I inputjára OP T(I) az optimális (minimálisan elegend ˝o), F F(I) pedig az F F-módszer által eredményezett ládaszámot. A probléma tetsz ˝oleges I inputjára teljesül, hogy

F F(I) ≤ 2OP T(I).

(9)

F F(I) ≤ 2OP T(I).

Bizonyítás: dPm

i=1 s_ie ≤ OP T(I)

(10)

F F(I) ≤ 2OP T(I).

Bizonyítás: dPm

i=1 s_ie ≤ OP T(I) F F(I) ≤ d2 P^m

i=1 s_ie ⇐= nincs két olyan láda, ami nincs félig kitöltve.

(11)

F F(I) ≤ 2OP T(I).

Bizonyítás: dPm

Felhasználjuk, hogy d2xe ≤ 2dxe F F(I) ≤ d2

m

X

i=1

s_ie ≤ 2d

m

X

i=1

s_ie ≤ 2OP T(I)

√

(12)

F F(I) ≤ 2OP T(I).

Bizonyítás: dPm

Felhasználjuk, hogy d2xe ≤ 2dxe F F(I) ≤ d2

m

X

i=1

s_ie ≤ 2d

m

X

i=1

s_ie ≤ 2OP T(I)

√

Tétel. [D. S. Johnson és munkatársai, 1976]

A probléma tetsz ˝oleges I inputjára teljesül, hogy F F(I) ≤ d1.7OP T(I)e. Továbbá vannak tetsz ˝olegesen nagy méret ˝u I inputok, melyekre

F F(I) ≥ 1.7(OP T(I) − 1).

(13)

F F D-módszer (first fit decreasing): el ˝oször rendezzük a súlyokat nem növ ˝o sorrendbe, utána alkalmazzuk az F F-módszert.

(14)

6.

1. 2.

7.

3.

8.

4. 5.

1. 2. 3. 4.

7. 6.

8.

5.

(15)

6.

1. 2.

7.

3.

8.

4. 5.

1. 2. 3. 4.

7. 6.

8.

5.

Tétel. [D. S. Johnson, 1973]

Tetsz ˝oleges I inputra teljesül, hogy F F D(I) ≤ ¹¹₉ OP T(I) + 4, és tetsz ˝olegesen nagy méret ˝u I inputok vannak, melyekre

F F D(I) ≥ ¹¹₉ OP T(I). (¹¹₉ = 1.222 . . .)

(16)

6.

1. 2.

7.

3.

8.

4. 5.

1. 2. 3. 4.

7. 6.

8.

5.

Tétel. [D. S. Johnson, 1973]

Tetsz ˝oleges I inputra teljesül, hogy F F D(I) ≤ ¹¹₉ OP T(I) + 4, és tetsz ˝olegesen nagy méret ˝u I inputok vannak, melyekre

F F D(I) ≥ ¹¹₉ OP T(I). (¹¹₉ = 1.222 . . .) Tétel. [F. de la Vega, G. S. Lueker]

Tetsz ˝oleges ε > 0-hoz van olyan P lineáris algoritmus, amire P (I) ≤ (1 + ε)OP T(I).

(17)

Euklideszi utazó ügynök probléma

Az n pontú K_n teljes gráf élein adott a nemnegatív érték ˝u d súlyfüggvény.

Erre teljesül a háromszög-egyenl ˝otlenség: tetsz ˝oleges különböz ˝o u, v, w csúcsokra érvényes a d(u, w) ≤ d(u, v) + d(v, w) egyenl ˝otlenség (az euklideszi feltétel).

(18)

Euklideszi utazó ügynök probléma

A cél egy minimális összsúlyú Hamilton-kör keresése.

Keresünk egy minimális összsúlyú feszít ˝ofát (pl. Kruskal). =⇒

(19)

Euklideszi utazó ügynök probléma

A cél egy minimális összsúlyú Hamilton-kör keresése.

Keresünk egy minimális összsúlyú feszít ˝ofát (pl. Kruskal). =⇒

Ennek összsúlya legyen s =⇒ Euler séta hossza 2s.

(20)

Ez nem Hamilton-kör =⇒ levágjuk a fölösleges részeket, közben rövidítünk is.

(21)

Ha az optimális Hamilton-körb ˝ol elhagyunk egy élet =⇒ egy legalább s súlyú feszít ˝ofa

(22)

A módszer legfeljebb 2-szer akkora utat ad, mint az optimális.

(23)

A módszer legfeljebb 2-szer akkora utat ad, mint az optimális.

JAVA animáció: TSP

(24)

Véletlent használó módszerek

El ˝ony: Gyorsabb lehet.

(25)

Véletlent használó módszerek

Hátrány: Kis valószín ˝oséggel hibás választ kapunk.

(26)

Véletlent használó módszerek

Probléma: Adott behelyettesítéssel (fekete dobozzal) egy n-változós

f ∈ Z[x₁, . . . , x_n] egész együtthatós polinom. Tudjuk, hogy deg f ≤ d. El akarjuk dönteni, hogy f azonosan nulla-e.

(27)

Véletlent használó módszerek

Példa: f(x₁, x₂, . . . , x_2n) = (x₁ + x₂)(x₃ + x₄)· · · (x_2n₋₁ + x_2n)

(28)

Véletlent használó módszerek

D = det





x₁₁ . . . x_1n

... ...

x_n1 . . . x_nn





(29)

Véletlent használó módszerek

D = det





x₁₁ . . . x_1n

... ...

x_n1 . . . x_nn





Mminél hamarabb szeretnénk találni egy α = (α₁, . . . , α_n)-t, amire f(α) 6= 0.

(30)

Véletlent használó módszerek

D = det





x₁₁ . . . x_1n

... ...

x_n1 . . . x_nn





Mminél hamarabb szeretnénk találni egy α = (α₁, . . . , α_n)-t, amire f(α) 6= 0.

Pl. egy változóra jól látszik

(31)

(32)

Tétel. [J. Schwartz lemmája] Ha deg f ≤ d, és α₁, . . . , α_n egyenletes eloszlású, egymástól független véletlen elemei az {1, . . . , N}

számhalmaznak, akkor f 6≡ 0 esetén P rob(f(α) = 0) ≤ _N^d .

(33)

Tétel. [J. Schwartz lemmája] Ha deg f ≤ d, és α₁, . . . , α_n egyenletes eloszlású, egymástól független véletlen elemei az {1, . . . , N}

számhalmaznak, akkor f 6≡ 0 esetén P rob(f(α) = 0) ≤ _N^d .

Tétel. Az {1, 2, . . . , 2d} halmazból vett véletlen n-komponens ˝u α vektor

esetén P rob(f(α) 6= 0) ≥ 1/2, ha f 6≡ 0. Ekkora halmazból választva tehát legalább 1/2 valószín ˝uséggel adódik tanú. Ha t-szer függetlenül választunk ilyen helyettesítést, akkor legalább 1 − ₂¹^t valószín ˝uséggel kapunk tanút.

(34)

Alkalmazás

Randomizált módszer teljes párosítás keresésére páros gráfban.

(35)

Alkalmazás

Legyen G = (L, U;E) páros gráf, L = {l₁, . . . , l_n} és U = {u₁, . . . , u_n} M = (m_ij) n-szer n-es mátrix =⇒

m_ij =

x_ij ha (l_i, u_j) ∈ E, 0 különben.

(36)

Alkalmazás

m_ij =

Tétel. G-ben akkor és csak akkor van teljes párosítás ha det M 6= 0.

(37)

Alkalmazás

m_ij =

Bizonyítás: A determináns egy tagja =⇒ ±m_1π(1)m_2π(2) · · · m_nπ(n)

(38)

Alkalmazás

m_ij =

Bizonyítás: A determináns egy tagja =⇒ ±m_1π(1)m_2π(2) · · · m_nπ(n) Ha nem 0 =⇒ (l_i, u_π(i)) ∈ E, i = 1, . . . , n, =⇒ teljes párosítás

(39)

Alkalmazás

m_ij =

Bizonyítás: A determináns egy tagja =⇒ ±m_1π(1)m_2π(2) · · · m_nπ(n) Ha nem 0 =⇒ (l_i, u_π(i)) ∈ E, i = 1, . . . , n, =⇒ teljes párosítás Ha tehát G-ben nincs teljes párosítás, =⇒ det M = 0.

(40)

Alkalmazás

m_ij =

Ha viszont van G-ben teljes párosítás =⇒ ∃ nem 0 kifejtési tag

(41)

Alkalmazás

m_ij =

nem ejthetik ki egymást, mert bármely kett ˝oben van két különböz ˝o változó.

(42)

Alkalmazás

m_ij =

Az el ˝oz ˝o módszerrel eldönthetjük, hogy det M = 0 igaz-e.

(43)

Alkalmazás

m_ij =

Az el ˝oz ˝o módszerrel eldönthetjük, hogy det M = 0 igaz-e.

Hasonlóan megy nem páros gráfokra is.

(44)

Prímtesztelés

Bemen ˝o adatként adott (binárisan) egy m páratlan egész; szeretnénk eldönteni, hogy m prímszám-e.

(45)

Prímtesztelés

Fermat-teszt (m)

1. Válasszunk egy véletlen a egészet az [1, m) intervallumból.

2. Ha a^m⁻¹ ≡ 1 (mod m), akkor a válasz „m valószín ˝uleg prím”, különben a válasz „m összetett”.

(46)

Prímtesztelés

Fermat-teszt (m)

gyors hatványozással ez gyorsan végrehajtható

(47)

Prímtesztelés

Fermat-teszt (m)

Ha azt kapjuk, hogy „m összetett” =⇒ ez biztos igaz

(48)

Prímtesztelés

Fermat-teszt (m)

Pl.: m = 21 = 7 · 3 és a = 2 =⇒ a az m Fermat-tanúja, hiszen 2²⁰ ≡ 4 (mod 21).

(49)

Prímtesztelés

Fermat-teszt (m)

Pl.: m = 21 = 7 · 3 és a = 2 =⇒ a az m Fermat-tanúja, hiszen 2²⁰ ≡ 4 (mod 21).

(50)

Tétel. Ha m-nek van olyan a Fermat-tanúja (1 ≤ a < m és a^m⁻¹ 6≡ 1

(mod m)), melyre lnko(a, m) = 1, akkor az [1, m) intervallum egészeinek legalább a fele Fermat-tanú.

(51)

Bizonyítás: Legyen a tanú =⇒ a^m⁻¹ 6≡ 1 (mod m) és c₁, c₂, . . . , c_s nem tanúk =⇒ c^m_i ⁻¹ ≡ 1 (mod m)

(52)

Feltehetjük, hogy a, c_i relatív prímek m-hez.

(53)

=⇒ (ac_i)^m⁻¹ ≡ a^m⁻¹c^m_i ⁻¹ ≡ a^m⁻¹ 6≡ 1 (mod m) =⇒ ac_i tanú

(54)

ac_i mind különböz ˝oek lesznek =⇒ legalább annyi tanú, mint nem tanú

√

(55)

√

Vannak olyan számok, amiknek nincs tanújuk =⇒ Carmichael-számok

(56)

√

Vannak olyan számok, amiknek nincs tanújuk =⇒ Carmichael-számok Pl. 561 = 3 · 11 · 17

(57)

√

Vannak olyan számok, amiknek nincs tanújuk =⇒ Carmichael-számok Pl. 561 = 3 · 11 · 17

Alford, Granville, Pomerance, 1992 =⇒ végtelen sok ilyen szám van

(58)

Rabin-Miller teszt

Definíció. Legyen m egy páratlan természetes szám. Írjuk fel m − 1-et m − 1 = 2^kn alakban, ahol n páratlan. Az 1 ≤ a < m egész

Rabin–Miller-tanú (m összetettségére), ha az

aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1 számok egyike sem osztható m-mel.

(59)

Rabin-Miller teszt

aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1 számok egyike sem osztható m-mel.

Tétel. Ha m prím, akkor m-hez nincs Rabin–Miller-tanú.

(60)

Rabin-Miller teszt

aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1

számok egyike sem osztható m-mel.

Bizonyítás:

a^m⁻¹ − 1 = (aⁿ − 1)(aⁿ + 1)(a²ⁿ + 1) · · · (a²^k⁻¹ⁿ + 1)

(61)

Rabin-Miller teszt

aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1

Bizonyítás:

a^m⁻¹ − 1 = (aⁿ − 1)(aⁿ + 1)(a²ⁿ + 1) · · · (a²^k⁻¹ⁿ + 1) m prím =⇒ a kis Fermat-tétel szerint m osztja a bal oldalt.

(62)

Rabin-Miller teszt

aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1

Bizonyítás:

a^m⁻¹ − 1 = (aⁿ − 1)(aⁿ + 1)(a²ⁿ + 1) · · · (a²^k⁻¹ⁿ + 1)

m prím =⇒ a kis Fermat-tétel szerint m osztja a bal oldalt.

=⇒ m osztja a jobb oldal valamelyik tényez ˝ojét =⇒ a nem Rabin–Miller-tanú.

(63)

Rabin-Miller teszt

aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1

Bizonyítás:

a^m⁻¹ − 1 = (aⁿ − 1)(aⁿ + 1)(a²ⁿ + 1) · · · (a²^k⁻¹ⁿ + 1)

m prím =⇒ a kis Fermat-tétel szerint m osztja a bal oldalt.

=⇒ m osztja a jobb oldal valamelyik tényez ˝ojét =⇒ a nem Rabin–Miller-tanú.

Tétel. Ha m összetett, akkor az 1 ≤ a < m feltételt teljesít ˝o a egészeknek legalább a fele Rabin–Miller-tanú.

(64)

Rabin-Miller teszt

RM(m)

1. Írjuk fel m − 1-et m − 1 = 2^kn alakban, ahol n páratlan.

3. Ha az aⁿ − 1, aⁿ + 1, a²ⁿ + 1, . . . , a²^k⁻¹ⁿ + 1 számok egyike sem osztható m-mel, akkor megállunk azzal a válasszal, hogy „m összetett”, különben megállunk azzal a válasszal, hogy „m valószín ˝uleg prím”.

(65)

Kolmogorov-bonyolultság

Milyen röviden lehet leírni valamit?

(66)

Kolmogorov-bonyolultság

Tekintsük azokat a természetes számokat, amelyeket magyar nyelven legfeljebb 100 billenty ˝u-leütéssel definiálni lehet.

(67)

Kolmogorov-bonyolultság

A billenty ˝uk száma véges =⇒ ezen számok halmaza is véges =⇒ Van tehát egy legkisebb természetes szám, amit nem lehet definiálni a fenti módon.

(68)

Kolmogorov-bonyolultság

=⇒ az a legkisebb szám, amely nem definiálható magyar nyelven legfeljebb száz billenty ˝u-leütéssel

(69)

Kolmogorov-bonyolultság

=⇒ az a legkisebb szám, amely nem definiálható magyar nyelven legfeljebb száz billenty ˝u-leütéssel ⇐= egy száznál rövidebb jelsorozat

(70)

Kolmogorov-bonyolultság

írógép-paradoxon

(71)

Kolmogorov-bonyolultság

írógép-paradoxon

n = 2^k − 10 alakú számok bináris kódja k = log₂ n hosszú

(72)

Kolmogorov-bonyolultság

írógép-paradoxon

Viszont a 2^k − 10 kifejezés hossza csak log₂ log₂ n+ konstans.

(73)

Kolmogorov-bonyolultság

írógép-paradoxon

Rögzítsünk egy U univerzális Turing-gépet, és értelmezzük az x ∈ I^∗ szó

bonyolultságát mint a legrövidebb y#z input szó hosszát, melyre U az x szót számítja ki.

(74)

Kolmogorov-bonyolultság

írógép-paradoxon

Rögzítsünk egy U univerzális Turing-gépet, és értelmezzük az x ∈ I^∗ szó

bonyolultságát mint a legrövidebb y#z input szó hosszát, melyre U az x szót számítja ki.

Az U gép választásától nagy mértékben független, és aszimptotikus értelemben jó közelítését adja az „optimumnak”.

(75)

Definíció. Legyen M egy TG ami az f_M : I^∗ → I^∗ parciális függvényt számolja ki. Jelöljük C_M(x)-szel annak a legrövidebb bemen ˝o szónak a hosszát, mellyel elindítva M az x szót adja eredményül:

C_M(x) =

min{|y| : y ∈ I^∗, f_M(y) = x} ha ilyen y létezik,

∞ különben.

(76)

C_M(x) =

∞ különben.

A C_M(x) szám méri, hogy x mennyire nyomható össze akkor, ha a kibontást, vagyis az összenyomott szó visszafejtését az M algoritmus végzi.

(77)

C_M(x) =

∞ különben.

konkrét x-re =⇒ ∃ M₁ gép, hogy C_M₁(x) = 0

(78)

C_M(x) =

∞ különben.

konkrét x-re =⇒ ∃ M₁ gép, hogy C_M₁(x) = 0 és ∃ M₂ gép, hogy C_M₂(x) = ∞.

(79)

C_M(x) =

∞ különben.

konkrét x-re =⇒ ∃ M₁ gép, hogy C_M₁(x) = 0 és ∃ M₂ gép, hogy C_M₂(x) = ∞.

Tétel. [invariancia-tétel] Legyen U egy univerzális Turing-gép. Ekkor

tetsz ˝oleges M Turing-gépre létezik egy (csak M-t ˝ol függ ˝o) c_M ∈ Z⁺ állandó, mellyel minden x ∈ I^∗ szóra teljesül a következ ˝o egyenl ˝otlenség:

C_U(x) ≤ C_M(x) + c_M.

(80)

Bizonyítás: M gép leírása =⇒ w ∈ I^∗

(81)

legyen y egy legrövidebb szó, amib ˝ol M az x-et bontja ki:

(82)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

(83)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

=⇒ U a w#y bemeneten x-et adja eredményül

(84)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

=⇒ U a w#y bemeneten x-et adja eredményül =⇒

C_U(x) ≤ |w#y| = |w#| + |y| = |w#| + C_M(x)

(85)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

C_U(x) ≤ |w#y| = |w#| + |y| = |w#| + C_M(x)

=⇒ c_M = |w#|

√

(86)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

C_U(x) ≤ |w#y| = |w#| + |y| = |w#| + C_M(x)

=⇒ c_M = |w#|

√

Tétel. Legyenek U₁ és U₂ univerzális Turing-gépek, melyek input abc-je

I = {0, 1}. Ekkor van olyan c = c_U₁_,U₂ állandó, hogy minden x ∈ I^∗ szóra

|C_U₁(x) − C_U₂(x)| ≤ c.

(87)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

C_U(x) ≤ |w#y| = |w#| + |y| = |w#| + C_M(x)

=⇒ c_M = |w#|

√

|C_U₁(x) − C_U₂(x)| ≤ c.

Bizonyítás: C_U₁(x) ≤ C_U₂(x) + c_U₂ és C_U₂(x) ≤ C_U₁(x) + c_U₁

√

(88)

=⇒ y ∈ I^∗, f_M(y) = x, és |y| = C_M(x)

C_U(x) ≤ |w#y| = |w#| + |y| = |w#| + C_M(x)

=⇒ c_M = |w#|

√

|C_U₁(x) − C_U₂(x)| ≤ c.

Bizonyítás: C_U₁(x) ≤ C_U₂(x) + c_U₂ és C_U₂(x) ≤ C_U₁(x) + c_U₁

√

Definíció. Rögzítsünk egy U univerzális Turing gépet. Legyen x ∈ I^∗. A C(x) := C_U(x) mennyiség az x szó Kolmogorov-bonyolultsága.