II. Kísérleti rész
1. Kromatográfiában alkalmazható matematikai függvények vizsgálata A korszerű jelfeldolgozás egyik speciális, nehezen megvalósítható, de jó eredményeket
1.6. A vizsgált függvények összehasonlítása
A vizsgált matematikai függvények - (34), (41-42), (47), (52), (53)- kromatográfiás (gáz-, ion-, HPLC-) csúcsok leírására és illesztésére alkalmasak. Közös vonásaik, melyek egyben az egyes egyedi függvények - (34), (41), (47) - előnyei is, a következők:
- szimmetrikus és aszimmetrikus görbéket írnak le;
- a paraméterek közvetlenül jellemzik a csúcsalakot;
- a paraméterek és statisztikai momentumok között egyszerű összefüggések állnak fenn;
- átlapoló csúcsok felbontására alkalmasak;
- alapvonal korrekcióra és - zajszűrésre alkalmasak.
A 6. táblázat a vizsgált függvények egymástól eltérő jellegzetességeit mutatja be.
Az elválasztás során a csúcsokra legjobban illő matematikai függvény kiválasztása és paramétereinek alkalmazása a kromatográfus feladata. A különböző kísérletek során kapott kromatogramok esetén vizsgáltam, hogy mely matematikai függvények illeszthetők legjobban adott digitális adatsorokra. Az illesztések jóságát elsősorban a maradék négyzetösszeg határozta meg.
Gázkromatográfia és kapilláris elektroforézis
Gázkromatográfiás módszer esetén a függvényillesztések összehasonlítását a maradék négyzetösszegek alapján a 7. táblázat tartalmazza.
A három függvény közül a vastag számmal jelölt maradék négyzetösszeg mutatja a legkisebb értéket, vagyis a legjobb illesztést. Megállapíthatjuk, hogy az általam vizsgált gáz-kromatográfiás csúcsok vonatkozásában -a megadott kísérleti körülmények között- az esetek többségében a logaritmikusan módosított Gauss-függvény (34) illeszthető a legjobban.
Bizonyos esetekben a módosított Hermite-polinomos függvény jobb eredményt ad, de a különbség nem számottevő (kivételt képez a GC11 n-oktán elől erősen aszimmetrikus csúcsa).
Az egyszerűen módosított Gauss-függvény minden esetben nagyságrendileg is a legrosszabb illesztést adta.
6. táblázat
Függvény Előnye Hátránya
Logaritmikusan módosított
Gauss-függvény (34)
- 4 paramétert tartalmaz;
- elhúzódó csúcs leírása;
- közvetlenül integrálható.
- viszonylag bonyolult függvény-alak;
- elől aszimmetrikus csúcsot nem ír le;
Módosított Hermite-polinomos függvény (41-42)
- elől aszimmetrikus csúcs leírása;
- elhúzódó aszimmetrikus csúcs le-írása.
- relatív bonyolult függvényalak;
- az aszimmetria együttható befo-lyásolja a csúcsosságot;
- integrálása csak közelítő módszer-rel végezhető.
Egyszerűen módosított
Gauss-függvény (47)
- egyszerű függvényalak;
- 4 paramétert tartalmaz;
- elhúzódó aszimmetrikus csúcs le-írása.
- a csúcsszélesség függ az aszim-metriától;
- enyhén elhúzódó csúcs leírása;
- elől aszimmetrikus csúcsot nem ír le;
- integrálása csak közelítő módszer-rel végezhető.
Függvénykombi-náció (52) - erősen elhúzódó csúcs leírása;
- zajszűrés;
- alapvonal korrekció.
- bonyolult függvényalak;
- 6 paramétert tartalmaz;
- nincs közvetlen kapcsolat a csúcs-paraméterek és a momentumok között;
- integrálása csak közelítő módszer-rel végezhető;
- hosszabb alkalmazási idő.
Függvénykombi-náció (53)
- elől erősen aszimmetrikus csúcs leírása;
- zajszűrés;
- alapvonal korrekció.
- bonyolult függvényalak;
- 7 paramétert tartalmaz;
- nincs közvetlen kapcsolat a csúcs-paraméterek és a momentumok között;
- integrálása csak közelítő módszer-rel végezhető;
- hosszú alkalmazási idő.
7. táblázat
Maradék négyzetösszegek alapján történő függvényillesztések összehasonlítása gázkromatográfiás vizsgálat esetén.
(normál betű - elhúzódó csúcs, dőlt betű - fronting"-os- csúcs)
A GC14, GC38, GC11 azonosítójú gázkromatogramok esetén bemutatom a legkisebb maradék négyzetösszegű függvény digitális pontokra való illesztését (48.; 50.; 52. ábra), valamint a számított és mért értékek közötti eltéréseket az egyes egyedi függvények esetén (49.; 51.; 53. ábra).
Azonosító jel
Módosított logaritmikus függvény (34)
Módosított Hermite-polinomos függvény (41-42)
Egyszerűen módosított
Gauss-függvény (47)
GC2 248,3 217,8 469,5
GC11 180,9 42,80 231,9
GC13 19,51 68,09 461,9
GC14 52,20 276,0 1965,7
GC16 22,01 34,67 108,8
GC17 63,45 445,6 482,0
GC20 72,49 57,02 505,7
GC21 142,5 167,4 388,2
GC26 10,33 12,27 26,36
GC38 18,28 32,27 148,7
GC42 35,49 103,6 326,4
GC47 87,02 67,76 2019,0
0 20 40 60 80 100 120 140 160
18 19 20 21 22 23 24 25
Relatív intenzitás
Idõ, s
48. ábra
Logaritmikusan módosított Gauss-függvény (34) illesztése a ciklo-hexán (GC14) digitális pontjaira. (Pontok - mért adatok; folytonos vonal - illesztett görbe.)
-16 -14 -12 -10 -8 -6 -4 -2 0 2 4 6 8 10 12 14 16
19 19.5 20 20.5 21 21.5 22 22.5 23 23.5
Eltérés
Idõ, s
49. ábra
Összehasonlító ábra az egyedi matematikai függvények - (34)- fekete, (41-42)-piros, (47)-zöld - számított és mért értékei közötti eltérések bemutatására a
0 20 40 60 80 100
18 19 20 21 22 23 24
1
2
Idő, s
Relatív intenzitás
50. ábra
Logaritmikusan módosított Gauss-függvény (34) illesztése a GC38-jelű kromatogram (1 nhexán; 2 nheptán) digitális pontjaira. (Pontok mért adatok; folytonos vonal
-illesztett összeggörbe; szaggatott vonal - egyedi csúcsok.)
-5 -4 -3 -2 -1 0 1 2 3 4 5
19.5 20 20.5 21 21.5 22 22.5 23
Eltérés
Idõ, s
51. ábra
Összehasonlító ábra az egyedi matematikai függvények - (34)-fekete,
(41-42)-piros, (47)-zöld - számított és mért értékei közötti eltérések bemutatására a GC38-jelű kromatogram esetén.
0 20 40 60 80 100
23 24 25 26 27
Relatív intenzitás
Idõ, s
52. ábra
Módosított-Hermite polinomos függvény (41-42) illesztése a n-oktán (GC11) digitális pontjaira. (Pontok - mért adatok; folytonos vonal - illesztett görbe.)
-6 -4 -2 0 2 4 6
23.5 24 24.5 25 25.5 26 26.5 27
Idõ, s
53. ábra
Összehasonlító ábra az egyedi matematikai függvények - (34)-fekete, (41-42)-piros, (47)-zöld - számított és mért értékei közötti eltérések bemutatására a GC11-jelű kromatogram
esetén.
Gázkromatográfiás és kapilláris elektroforézises vizsgálatok során előfordulhatnak erősen torz csúcsok is. Ezek illesztése az (52), illetve (53) függvénykombinációk segítségével nagyságrenddel jobb eredményt adhat (vastag betű), mint egyedi függvény alkalmazása esetén (8. táblázat).
Azonosító jel
Ábra-Szám
Függvény-kombináció (52)
Módosított logaritmikus függvény (34)
Módosított Hermite-polinomos függvény (41)
Egyszerűen módosított
Gauss-függvény (47)
GC18 37. 69,23 727,8 2531,5 13555,1
GC6 38. 44,07 524,9 421,7 3945,2
Nov85 40. 2,756e-09 4,907e-09 2,357e-08 9,510e08
Nov85 41. 3,500e-09 1,066e-08 5,222e-08 2,275e-07
Nov87 43. 4,959e-09 5,992e-09 3,803e-08
-Nov87 44. 4,631e-09 5,577e-09 9,959e-09
- Függvény-kombináció (53)
GC12 45. 64,18 - 748,4
-GC46 46. 63,09 - 790,9
-8. táblázat
Maradék négyzetösszegek alapján történő függvényillesztések összehasonlítása gázkromatográfiás (GC) és kapilláris elektroforézises (Nov) vizsgálatoknál.
Ion-kromatográfia és HPLC
Ion-kromatográfiás (Ic azonosító) és nagyhatékonyságú folyadék-kromatográfiás (K1cjr azonosító jel) elválasztás során az alkalmazott kísérleti körülmények között világosan látható, hogy előbbi esetben a módosított Hermite-polinomos függvény, míg utóbbi esetben a módosított logaritmikus Gauss-függvény illeszkedik legjobban (vastag betű) a digitális pontokra (9. táblázat). Ion-kromatográfiás csúcsok esetén a módosított Hermite-polinomos
függvénnyel pontos illesztés érhető el (54. ábra). A különböző matematikai függvényekkel történő illesztések jóságának összehasonlítása az 55. ábrán látható.
0 0.2 0.4 0.6 0.8 1 1.2
400 500 600 700 800 900 1000 1100 1200 1300
Relatív intenzitás
Idõ, s
1
2
3
4
54. ábra
Módosított Hermite-polinomos függvény illesztése ion-kromatográfiás csúcsok ( 1- Li+ ; 2 - Na+ ;3 - K+ ; 4 - Rb+) digitális pontjaira (Ic41m1). (Pontok - mért adatok; folytonos
vonal - illesztett összeggörbe; pontozott vonal - egyedi csúcsok).
Eluens: 0,005 M HNO3; áramlási sebesség: 4,6ml/min; minta-koncentráció: 5ppm.
-0.03 -0.02 -0.01 0 0.01 0.02 0.03
500 600 700 800 900 1000 1100 1200 1300
Idõ, s
Eltérés
55. ábra
Összehasonlító ábra az egyedi matematikai függvények - (34)-fekete, (41-42)-piros, (47)-zöld - számított és mért értékei közötti eltérések bemutatására az Ic41m1-jelű
Azonosító Logaritmikusan módosított
Gauss-függvény
Módosított Hermite-polinomos függvény
Egyszerűen módosított
Gauss-függvény
Ic1m1 8,745.10-3 1,56.10-3 4,42.10-3
Ic41m1 0,588.10-3 5,82.10-5 0,398.10-3
Ic5m1 3,419.10-3 0,116.10-3 3,13.10-3
Ic16m1 1,177.10-3 2,83.10-5 1,19.10-3
Ic12m1 0,857.10-3 1,33.10-5 1,67.10-3
Ic8m1 0,530.10-3 0,356.10-5 0,529.10-3
K1cjr17 6,434.10-3 0,0431 0,21818
K1cjr89 8,408.10-5 0,829.10-3 6,507.10-3
K1cjr10 4,160.10-5 0,588.10-3 2,58.10-3
9. táblázat
Maradék négyzetösszegek alapján történő függvényillesztések összehasonlítása ion-kromatográfiás és nagyhatékonyságú folyadék-ion-kromatográfiás elválasztások során.