Szabályozási igények

A fenti gyakorlati példák illusztrálják, megtestesítik azokat az elméleti problémákat, amelyek felmerülhetnek az algoritmizált menedzsment kapcsán. E tekintetben négy

689 MK 95. számú állásfoglalás, II. pont

690 Kiss (2017) 166.

169

jelentősebb kihívást lehet elkülöníteni: megfigyelés és ellenőrzés, átláthatóság, diszkrimináció, elszámoltathatóság.⁶⁹¹

A dolgozók és a szakszervezetek, valamint az egész társadalom figyelmének a felhívására az UNI Global Union nemzetközi szakszervezeti szövetség 2018-ban kiadott egy összefoglaló dokumentumot „Az etikus mesterséges intelligencia 10 alapelve”⁶⁹² elnevezéssel, amelyben követeléseket fogalmazott meg az algoritmusok és MI-val működő rendszerek használóinak. Ebben elsődleges szempont a MI átláthatóságának követelménye, vagyis, hogy hogyan és miért hoz meg egy rendszer egy adott döntést, valamint, hogy mindig az ember álljon kontrollként a MI felett. Extrém megfogalmazásuk szerint fontos, hogy ne juthassunk el egy olyan állapotig, amikor a munkáltató annyit mond, hogy „megszüntetem a jogviszonyt, mert az algoritmus így döntött”.⁶⁹³ Az átláthatóság kihívása adatvédelmi problémákból ered: magának a döntés alapjául szolgáló adathalmaznak a léte, illetve az azokhoz való hozzáférés néhány adatvédelmi problémát mutat. Többek között: az értékelésekhez való hozzáférés, a vélemények kifogásolásához, törléséhez való jog érvényesülése. Természetesen jogosan vetődik fel az a kérdés, hogy vajon mennyire alkalmas egy etikai kódex, vagy egy magatartási szabályzat a kérdés rendezésére.⁶⁹⁴ Hiszen a gyakorlati tapasztalatok alapján ezek egyrészt nehezen kikényszeríthetők, másrészt pedig kérdéses, hogy vajon az etikus viselkedésmódot lehet-e sztandardizálni.⁶⁹⁵ Ezért az ETUI két alapelvre hívja fel a figyelmet, amelyet az EU-s jogalkotóknak szem előtt kellene tartaniuk: elővigyázatosság⁶⁹⁶ és emberi jogok (mintsem a fejlődés alapelve).

Az értékelési rendszerek „algoritmizálása” elsőre egy könnyű útnak tűnhet abban a tekintetben, hogy „tisztára mossák” annak az eredményeit, állítva, hogy az alkalmazott rendszer (az algoritmus) valójában egy semleges eszköz. Emellett nem hagyható figyelmen

691 Alexandra Mateescu – Aiha Nguyen: Algorithmic Management in the Workplace. Data&Society, 2019.

február. https://datasociety.net/wp-content/uploads/2019/02/DS_Algorithmic_Management_Explainer.pdf (2020. 12. 14.)

692 Top Ten Principles of Ethical AI. UNI Global Union, The Future World of Work, 2018.

http://www.thefutureworldofwork.org/media/35420/uni_ethical_ai.pdf (2020. 12. 14.)

693 Colclough (2019)

694 Del Castillo (2020)

695 Valerio de Stefano álláspontja szerint például felesleges és nem hatékony lépés a mesterséges intelligencia rendszerekkel szemben etikus és „fair” követelményeket előírni. Lásd bővebben: de Stefano, Valrio: ‘Master and Servers’: Collective Labour Rights and Private Government in the Contemporary World of Work. International Journal of Comparative Labour Law and Industrial Relations, Vol. 36, 2020(4)

696 EUMSz. 191. cikk.

170

kívül, hogy valójában az algoritmus csak olyan tényezőket, körülményeket fog figyelembe venni, amit a munkáltató, platform sablonként betáplál. Tehát az egész folyamatba bele illeszthető egy emberi, személyi döntés, ami a meghatározott értékelés alakulásáért felelhet.⁶⁹⁷ Más körben is kiemelésre került az a tény, hogy a számításokat végző algoritmus működési paramétereit a szoftverfejlesztők határozzák meg, és a felhasználók által meghatározott elvárásoknak megfelelően konfigurálják, amelyek bizonyos értékeket másokkal szemben privilegizálnak.⁶⁹⁸

Tehát az átláthatóság elvárásával kapcsolatban fontos elválasztani a működési rendszer/számítási folyamat és az alkalmazott következmények átláthatóságát. Jelentősebb probléma akkor vetődik fel, ha nem felügyelt („unsupervised”) MI-ról van szó.⁶⁹⁹ Az MI feladata – többek között –, hogy korrelációt keressen a betáplált adatokban, a betáplált számítási módszerekkel. Azonban a „fekete dobozban” lévő számítási folyamatok nem lehetnek átláthatóak, hiszen az abban nem jártas szakemberek nem tudják megérteni, ezért az MI működésének átláthatósága semmiképpen sem vonatkozhat erre, csupán az alkalmazott következményekre.⁷⁰⁰

Az algoritmizált menedzsment lehetőséget biztosít arra, hogy a cégek a MI által hozott döntések mögé bújva elhatárolódjanak a saját üzleti, piaci döntésüktől. Ezért is van szükség az elszámoltathatóság (mint a jogorvoslat lehetőségének) biztosítására.⁷⁰¹ Valamint szorosan idekapcsolható a felelősség kérdése is, vagyis, hogy az algoritmusokat alkalmazó cégek ne háríthassák el a döntéseikért való felelősséget pusztán azért, mert az (részben) egy számítási folyamatnak köszönhető. Az Európai Gazdasági és Szociális Bizottság is a mesterséges intelligencia „human-in-command” (emberi vezérlésű) megközelítése mellett szól, melynek értelmében „alapfeltétel a mesterséges intelligencia

697 Ducato – Kullmann – Rocca (2018) 2-4.

698 Mittelstadt, Brent Daniel – Allo, Patrick – Taddeo, Mariarosaria – Wachter, Sandra – Floridi, Luciano: The ethics of algorithms: Mapping the debate, Big Data & Society, 2016/2. 1.

699 Brownlee, Jason: Supervised and Unsupervised Machine Learning Algorithms.

https://machinelearningmastery.com/supervised-and-unsupervised-machine-learning-algorithms/ (2020.

12. 14.)

700 Saját készítésű interjú alapján, Orbán Miklóssal (legal tech expert), 2020. 05. 04.

701 Mateescu – Nguyen (2019) 14.

171

felelős, biztonságos és hasznos fejlesztése, ahol a gépek gépek maradnak, az emberek pedig mindig megtartják az ellenőrzést a gépek felett.”⁷⁰²

A platform gazdaság munkavégzői a reputációjukat a platformokon való folyamatos munkavégzéssel építik fel. Ebben az újszerű munkavégzési körben lényegében meg sem jelennek az önéletrajzok, vagy ajánlólevelek, hanem az értékelésekkel felépített pontszám lesz az, ami tükrözi a munkát végző személy munkájának minőségét. Azonban ha a platformok – illetve az egész rendszer – nem biztosít lehetőséget arra, hogy a megszerzett értékelést az adott személy tovább vigye magával egy újabb platformhoz, akkor azzal lényegében „magukhoz láncolják” – illetve ellehetetlenítik – az egyéneket. Ennek az az alapja, hogy a felhasználók (az Uber esetében az utasok) sokkal szívesebben veszik igénybe egy olyan sofőr szolgáltatását, aki 4.9-es átlagértékeléssel (száz értékelés alapján) rendelkezik, mint azét, aki csak tíz értékelést kapott. Ezt figyelembe véve a sofőrök is kevesebb valószínűséggel hagyják ott a céget, egy másik fuvarozással foglalkozónál való munkavégzésért, hiszen akkor az egész felépített reputációt az elejéről kellene kezdeniük.⁷⁰³

Az Európai Parlament is kiemelte annak fontosságát jelentésében, hogy „biztosítani kell a közösségi platform munkavállalói számára a digitális piaci értéküket jelentő minősítések és felülvizsgálatok hordozhatóságát, valamint garantálni kell a minősítések és felülvizsgálatok különféle platformok közötti átvihetőségét és összegyűjtését”.⁷⁰⁴ Emellett a jelentés megfogalmazta, hogy „a munkavégzés online értékelése tisztességtelen és önkényes gyakorlatokra nyújthat lehetőséget, amelyek kihatnak a közösségi platformok keretében munkát vállalók munkafeltételeire és javadalmazására, továbbá a munkaszerzési képességükre; valamint, hogy a minősítési és felülvizsgálati mechanizmusokat átlátható módon kell kialakítani, továbbá – a tagállamok jogszabályaival és gyakorlatával

702 Európai Gazdasági és Szociális Bizottság véleménye: Mesterséges intelligencia – A mesterséges intelligencia hatásai a (digitális) egységes piacra, a termelésre, a fogyasztásra, a foglalkoztatásra és a társadalomra, INT/806, 2016, 1.6 pont.

703 Robinson, Cassie: Exploring portable ratings for gig workers, https://medium.com/doteveryone/exploring-portable-ratings-for-gig-workers-5632fd9b262e (2020. 12.

14.)

704 Európai Parlament: Jelentés a közösségi gazdaságra vonatkozó európai menetrendről (2016/0000(INI));

A8-0195/2017; 11/05/2017. 41. pont

172

összhangban – megfelelő szinten tájékoztatni kell a munkavállalókat, illetve egyeztetni kell velük az ilyen mechanizmusok kidolgozásához használt általános kritériumokról.”⁷⁰⁵

Az Európai Parlament fenti jelentésével szinte párhozamosan megfogalmazásra került a hordozható értékelések iránti elvárás.⁷⁰⁶ Az életünk „digitális ujjlenyomata” egyre fontosabbá válik, kifejezetten azon személyek körében, akik szorosan kötődnek a saját értékelésükhöz, online hírnevükhöz. Egy adott platformon felhalmozódott értékelések, a munkaelőzményekhez kapcsolódó minősítések a munkát végző személyek professzionális portfóliójának is tekinthető. Ezért is lenne szükség arra, hogy ezek hordozhatóvá váljanak és az adott személy tulajdonába tartozzanak.⁷⁰⁷ Valamint kiemelt jelentőségű lenne az alkalmazkodás és átjárhatóság fogalmainak figyelembe vétele, hiszen a későbbi „online karrierépítéshez” ez is hozzájárulhat.