Asociácia AI: Zámer kamerových systémov na školách vyvoláva zásadné otázky

Bratislava - Zámer zavedenia kamerových systémov na školách vyvoláva zásadné otázky v súvislosti s jeho súladom s právnymi predpismi na ochranu súkromia, osobných údajov a tiež novoprijatým AI Act. Upozornila na to Asociácia AI (ASAI). TASR o tom informovala členka správnej rady ASAI Miroslava Šáchová. "Ak by súčasťou navrhnutého riešenia, ktoré aktuálne posudzuje vláda, skutočne bolo používanie systémov diaľkovej biometrickej identifikácie v reálnom čase využívajúce AI, je pravdepodobné, že by šlo o zakázanú praktiku podľa AI Act, a teda riešenie, ktoré nie je možné v EÚ použiť," pripomenul predseda správnej rady ASAI Róbert Gašparovič.

Za porušenie AI Act by podľa neho hrozila štátu, ale aj dodávateľovi systému pokuta až do výšky 35 miliónov eur alebo siedmich percent celosvetového ročného obratu, podľa toho, čo je vyššie. "Zároveň sa tiež javí, že využitie kamerových monitorovacích systémov využívajúce AI v navrhnutom rozsahu by nebolo ani v súlade chartou základných práv a slobôd ani smernicou o ochrane fyzických osôb pri spracúvaní osobných údajov príslušnými orgánmi na účely predchádzania trestným činom," doplnil Gašparovič. Vzhľadom na množstvo otázok týkajúcich sa súladu navrhnutého riešenia s ochranou súkromia, základnými právami a slobodami je podľa asociácie potrebné vykonať hĺbkovú analýzu. Na možné riziká širokého spracovania osobných údajov žiakov, učiteľov a zamestnancov škôl upozornil aj Spolok pre ochranu osobných údajov (SOOÚ). Takéto riešenie prináša podľa spolku otázky súvisiace s ochranou osobných údajov, najmä pokiaľ ide o nevyhnutnosť, rozsah a bezpečnosť takéhoto spracúvania, ako požaduje legislatíva GDPR. Pripomenula to predsedníčka spolku Lucia Semančínová. Spolok tiež poukázal na vysoké požiadavky, ktoré na systém tohto druhu kladie aj nariadenie o umelej inteligencii (AI Act), pretože ide o vysoko rizikové operácie.

Podľa spolku nie sú dostatočne zdôvodnené riziká ani efektívnosť takého monitoringu najmä v súvislosti s prevenciou špecifických hrozieb. Spolok pripomenul, že odborníci na ochranu osobných údajov navrhujú, aby sa zvážili aj menej invazívne alternatívy, ktoré by dokázali efektívne prispieť k vytýčeným cieľom bezpečnosti na školách. Do konca roka 2026 by malo byť podľa slov ministra vnútra Matúša Šutaja Eštoka (Hlas-SD) pokrytých kamerovým systémom s umelou inteligenciou zhruba 3000 škôl. Umelá inteligencia by mala vyhodnocovať rizikové správanie, ktoré by sa následne nahlásilo na operačné stredisko. Cieľom je zabrániť šíreniu rôznych bezpečnostných hrozieb. V septembri minister avizoval, že tento rok kamery nasadia na troch pilotných školách. Systém podľa Šutaja Eštoka bude v súlade s GDPR.