Mindannyian lélegzet-visszafojtva figyeljük a mesterséges intelligencia (MI) térnyerését. Egyre több az aggódó hang: ki szab határt a rohamos fejlődésnek? Képesek leszünk jogilag is lekövetni a piac változásait? Milyen alkalmazásokat lesz tilos fejleszteni? És vajon elveszik-e a robotok a munkánkat a következő évtizedben? Rónyai Júlia újságíró beszélgetett Karászi Zoltánnal, a cégcsoportunk elnökével.

A mesterséges intelligencia egyre nagyobb teret hódít. Határt szabhat ennek a jelenlegi szabályozás, vagy nem sokára egy Black Mirror-epizódban találhatjuk magunkat?

Az már körvonalazódik, hogy bizonyos MI alkalmazásokat egész egyszerűen tilos lesz kifejleszteni. A most készülő AI Act (mesterséges intelligenciát szabályozó Európai Uniós rendelet) az összes alkalmazást négy kategóriába sorolja, és ezek közül a negyedik kategória a teljességgel tiltott eszközöké. Ilyenek lehetnek például a valós idejű biometrikus azonosítók, amik egy állásinterjú során azonnali adatokat közvetítenének a jelölt testi reakcióiról.

Ugye, el tudjuk képzelni azt az appot, ami a jelölt viselkedése, hanghordozása, esetleg az internetről összegyűjtött családtörténete miatt automatikusan alkalmatlannak bélyegzi őt? Nos, a mesterséges intelligencia egy pontig elmehet a profilozásban, és támogathatja a HR munkáját, de az ilyen alkalmazások fejlesztése etikátlannak minősül. De beszélhetünk akár a szavazói viselkedés előrejelzéséről, gender alapú megközelítésekről és sok egyéb felhasználási módról, amivel benyomulhatna az intim szféránkba. Ezek a fejlesztések viszont a magánélet védelméhez fűződő jogainkba ütköznének.

Visszatérő aggály az is, hogy az MI előbb-utóbb tömegek munkáját teszi majd feleslegessé. Vagy mégsem?

Én ebben a kérdésben középre helyezkednék, nem vagyok túlzottan pesszimista. Belátható ugyanis, hogy az MI térnyerésével komoly munkamennyiség keletkezik. A megoldások szállítóinak európai képviseletre lesz szüksége. Ha megalkotják a szabályozási környezetet, a minőségbiztosítótól a tesztmérnökig rengeteg szakembernek keletkeznek majd munkahelyek, amik ma még nem is léteznek.

Másfelől azokon a területeken, ahol nagy erőfeszítések árán gyűjtenek adatokat, netán egyszerű szempontok alapján osztályoznak dolgokat, a gépi algoritmusok le fogják cserélni az emberi munkaerőt. Tehát bizonyos munkahelyek megszűnhetnek, de cserébe más pozíciók jönnek létre. Ezért inkább azt mondanám, a mesterséges intelligencia elterjedése a társadalmi átrendeződés egyik hajtóereje lesz.

Ha nem ebben, akkor miben látod most a legnagyobb kockázatot?

A mesterséges intelligenciával működő IT rendszerek már ma is számos kritikus fontosságú operációt irányítanak, a kórházaktól a vegyi üzemekig. Az ilyen eszközöket gyakran próbálják feltörni, keresve a sérülékenységeiket. Az MI a rendszer válaszai alapján képes kikövetkeztetni a gyengeségeit. A másik oldalon viszont ugyanez az MI a mintázatok alapján hatékonyan fel tudja ismerni a támadás fajtáját, jellegét, esetleg elkövetőjét is. Az IT-rendszerek sérülékenysége tehát a védelem és a támadó eszköztárában is megjelenik.

Gondoljunk csak bele, ha például egy vegyipari gyár termelési rendszerében törik fel a védelmi mechanizmust! Ha kicsit magasabb hőmérsékletre fűtik az ott lévő anyagokat, akkor robbanást okozhatnak. Ugyanígy egy gyógyszergyárban a receptúra kis mértékű megváltoztatásával már mérget kapunk. Az ilyen rosszindulatú kísérletek után létfontosságú az adatok feldolgozásával azonosítani, milyen sérülékenységet kell korrigálni a rendszerben.

Joggal érezhetjük magunkat a technológiai vadnyugaton. Mikor jöhet létre az MI használatára vonatkozó jogszabály?

Az MI-t alkalmazó eszközök tanúsítását részben a már meglévő szabályozások is lefedik, de egyelőre még nincsenek európai szinten meghatározott, egységesített szabványok, amik alapján objektív, megismételhető és mindenki által elfogadott tanúsítási eljárást lehetne végezni. Fontos tudni ugyanakkor, hogy már készül az úgynevezett AI Act, tehát a mesterséges intelligenciára vonatkozó törvénycsomag. Az Európai Parlament elfogadta a törvénytervezetet, így most a Parlament, a Tanács és a Bizottság hármasa fogja kidolgozni a végső verziót, a remények szerint még a következő évi EP választási előtt.

Az AI Act megnevezi majd a magas kockázatú alkalmazásokat, és azokhoz kötelező megfelelőség-vizsgálatot és tanúsítási folyamatot ír elő, amit csak az arra kijelölt testületek - a QTICS-hoz hasonló, úgynevezett notified body-k - végezhetnek el. Ehhez viszont harmonizált szabványok is szükségesek, amik még nem állnak készen. Mindez komoly és összetett folyamat, és európai módra talán kicsit túl is szabályozott, hiszen a mesterséges intelligencia mindent átható technológia.

Ha még meg sem születtek az európai sztenderdek, mi alapján lehet ma felülvizsgálni az új találmányokat?

Marad a mérnöki észjárás, ami - egyelőre még - nem akkreditált vizsgálati módszertan. A mesterséges intelligenciát akkreditáló hatóságnak első lépésben meg kell teremteni a törvényi hátterét és az ahhoz kapcsolódó intézményrendszert is. Mi a QTICS-nál gőzerővel dolgozunk egy értékelő laboratórium felépítésén, hogy ott legyünk az elsők között mind vizsgálati, mind tanúsítási oldalról, mint a mesterséges intelligenciával is foglalkozó minőségellenőrző szervezet. Már ma is tudunk ilyen jellegű vizsgálatokat végezni, de nem akkreditáltan, hiszen ennek még nincs meg az eszköztára.

De ne feledjük, hogy a már érvényben lévő rendeletek egy része is szabályozza az MI használatát! Az ilyen eszközök a GDPR adatvédelmi rendelet és a kiberbiztonsági jogszabály hatásköre alá is esnek, hiszen óriási adatmennyiségeket kezelhetnek. Mindkét jogszabályban szerepel magas kockázatú kategória, automatikusan ide sorolódnak például az orvostechnikai eszközök. Ezek ráadásul a nemrég megjelent MDR/IVDR (orvostechnikai eszközökről és in vitro diagnosztikai eszközökről szóló rendelet) hatásköre alá is esnek, így egyszerre több törvény metszéspontjában állnak.

Sokan még azt sem tudjuk pontosan, hol húzódik a határvonal a robotok és az MI-eszközök között.

A robotika népszerűen túl van misztifikálva: a legtöbben például szakácsnő robotot képzelnek el, ami még meg is masszírozza Jóska bácsi hátát. A valóságban a robot “csak” egy mesterséges intelligencia által vezérelt gép. Ott vannak például a logisztikai robotok, amik pusztán árukat vesznek le a polcról és szállítják őket, de a bennük használt tanuló algoritmus mégis egyre precízebben oldja meg a legrövidebb út problémáját. De említhetjük a vizsgáló, állapotfelmérő robotokat, vagy a repülő eszközöket is. Ezekre mind-mind ugyanúgy érvényes lesz az AI Act, hiszen létfontosságú, hogy egy robotot ne lehessen könnyen elirányítani, és ezáltal emberben vagy javakban kárt okozni.

A QTICS-nál több nagy ipari területet is lefedtek. Hogy látod, hol tör előre leginkább a mesterséges intelligencia?

Mivel az MI horizontális technológia, minden iparágban találkoztunk már olyan fejlesztővel, aki beemelte az eszköztárába. A gyerekjátékoktól az űrhajózásig mindenhol megjelenhet. A mi négy részlegünk közül leginkább az előrehaladott orvostechnikai eszközök között találkozunk vele, de szorosan követi a mobilitás: markánsan jelen van a drónok és az önvezető járművek világában is. Nem sokkal marad el az energetikai és az IoT szektor sem.

Téged milyen fejlesztések győztek meg mostanában a leginkább? Mi az, ami szerinted is nagy potenciált hordoz?

Számos olyan képelemző szoftver van már a piacon, ami a hatalmas adatmennyiségnek és mintáknak köszönhetően elképesztő pontossággal el tudja dönteni például egy röntgenfelvétel alapján, hogy jó- vagy rosszindulatú, ami kirajzolódik rajta. Egyre nagyobb gyakorlati súllyal bírnak a képfeldolgozó algoritmusok, az élet esélyeit javító technológiák. De említhetjük a drónok fejlődését is, amik már egészen precíz megállapításokat tudnak tenni a nyers képeket feldolgozó algoritmusok által, például arról, hogy egy távvezeték adott szakaszán szükséges-e karbantartást végezni. És ott vannak az ügyfélkapcsolati területen alkalmazott nyelvi modellek is, elmondható tehát, hogy minden területre bevonuló technológiáról beszélünk.

Hogy állnak ezzel a magyarok? Lesz-e Magyarország valaha is MI-nagyhatalom?

Válaszolhatnék azzal a közhellyel, hogy “Magyarországon miért jobb az energiatermelés? Mert magyar napelemre magyar nap süt!” Ha viszont félretesszük az elfogultságot, nincs valós alapunk azt feltételezni, hogy Magyarország más feltételekkel indulna az MI-versenyben, mint más országok. Hogy adott tagállamok mennyiben támogatnak bizonyos iparágakat, vagy épp mennyit fordítanak a szakemberek kiképzésére, az országonként nagyon eltérő lehet. A versenyben előbbre kerülhetnek, akik erre korábban és többet áldoznak, és időben átveszik a nemzetközi jó gyakorlatokat. Az indulás pillanatában azonban Magyarország nem áll sem előttük, sem mögöttük.

Kijelenthetjük, hogy ez a verseny már elindult?

Szerintem igen, és biztos, hogy egyelőre nem járunk élen benne. De mivel a világ technológiailag demokratikus lett, egy számítógéppel és egy jó szoftverrel bárki elő tud állítani valami világraszólót. Magyarországnak ezek a lehetőségek adottak, ilyen értelemben megállja a helyét. Hogy önmagában ettől MI-nagyhatalommá fejlődhetne? Nem hiszem, de képzéspolitikai eszközökkel sokat lehetne javítani a helyzeten. Én abban reménykedem, hogy a megfelelő helyen ülő emberek már gondolkodnak ezen.

Forrás: www.digitalhungary.hu