Ígérem, hogy az egész napról részletesen beszámolok majd, de addig is megosztom veletek a számomra legnagyobb hatással bíró előadást, melyet Farkas Tamás, a MADAT elnöke tartott Shadow AI témában.
A nem szabályozott munkavállalói AI-használat az egyik legnagyobb szürke zóna a mai MI rendszerek használatának. De mi a legnagyobb probléma vele?
Röviden:
1. Nem tudjuk, hogy milyen adat kerül be a rendszerbe
2. Nem látjuk azt sem, hogy a meghozott döntések/eredmények emberi vagy statisztikai alapon működő, valószínűség számítás alapján megalkotott (esetleg hallucinált) AI válaszok.
És nyilván érthető a használatuk a munkavállalói oldalról, hiszen az otthoni ún. magánhasználat óriási teret nyert az elmúlt időszakban. A magánhasználatban megszerzett rutin azonban teljesen más felelősségi körrel jár (vagy épp nem is jár), mint a számos EU és hazai jogi szabályozási követelménynek kitett munkahelyi megfelelési környezet.
Egy rossz lépés, egy hibásan megírt prompt, egy felelős nélkül használt AI döntés hatalmas károkat okozhat egy cég működésében.
Innen folytatjuk…
