Sokan bíznak a mesterséges intelligenciában, de érdemes figyelni a buktatókra!

Az elmúlt hónapokban-években egyre elterjedtebb lett a mesterséges intelligenciával ellátott eszközök használata és a felfutásnak még messze nincs vége. A legtöbb vállalatvezető jelenleg is az AI-megoldásokban látja a jövőt, azonban érdemes figyelmet fordítani a megbízhatóságra is

– emeli ki Dr. Barta Gergő a Deloitte vezető Mesterséges Intelligencia szakértője.

Sokáig komoly újítónak számítottak azok a cégek, melyek mesterséges intelligenciát használnak, mára azonban a nyilvánosság előtt is elérhetővé váltak a különböző technológiák.Aki még nem vezetett be ilyen megoldást, az is gondolkodik azon, hol tudnák megkönnyíteni az új AI-vezérelt eszközök a munkáját, és nyitott annak alkalmazására.

Ahogy haladunk előre az időben, úgy egyre több szempontnak kell megfelelni a mesterséges intelligencia-rendszereknek ahhoz, hogy megbízzunk bennük

– emelte ki Rusznyák András, a Deloitte Data és AI csapatának vezetője.

Szerinte egy egyszerű modell esetében ma a két legfontosabb szempont a kiszámíthatóság és az átláthatóság, tehát a felhasználók egyrészt szeretnék tudni, hogy melyek a rendszer korlátai, és azokon belül egyébként kiszámíthatóan és következetesen viselkedik-e. Ha nem csak egy modellt vizsgálunk, hanem egy teljes rendszert, akkor bejön a képbe a biztonság és a hozzáférhetőség is.

Szerintem a mesterséges intelligencia használata közben az egyik legnagyobb nehézséget a tesztelhetőség jelenti

– mondta Schin Lotár, az OTP Mesterséges Intelligencia Kompetencia
Központjának vezetője.

Szerinte nem a megbízhatóságot kell maximálni, inkább az elvárásokat kell a realitások talajára hozni.

Tehát, ha tudom, hogy egy rendszer nem száz százalékosan megbízható, akkor ne hozzam olyan helyzetbe, ahol százszázalékos megbízhatóság az elvárás

– emelte ki.

Adatminőségmindenek felett

Rusznyák András szerint a mesterséges intelligenciát használó rendszerek legnagyobb kihívása az adatminőség biztosítása, ezekből az adatokból lehet ugyanis tanítani a rendszereket. Ezektől függ az, hogy mennyire lesz pontos, és mennyire lesz elfogult, alapvetően ezeken az adatokon keresztül tudjuk ezt befolyásolni a végső modellnél, hogy mennyire jól teljesíti a megbízhatósági feltételeket. A Deloitte szakembere szerint gyakran futnak bele abba, hogy nem elég tiszták vagy hiányosak az adatok, ezért először azokat kell rendbe tenni, mielőtt modellt kezdenének építeni.

Mi egy erősen szabályozott környezetben működünk, a megbízhatóságnak van egy ilyen olyan aspektusa is, hogy az ügyfelek megbíznak-e benne, hogy nem használjuk fel úgy az adataikat például, hogy nem járultak hozzá

– tette hozzá Schin Lotár.

Amikor nekiállunk a fejlesztésnek, vagy akár modellválasztásnak, akkor nagyon tudatosnak kell lennünk az elején. Látjuk például, hogy az általános GPT modellek nem annyira vannak kihegyezve a magyar nyelvre

-hangsúlyozta Rusznyák András. 

A nemrég megjelent magyar mesterséges intelligencia körképben is az etikai kockázatok voltak az egyik legnagyobb olyan terület, ahol a szervezetek azt vallották, hogy kevésbé vannak a felmerült kockázatokra felkészülve.

Ha a megbízható mesterséges intelligenciáról beszélgetünk, az elszámoltathatóság és a felelősségvállalás kérdése is gyakran megjelenik. A Deloitte szakembere szerint ebben a tekintetben nagyon nagy szerepe lesz a szabályozói környezetnek, amely kötelezővé teszi, hogy minden egyes modell tulajdonosa felel a döntéseiért.Minél előrébb haladunk az automatizálási skálán, minél nagyobb autonómiát adunk ezeknek a modelleknek, annál inkább szükség lesz arra, hogy automatikusan hoznak döntéseket, ennek ellenére maradjon egy ember a háttérben, aki felelősséget is vállal ezekért a döntésekért– tette hozzá.

Amit ma várhatunk a mesterséges intelligenciától

Jelenleg nagy különbségek vannak a cégek elvárásai között. Ahol még nem használnak mesterséges intelligenciát vagy nem jutott el a szervezet széles rétegéhez, ott sokaknál a tapasztalatból kiindulva eleve alacsonyak az elvárások. Vannak ezzel szemben olyanok, akik csak a hírekből tájékozódnak, és egészen irreális elvárásokkal keresik meg a szakembereket, melyeket aztán vissza kell vinni a realitások talajára

– mondja Rusznyák András.

Éppen ezért szerinte fontos az emberek oktatása, hogy megmutassák nekik, mi ma a mesterséges intelligencia, milyen problémákra tud választ adni és milyen elvárások reálisak vele szemben.

Az AI-megoldások használatával kapcsolatban még az őszinteséget emelte ki Schin Lotár. Szerinte nem szabad elbagatellizálni a probléma komplexitását, sokan úgy beszélnek erről a területről, hogy csak fognak egy modellt, és az működik, de ez nem így van. Tapasztalatai szerint a komplexitás egyre növekszik, egyre nagyobb kihívás egy megbízható, jó rendszert lefejleszteni és élesíteni.

A szakemberek szerint egy új mesterséges intelligencia-rendszer bevezetésekor fontos, hogy az ne kényszer legyen, érdemes többször alaposan végiggondolni, hogy az adott szervezeten belül milyen területeken, milyen feladatokra lehet használni a modern technológiát.

A témával bővebben foglalkozik a Deloitte RISK? RESPOND! podcastjának
legfrissebb epizódja.