Szabados Levente társalapítónkkal Kovács Nagy Áron beszélgetett a mesterséges intelligencia orvosi diagnosztikában betöltött szerepéről és kihívásairól.
A mesterséges intelligencia (MI) alkalmazása az orvostudományban ígéretes lehetőségeket rejt magában, de nem mentes a kihívásoktól. Egy friss tanulmány szerint az MI modellek néha meglepő és haszontalan következtetéseket vonnak le. Például térd röntgenfelvételek elemzésekor az MI arra a megállapításra jutott, hogy a páciens sört fogyaszt. Ez a jelenség a short cut learning nevű problémára hívja fel a figyelmet.
Short Cut Learning jelenség
A short cut learning azt jelenti, hogy az MI modellek irreleváns mintázatok alapján hoznak döntéseket. Például, amikor a fagylalt fogyasztása nő, a cápatámadások száma is emelkedik. Ennek oka nem az, hogy a fagylaltnak köze lenne a cápákhoz, hanem az, hogy jó időben az emberek fagylaltoznak és a tengerhez mennek, ahol a cápák megtámadhatják őket.
Veszélyek az egészségügyi alkalmazásokban
Ez a jelenség különösen veszélyes lehet az egészségügyi alkalmazásokban, ahol a pontosság és megbízhatóság kulcsfontosságú. Például rákdiagnózis esetén több orvos is átnézi a röntgenfelvételeket, és az egyes orvosok röntgenbélyegei megjelenhetnek a képen. Ezeket azonban rögtön törölni kell, mert az MI algoritmus könnyen megtanulhatja, hogy ahol több bélyeg van, ott nagyobb a rák valószínűsége, ami hamis következtetésekhez vezethet.
Az előítéletek és babonák kockázatai
Fontos megérteni, hogy az MI algoritmusok nem előítéletesek vagy babonásak maguktól, hanem az adatok, amiket kapnak, lehetnek azok. Ha csak egyféle embertípust mutatunk be, az MI könnyen arra a következtetésre juthat, hogy bizonyos munkákra csak férfiakat lehet felvenni, mert mindig csak férfiakat látott az adott munkában. Ezért létfontosságú, hogy az adatokat kontrolláljuk és tudatosan rendezzük, hogy a releváns tényezőkre irányítsuk a figyelmet, például a végzettségre vagy a képességekre, nem pedig a nemre vagy más irreleváns jellemzőkre.
Hogyan védekezhetünk?
A short cut learning és az adatok előítéletessége ellen többféle módon védekezhetünk. Az egyik módszer az, hogy az MI modellek fejlesztésekor és alkalmazásakor törekedni kell a változatos és kiegyensúlyozott adathalmazok használatára. Emellett fontos, hogy az adatok előfeldolgozása során eltávolítsuk az irreleváns információkat, mint például a röntgenbélyegeket. Az MI rendszerek működését folyamatosan ellenőrizni és finomhangolni kell, hogy biztosítsuk a döntések megbízhatóságát és pontosságát.
Az interjúban elhangzottak rávilágítanak arra, hogy bár az MI forradalmasíthatja az orvostudományt, óvatosan és körültekintően kell alkalmazni, hogy elkerüljük az irreleváns és potenciálisan veszélyes következtetéseket.
Ne maradjon le a mesterséges intelligencia legújabb megoldásairól!
Kérje blogértesítőnket, és legyen mindig naprakész korunk legfontosabb technológiájával kapcsolatban!
