A mesterséges intelligencia fejlődése lenyűgöző lehetőségeket hozott magával, ugyanakkor komoly társadalmi kockázatokat is rejt. Ennek ékes példája a norvég Arve Hjalmar Holmen esete, akiről egy nyelvi modell tévesen az állította, hogy megölte két gyermekét.
Holmen csupán arra volt kíváncsi, mit mond róla a mesterséges intelligencia, és megkérdezte a ChatGPT-t: „Who is Arve Hjalmar Holmen?”. A válasz pedig döbbenetes volt: a rendszer részletes, de teljesen kitalált történetet közölt, mely szerint Holmen meggyilkolta két gyermekét, és 21 éves börtönbüntetését tölti. Mindez teljesen valótlan.
Ez a jelenség, amit szaknyelven „hallucinációnak” neveznek, arra utal, amikor az MI olyan tartalmakat generál, amelyek ugyan meggyőzőek és néhol logikusnak tűnnek, de semmilyen valóságalapjuk nincs.
Erről beszélgetett Kovács-Nagy Áron Szabados Leventével, a Frankfurt School of Finance & Management docensével, valamint a Neuron Solutions vezető tanácsadójával.
A mesterséges intelligencia rendszereit eredetileg nem feltétlenül igazmondás céljával hozták létre, hanem azzal a szándékkal, hogy frappáns, nyelvileg meggyőző válaszokat adjanak.
Valójában olyan rendkívül tehetséges „nyelvi színészek”, akik mesterien alakítják a rájuk osztott szerepet – akkor is, ha annak semmi köze a valósághoz.
Ez óriási előny, amikor tényeken alapuló, alátámasztható információk feldolgozásáról van szó. De, amikor magára hagyjuk a rendszert, tényszerű ellenőrzés nélkül, akkor pusztán a nyelvi koherencia mentén gyárt frappáns, de téves tartalmat. Aki ezt naivan elfogadja, az tökéletesen dezinformálhatja magát.
Kihívások az MI fejlesztőinek
Közben az MI fejlesztőinek is komoly kihívás megfelelni annak az elvárásnak, hogy informatív, hasznos és felelős rendszereket hozzanak létre. Egyfelől senki sem szeretné, hogy minden kérdésre csak annyi legyen a válasz: „erre nem tudok válaszolni”. Ez rendkívül rossz felhasználói élményt adna. De ugyanennyire nem elfogadható az sem, hogy az MI rendszer tényszerűen hamis és sértő állításokat tegyen valakiről, még akkor is, ha azok nyelvileg értelmesnek tűnnek.
A szolgáltatók feladata tehát az, hogy egyensúlyozzanak: hol engedjék meg az MI rendszereknek a szabadabb működést, és hol szabjanak gátlásokat.
Felhasználóként pedig fontos, hogy fejlesszük a kritikai érzékünket, és tudatosan viszonyuljunk ezekhez a technológiákhoz.
Fennállhat az a veszély, hogy ezek a rendszerek valakit alaptalanul vádakkal illetnek, ezért kulcsfontosságú, hogy a felhasználók számára elérhető legyen valamiféle jogorvoslati lehetőség – akárcsak az újságírásban, ha téves adat jelenik meg.
A teljes beszélgetés ide kattintva tudjátok meghallgatni!
Ne maradjon le a mesterséges intelligencia legújabb megoldásairól!
Kérje blogértesítőnket, és legyen mindig naprakész korunk legfontosabb technológiájával kapcsolatban!
