Az Amerikai Orvosszövetség (AMA) nyomást gyakorol a Kongresszusra, hogy vezessenek be védőkorlátokat a mesterséges intelligencia alapú mentálhigiénés chatbotok használatára vonatkozóan. Az orvosok figyelmeztetnek, hogy a technológia gyors elterjedése messze megelőzi a megfelelő szabályozási és felügyeleti keretek kialakítását.
Az AMA szerint sürgős szükség van átláthatóságra, válságkezelési védelmi mechanizmusokra és egyértelűbb szabályokra, mivel a mentálhigiénés MI-chatbotok iránti kereslet folyamatosan növekszik. Ez a növekvő érdeklődés részben a hagyományos mentálhigiénés ellátásban tapasztalható tartós hiányosságoknak köszönhető.
A szervezet hangsúlyozza, hogy bár a technológia potenciálisan segíthet kezelni az ellátási rést, a jelenlegi helyzet számos kockázatot rejt magában. Az egyik fő aggodalom, hogy ezek a rendszerek gyakran nem rendelkeznek megfelelő biztonsági mechanizmusokkal válsághelyzetekben, amikor azonnali emberi beavatkozásra lenne szükség.
Az AMA konkrét szabályozási követelései közé tartozik:
- Az algoritmusok működésének átláthatóbbá tétele
- Beépített válságkezelési protokollok kidolgozása és implementálása
- Világos irányelvek meghatározása a chatbotok alkalmazási területeire és korlátaira vonatkozóan
- A betegbiztonság érdekében szigorúbb felügyeleti keretek kialakítása
A döntéshozók figyelmét felhívják arra, hogy bár a technológia ígéretes megoldást kínálhat a mentálhigiénés ellátás hozzáférhetőségének javítására, a gyors bevezetés nem mehet a betegbiztonság rovására. A szabályozás elmaradása jelentős kockázatokat hordozhat a sérülékeny betegpopuláció számára.
Az AMA álláspontja szerint a Kongresszusnak proaktívan kell fellépnie, mielőtt a technológia további elterjedése visszafordíthatatlan problémákhoz vezetne. A munkahelyi mentális egészség támogatásában egyre gyakrabban alkalmazott MI-eszközök szabályozása nemcsak egészségügyi, hanem munkahelyi biztonsági kérdés is.