Az Amerikai Orvosi Szövetség (AMA) arra szólította fel az amerikai Kongresszust, hogy hozzon létre erősebb biztosítékokat a mesterséges intelligencia egészségügyi felhasználására vonatkozóan. A szervezet figyelmeztetése szerint a mentális egészségügyi chatbotok gyors elterjedése messze megelőzi azokat a védintézkedéseket, amelyek a betegek biztonságának megőrzéséhez szükségesek lennének.
Az AMA levelet küldött a Kongresszus mesterséges intelligenciával és digitális egészségüggyel foglalkozó bizottságaihoz, amelyben részletesen kifejtette aggodalmait az AI-alapú mentálhigiénés eszközökkel kapcsolatban. A szövetség hangsúlyozza, hogy bár ezek az alkalmazások ígéretes lehetőségeket kínálnak a mentális egészségügyi ellátás bővítésére, sürgős szükség van szabályozási keretek kialakítására.
A sürgősség oka, hogy egyre több beteg fordul AI-vezérelt chatbotokhoz mentális egészségügyi problémák kezelésére, miközben hiányoznak a világos klinikai szabványok, adatvédelmi garanciák és felelősségi keretek. Az AMA szerint a gyors technológiai fejlődés és a kereskedelmi bevezetés sebessége veszélyezteti a betegek biztonságát.
A szövetség konkrét intézkedéseket javasol a Kongresszusnak:
- Szigorúbb szabályozási követelmények bevezetése az AI-alapú egészségügyi eszközökre
- Egyértelmű felelősségi és elszámoltathatósági keretek létrehozása
- Adatvédelmi és biztonsági előírások megerősítése
- Klinikai validálási követelmények meghatározása a mentálhigiénés AI-eszközök számára
Az AMA álláspontja szerint a technológiai innováció támogatása mellett alapvető fontosságú, hogy a betegbiztonság ne kerüljön veszélybe a szabályozás hiánya miatt. A szövetség kiemeli, hogy a mentális egészségügyi ellátás különösen érzékeny terület, ahol a nem megfelelő vagy rosszul működő AI-eszközök súlyos következményekkel járhatnak.
A kezdeményezés részét képezi az egészségügyi szakma szélesebb körű erőfeszítéseinek, amelyek célja, hogy a mesterséges intelligencia bevezetése az egészségügyben felelősségteljesen és biztonságosan történjen, miközben megőrzi az orvos-beteg kapcsolat integritását és a klinikai döntéshozatal minőségét.