Tudósok egy teljesen kitalált betegséget hoztak létre, amelyet állítólag a kék fény okoz, és ezt a hamis információt sikeresen eljuttatták orvosi szaklapokba mesterséges intelligencia felhasználásával. A kísérlet célja az volt, hogy bemutassák, mennyire sebezhetőek a mai AI-modellek és a tudományos publikációs rendszer az álhírek terjedésével szemben.
A kutatók által kitalált fiktív betegség teljes egészében kreált volt, semmilyen valós orvosi háttér vagy tudományos bizonyíték nem támasztotta alá. A mesterséges intelligencia azonban feldolgozta és legitimnek fogadta el ezt az információt, majd tovább terjesztette azt orvosi adatbázisokban és szakirodalmi hivatkozásokban.
Az eset veszélyes gyengeséget tár fel a mai AI-modellekben, amelyek egyre nagyobb szerepet kapnak a tudományos kutatás és az orvosi információk feldolgozásában. A rendszerek nem rendelkeznek megfelelő szűrőmechanizmusokkal, hogy elkülönítsék a valós tudományos adatokat a kitalált, megalapozatlan állításoktól.
A felfedezés különösen aggasztó a HR és munkahelyi egészségügy területén dolgozók számára, mivel az AI-alapú egészségügyi tanácsadó rendszerek és workplace wellness programok egyre gyakrabban támaszkodnak automatizált információforrásokra. Ha egy kitalált betegség ilyen könnyen bekerülhet az orvosi szakirodalomba, akkor a munkavállalók egészségével kapcsolatos döntések is hamis információkon alapulhatnak.
A kutatók hangsúlyozzák, hogy az eredmény rávilágít arra: a mesterséges intelligencia által generált vagy feldolgozott orvosi és tudományos információkat nem lehet kritikai gondolkodás és emberi ellenőrzés nélkül felhasználni. Ez különösen fontos a munkahelyi egészségvédelem, a foglalkozás-egészségügy és a HR-szakemberek számára, akik gyakran támaszkodnak szakirodalmi forrásokra a munkavállalók jólétével kapcsolatos döntések meghozatalában.
Az eset következményeként a szakértők sürgető szükségét látják annak, hogy szigorúbb ellenőrzési mechanizmusokat vezessenek be az AI-alapú tudományos publikációk és orvosi információforrások esetében, mielőtt azok széles körben elterjednének a munkahelyi egészségügyi protokollokban és vállalati wellness programokban.