A Claude Mythos AI modell fejlesztése nemzetközi pénzügyi válságtanácskozásokhoz vezetett, miután kiderült, hogy számos nagy operációs rendszerben képes sebezhetőségeket találni. A pénzügyminiszterek, központi bankárok és pénzügyi szakemberek aggodalmaikat fejezték ki, hogy az Anthropic által kifejlesztett mesterséges intelligencia modell alááshatja a pénzügyi rendszerek biztonságát.
François-Philippe Champagne kanadai pénzügyminiszter a BBC-nek nyilatkozva elmondta, hogy a Mythost részletesen megvitatták a washingtoni Nemzetközi Valutaalap (IMF) héten tartott ülésén. "Bizonyosan elég komoly ahhoz, hogy minden pénzügyminiszter figyelmét megkapja" - mondta. Hozzátette: "A különbség az, hogy a Hormuzi-szoros helyét és méretét ismerjük... az Anthropicnál azonban az a probléma, hogy ez egy ismeretlen ismeretlen. Ez sok figyelmet igényel, hogy biztosítékokat és folyamatokat helyezzünk el pénzügyi rendszereink ellenállóképességének garantálására."
A Mythos az Anthropic Claude rendszerének legújabb modellje, amely az OpenAI ChatGPT-jének és a Google Gemini-jének riválisa. A modellt a hónap elején mutatta be az Anthropic, amikor az AI modellek tesztelésével foglalkozó fejlesztők azt állították, hogy "feltűnően képes számítógépes biztonsági feladatokra". Ezek az úgynevezett "misaligned" feladatok, amelyek ellentmondanak az emberi értékeknek, céloknak és viselkedésnek.
Szakértők szerint a modell példátlan képességgel bírhat kibertámadási gyengeségek azonosítására és kihasználására, bár mások óvatosságra intenek, és további tesztelést szorgalmaznak a képességek megfelelő megértéséhez. Az Anthropic aggodalmait fejezte ki, hogy a rendszer régi szoftverhibákat tárhat fel, vagy könnyen kihasználható rendszersebezhetőségeket találhat.