Az Anthropic vezető mesterséges intelligencia céget új AI modellje, a Claude Mythos váltott ki jelentős vitákat a technológiai szektorban. A vállalat szakértői azt állítják, a rendszer felülmúlja az embereket bizonyos hackelési és kiberbiztonságos feladatokban, ami aggodalmakat keltett szabályozók, törvényhozók és pénzügyi intézmények körében a digitális szolgáltatásokat fenyegető veszélyekkel kapcsolatban.
A Mythos Preview néven áprilisban bemutatott modellt az ún. "vörös csapat" (red-team) kutatók tesztelték, akik azt vizsgálják, hogyan reagálnak az AI modellek különböző kérésekre. Jelentésükben megállapították, hogy a Mythos "feltűnően képes" számítógépes biztonsági feladatok elvégzésére. Az eszköz képes volt évtizedek óta rejtve maradt hibák felkutatására régi kódokban, és könnyedén kihasználta ezeket a sérülékenységeket.
A potenciális veszélyek miatt az Anthropic nem bocsátotta széles körben a felhasználók rendelkezésére a Mythoszt. Ehelyett elindította a Project Glasswing kezdeményezést, amelyet "a világ legkritikusabb szoftvereinek védelmére" tervezett. A programban 12 technológiai óriás kapott hozzáférést a modellhez:
- Amazon Web Services (felhőszámítástechnika)
- Apple, Microsoft és Google (eszközgyártók)
- Nvidia és Broadcom (chipgyártók)
- Crowdstrike (amely 2024 júliusában egy hibás szoftverfrissítéssel nagyobb globális kimaradást okozott)
Az Anthropic közlése szerint összesen több mint 40 szervezetnek biztosított hozzáférést a Mythoshoz. A vállalat célja, hogy ezek a partnerek a saját rendszereik megerősítésére használják az eszközt, mielőtt az szélesebb körben elérhetővé válna.
Kritikusok ugyanakkor rámutatnak, hogy az Anthropic saját érdeke a képességek túlhangsúlyozása, így – mint általában az AI területén – nehéz megkülönböztetni a valós fejlesztéseket a marketinghype-tól. A Mythos a Claude AI rendszer része, amely az OpenAI ChatGPT-jével és a Google Gemini-jével versenyez a mesterséges intelligencia asszisztensek piacán.