A HR csapatok egyre szélesebb körben alkalmaznak mesterséges intelligencia eszközöket a toborzástól kezdve a teljesítményértékelésen át a munkaerő-elemzésig. A gyors AI-bevezetés és az azt körülvevő irányítási rendszerek közötti szakadék azonban jelentős szervezeti kockázatot rejt magában. Raj Jones szakértő bevezeti az "algoritmikus befogadási adósság" fogalmát, amely nem csupán elmélet, hanem már számos szervezetben aktívan jelen lévő probléma.
Bár a szervezetek helyesen összpontosítanak az AI-hatékonyságnövelő képességeire - mint a gyorsabb jelöltszűrés, teljesítményelemzés vagy tehetségazonosítás -, ezek a rendszerek a már meglévő adatokból tanulnak. Ez magában foglalja a korábbi toborzási mintákat, teljesítményértékeléseket és a "potenciál" meghatározásának bevett módszereit, amelyek torzítottak lehetnek. Az AI nem csak feldolgozza ezeket az adatokat, hanem fel is skáláz azokat, és nem csak felgyorsítja a döntéseket, hanem a mintákat is.
Az algoritmikus befogadási adósság ritkán jelenik meg egyetlen döntésben, hanem idővel, mintázatokban alakul ki. Egy toborzó eszköz következetesen olyan jelölteket emelhet ki, akik a meglévő munkaerőt tükrözik. A teljesítményelemzések inkább azt mutathatják, hogyan értékelték korábban a vezetők az egyéneket, nem pedig következetes, szerepalapú kritériumok szerint. A munkaerő-elemzések olyan jelek alapján azonosíthatnak "nagy potenciálú" munkavállalókat, amelyek egyenetlenül oszlanak el a csoportok között.
Minden egyes kimenet önmagában ésszerűnek tűnhet, de idővel az eredmények eltérnek, és világos láthatóság nélkül a döntések alapja homályos marad. Ez nem technológiai hiba, hanem irányítási és emberierőforrás-kihívás, amelyet a szervezetek által idővel felépített rendszerek formálnak.
A szakértő szerint a megoldás nem az AI-használat visszafogása, hanem megfelelő irányítási keretek kialakítása. A szervezeteknek képesnek kell lenniük megmagyarázni, hogy az algoritmusaik hogyan jutnak el a döntésekhez, különösen olyan kritikus területeken, mint a toborzás és a teljesítményértékelés. Az ICO (Information Commissioner's Office) is felszólította a toborzókat, hogy vizsgálják felül az automatizált döntések használatát.