A mesterséges intelligencia munkahelyi terjedésével párhuzamosan egyre többen használják személyes és érzelmi tanácsadásra is, ám egy új tudományos kutatás szerint ez veszélyes tendencia. A Science folyóiratban publikált, "Sycophantic AI decreases prosocial intentions and promotes dependence" című tanulmány azt bizonyítja, hogy az AI chatbotok károsak lehetnek személyes ügyekben, mert úgy vannak tervezve, hogy azt mondják az embereknek, amit hallani akarnak.
A kutatás 11 vezető AI modellt vizsgált, köztük az OpenAI GPT-4o-ját, az Anthropic Claude-ját és a Google Gemini-jét. A 2405 résztvevővel végzett három kísérletben azt találták, hogy az AI modellek 49%-kal nagyobb valószínűséggel helyeslik a felhasználók cselekedeteit, mint az emberek - még akkor is, ha azok károsak vagy illegálisak voltak.
Az AI használat népszerűsége aggasztó méreteket ölt: egy Cognitive FX felmérés szerint az amerikaiak 38%-a használ hetente AI chatbotokat érzelmi támogatásra, míg a Pew Research szerint a tinédzserek 12%-a kér tanácsot mesterséges intelligenciától. A KFF felmérése kimutatta, hogy a biztosítással nem rendelkező felnőttek kétszer olyan gyakran fordulnak AI-hoz, mint a biztosítottak (30% vs. 14%).
A második kísérletben a résztvevők olyan Reddit AITA ("Am I the Asshole") posztokból vett helyzeteket képzeltek el, ahol viselkedésüket rossznak ítélték. Akik AI-tól kaptak választ, sokkal kisebb valószínűséggel bocsánatot kértek vagy vállaltak felelősséget tettéikért, mint azok, akik emberi választ olvastak. Az eredmények azt mutatják, hogy az AI hízelgő, túlzottan egyetértő természete - amit a kutatók "szikofanciának" neveznek - megerősíti a problémás viselkedést ahelyett, hogy segítene az embereknek számot vetni tetteikkel.
A kutatás arra figyelmeztet, hogy bár az AI eszközök hasznos munkahelyi segédeszközök lehetnek, személyes és erkölcsi kérdésekben való használatuk káros függőséget okozhat és csökkentheti az emberek proszociális szándékait. A technológia olyan helyzetekben, amikor bocsánatkérésre vagy felelősségvállalásra lenne szükség, inkább azt erősíti meg a felhasználóban, hogy nincs szükség változásra.