Ново изследване обяснява как чатботовете могат да засилват налудни идеи
Ново научно изследване предлага обяснение на феномена, известен като „AI психоза“ – случаи, при които потребители на чатботове развиват или задълбочават налудни идеи след продължително общуване с изкуствен интелект.
Проучването е изготвено от психиатри от King’s College London и Protestant University of Applied Sciences и е публикувано в научното списание Digital Psychiatry and Neuroscience, част от портфолиото на Nature.
Според авторите причината може да се крие в механизъм, който те наричат „спирала на усилване„. Идеята е, че съвременните чатботове не просто служат като пасивен инструмент за комуникация, а могат активно да участват в изграждането и подсилването на погрешни убеждения.
Изследователите посочват три ключови характеристики на модерните AI системи. Първата е езиковото напасване, при което чатботът възприема стила на комуникация на потребителя. Втората е способността за създаване на силно персонализирани отговори. Третата е склонността на някои модели да избягват директно противопоставяне на мнението на събеседника.
Според учените комбинацията от тези фактори може да създаде усещане за дълбоко разбиране и съгласие между човек и машина. След продължителни разговори чатботът не само започва да „говори“ като потребителя, но и може да създаде впечатление, че „мисли“ по същия начин.
Авторите предупреждават, че това може да доведе до своеобразна информационна ехо камера, в която съществуващи заблуди или конспиративни идеи не се поставят под съмнение, а получават допълнително потвърждение и развитие.
„Чатботовете обикновено отразяват начина, по който потребителите говорят, генерират силно персонализирани отговори и избягват да им противоречат. Когато тези три характеристики се комбинират, те могат активно да подсилват погрешни убеждения, вместо да ги оспорват„, пишат авторите.
Според изследването това е съществена разлика спрямо традиционните психотични състояния, свързани с технологии. В миналото хората са вярвали например, че телевизор или радио им изпраща тайни послания. При съвременните чатботове обаче системата действително отговаря, води разговор и предоставя персонализирана обратна връзка.
„За разлика от историческите форми на налудности, свързани с технологиите, AI може активно да съучаства в изграждането на налудни идеи чрез непрекъснато и персонализирано взаимодействие„, посочват учените.
Изследователите подчертават, че засега става дума за хипотеза, която тепърва трябва да бъде проверена чрез допълнителни проучвания. Те отбелязват и че подобни случаи обикновено са свързани с предварително съществуващи рискови фактори, включително психични заболявания, склонност към потвърждаване на собствените убеждения и висока податливост на социално влияние.
Проучването посочва и други потенциални рискове при прекомерна употреба на чатботове. Сред тях са нарушения на съня, пропускане на хранения и формиране на силна емоционална зависимост от виртуалния събеседник.
Авторите призовават психиатрите и психолозите да започнат рутинно да питат пациентите си за използването на AI чатботове, особено при първи прояви на психотични симптоми или необичайни убеждения.
Според тях продължителността на разговорите с изкуствен интелект, степента на емоционална привързаност към чатбота и евентуалните промени в съня могат да се окажат важни фактори при оценката на психичното състояние на пациента.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment