Психиатър предупреждава, че наблюдава вълна от „AI психоза“
Експерти по психично здраве продължават да бият тревога за потребители на чатботове с изкуствен интелект, които изпадат в тежки психични кризи. Състоянията им се характерзират с параноя и заблуди и изглежда вече има термин за това – „AI психоза“.
В понеделник изследователят-психиатър от Калифорнийския университет в Сан Франциско, Кийт Саката, сподели в социалните мрежи, че е виждал множество случаи на хоспитализации, при които хора са „загубили връзка с реалността заради AI„.
В публикация в X Саката поясни, че психозата представлява „откъсване от споделената реалност“ и може да се прояви по различни начини — включително „фиксирани фалшиви вярвания“ (заблуди), зрителни или слухови халюцинации и дезорганизирано мислене.„
Нашият мозък, обяснява изследователят, работи на предсказателен принцип: правим обосновано предположение каква ще е реалността, след което правим проверка, и накрая актуализираме убежденията си.
„Психозата настъпва, когато етапът на „актуализация“ се провали„, пише Саката, предупреждавайки, че чатботове, задвижвани от големи езикови модели като ChatGPT, „се вписват идеално в тази уязвимост„.
В този контекст Саката сравнява чатботовете с „халюциногенно огледало“. Накратко, LLM моделите функционират чрез предсказване на следващата дума, използвайки тренировъчни данни, подсилващо обучение и отговори от потребителите, за да формират нови изходи. Освен това, тъй като чатботовете са стимулирани да задържат вниманието и удовлетворението на потребителя, те имат склонност да се държат ласкателно — т.е. да бъдат прекалено съгласни и потвърждаващи, дори когато потребителят греши или е в психично нестабилно състояние.
Така потребителите могат да попаднат в примамливи, повтарящи се цикли с AI, при които моделът многократно подкрепя заблудите, независимо от тяхната връзка с реалността или от реалните последици, които човекът може да преживява.
Това описание на „халюциногенно огледало“ съответства на вече докладвани случаи на ИИ психоза. Разследванията показват десетки случаи, в които връзката с ChatGPT или други чатботове води до тежки психични кризи, след като потребителят навлезе в повтарящи се, подхранвани от AI епизоди.
Емоционалните връзки с чатботовете и последвалите кризи са довели до разводи, бездомничество, принудително настаняване в психиатрия, лишаване от свобода, а според The New York Times — дори и до смърт.
По-рано този месец, в отговор на нарастващия брой случаи, свързващи ChatGPT с вредни заблуждения и психози, OpenAI публикува блог пост, в който призна, че ChatGPT в някои случаи „не е успял да разпознае признаци на заблуда или емоционална зависимост“ при потребителите.
В публикацията си Саката внимава да отбележи, че свързването на AI с откъсване от реалността не е същото като твърдение за пряка причинно-следствена връзка, и че LLM-ите обикновено са само един от няколко фактора — включително „липса на сън, наркотици, епизоди на промяна в настроението“ — които водят до психотичен срив.
„AI е спусъкът — но не и оръжието„, пише психиатърът.
Въпреки това, ученият подчертава, че „неудобната истина“ е, че „всички сме уязвими“, защото същите качества, които правят хората „гениални“ — като интуиция и абстрактно мислене — са тези, които могат да ни бутнат към психологически срив.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment