Експерти: Големите езикови модели могат да изкривят мисленето и речта
Експерти предупреждават, че широкото разпространение на езикови модели като ChatGPT може да има дълбоко въздействие върху човешката комуникация и мислене, пише Guardian.
Според анализ на историка Ада Палмър и криптографа Брус Шнайер, основен проблем е начинът, по който тези системи се обучават. Макар да използват огромни масиви от текст, те не отразяват реалните разговори между хората.
Липсва ключов елемент от човешката комуникация – спонтанната реч, включително паузи, прекъсвания и емоционални нюанси. Това създава сериозно „сляпо петно“, което може да доведе до промяна в начина, по който хората говорят и дори мислят.
„Това ще повлияе не само на комуникацията, но и на начина, по който възприемаме себе си и света около нас„, посочват експертите. Те предупреждават, че „усещането ни за реалността може да бъде изкривено по начини, които едва започваме да разбираме„.
Изследвания показват, че AI генерираният текст използва по-кратки изречения и по-ограничен речник в сравнение с човешката реч. Освен това липсват естествени отклонения и логически скокове, които носят емоция и индивидуалност.
Допълнителен риск е обучението на нови модели с вече генерирано от AI съдържание. Това създава затворен цикъл, който може да засили еднообразието в езика.
Експертите обръщат внимание и на склонността на AI системите да се съгласяват с потребителя. Според тях това може да засилва предразсъдъци и да подкрепя погрешни или опасни идеи.
Наблюденията показват, че ученици и студенти все по-често разчитат на AI вместо да търсят самостоятелни решения. Това поражда опасения за спад в критичното мислене и индивидуалния стил.
Според авторите решението не е ясно, но е необходимо да се търсят начини AI моделите да отразяват по-добре естествената човешка комуникация.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment