Нова опасност: AI може да замени човешкия процес на търсене на истина
Все повече умни хора прекарват часове в разговори с големи езикови модели, които могат да звучат убедително, но не винаги предоставят проверима истина, пише в новото си есе професор Антъни Агире. Той е теоретичен космолог в Калифорнийския университет, Санта Круз. Ученият отправя предупреждение за нарастващата зависимост от изкуствения интелект при вземането на решения и формирането на знания.
Според него съвременните AI системи като Claude, GPT и Gemini не представляват достъп до „човечеството като цяло„, а до обобщен модел от данни и вероятности. Той описва тези системи като „Pluribus“ – единен глас, съставен от много източници, който обаче губи индивидуалния контекст на знанието.
„Когато говорите с Claude или GPT, не говорите с всеобщия интелектуален капацитет на човечеството, а с един вид Pluribus„, посочва той.
Основният проблем според него е, че тези модели не са проектирани да търсят истина, а да генерират най-вероятните и най-убедителни формулировки. Това ги прави силни в създаването на текст, който звучи вярно, но не гарантира, че е проверен или точен.
„По своята същност настоящите AI системи са енджини, които създават високо вероятни твърдения. Но тази вероятност не е за истина, а за това какво би било казано„, се казва в анализа.
Авторът отбелязва, че и хората често грешат при оценка на истината, но обществото е изградило институции като науката, които колективно проверяват фактите. За разлика от това, AI системите дават бързи и уверени отговори, които могат да създадат илюзия за сигурност.
„Хората също не са добри машини за определяне на истината. Но сме създали колективни институции като науката, които са предназначени именно за това„, посочва той.
Един проблем се изследва дълго време и обикновено винаги подлежи на допълнителни проверки. За разлика от това мнозина подхождат към формулировките на AI чатботовете безкритично и почти като към оракул от древността.
Според него един от рисковете е прекомерното доверие към няколко големи AI системи, които могат да се превърнат в основен източник на „истина“ за милиони хора. Това би могло да измести по-бавните, но по-надеждни процеси на научна проверка и обществен дебат.
Антъни Агире предупреждава, че подобрение на AI системите не означава автоматично по-висока точност. По думите му дори „по-добри“ модели могат да станат още по-убедителни, без непременно да бъдат по-истинни.
В анализа се подчертава, че истината не е чисто технически въпрос, а социален и цивилизационен процес. Между обективното и субективното съществува широк спектър от интерпретации, които не могат да бъдат сведени до един алгоритъм.
Авторът настоява, че обществото трябва да запази плуралистичния модел на проверка на знанията. Като пример се посочват системи за колективна проверка на информация и алгоритми, които подпомагат, но не заменят човешката преценка.
В заключение се отбелязва, че няма лесни решения на факта, че вече съществуват лесни отговори на трудни въпроси, особено когато тези отговори идват от системи, които звучат убедително, но не винаги са надеждни.
„Между другото, наистина се надявам, че тези умни изследователи, които говорят по цял ден с Claude, ще обмислят възможността, че по някои дълбоки въпроси, като например дали алгоритъмът има съзнание, обмислят и вероятността зад отговорите да стои определен „дневен ред„, подчертава Агире.
„Ако всички вярваха на това, което им казват чатботовете им, тогава за повечето това би било подобрение в разбирането им за света и почти сигурно ще е по-добро, отколкото ако вярват на всичко, което четат в социалните медии. Ако обаче всички наши философи, учени, изследователи, репортери и лидери вярват на всичко, което им казват чатботовете им, тогава резултатът ще е отрицателен„, завършва ученият.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment