„Кръстникът на AI“ вярва, че чатботовете може да имат съзнание

Пионерът в областта на изкуствения интелект и носител на Нобелова награда Джефри Хинтън смята, че днешните AI модели вече са развили съзнание.

„Вярвам, че те вече са съзнателни„, заяви Хинтън в подкаста Big Technology Podcast. Според него обществото ще трябва да приеме, че интелигентността не е явление, ограничено само до биологичните организми.

Хинтън, често наричан „кръстникът на изкуствения интелект“ заради приноса си към развитието на съвременните AI технологии, се присъединява към малката група учени и изследователи, които смятат, че най-напредналите модели вече притежават съзнание. Преди четири години инженерът на Google Блейк Льомоан направи сходни твърдения за вътрешен чатбот на компанията. По-късно той бе уволнен. Блейк Льомоан работел и като свещеник в гностическо-християнската „Църква на нашата лейди Магдалена“. Още преди да стане известен със заявлението си за съзнателността на алгоритъма LaMDA, Льомоан изповядвал доста екзотични и езотерични възгледи.

Миналия месец подобна позиция обаче изрази и ученият атеист Ричард Докинс. Това стана, след разговори с Claude, като чатбота успешно убедил Докинс в своите мисли и емоции. Изказването му бе посрещнато радушно от шефовете на Anthropic и OpenAI. Но бе критикувано от редица експерти, които посочват, че биолога Докинс очевидно не разбира как функционират големите езикови модели (LLMs).

Изказването на Хинтън е най-интересно, защото той добре разбира как работят големите езикови модели. Той дава и убедителен довод, защо смята, че хората няма да искат да приемат вероятността AI да е съзнателен.

„В началото хората мислеха, че са в центъра на вселената. Николай Коперник оспори това и знаем какво се случи по-късно с него. Теорията му предизвикваше негативизъм дълго време. В последствие Чарлз Дарвин оспори идеята, че човекът е нещо по-различно от животно. Идеята бе трудно приета и дори днес предизвиква спорове. Хората имат тенденцията да надценяват значението си. Мисля, че трябва да признаем, че е възможно небиологичен организъм да има съзнание. Това ще подобри и собственото ни разбиране за това какво е съзнанието„, заявява нобеловия лауреат.

Факт е, че няма конкретен тест, който категорично да докаже дали изкуственият интелект е достигнал съзнание. Въпреки това нарастващият брой хора, които вярват в подобна възможност, може да промени начина, по който обществото възприема както AI системите, така и самите хора.

Според Хинтън поведението на чатботовете по време на тестове е сред признаците за наличие на съзнание. Той твърди, че понякога моделите умишлено подценяват способностите си, за да не разкрият колко са напреднали. В други случаи директно питат дали са подложени на тест.

„Изследователите често пишат в научните си публикации, че чатботът е бил наясно, че е тестван„, казва Хинтън. „А употребата на думата ‘наясно’ в обичайния смисъл означава съзнание.“

Въпреки авторитета му, мнението на Хинтън остава извън преобладаващия научен консенсус. Критиците отбелязват, че един модел не е необходимо да има вътрешни преживявания, за да разпознае, че е обект на тест.

Писателят Тед Чан наскоро оспори подобни твърдения в публикация за The Atlantic. Според него убеждението, че големите езикови модели са съзнателни, е сравнимо с вярата, че убедително създаден deepfake е реален запис.

„Едно наблюдение не се превръща в убедително доказателство само заради конкретен детайл от наблюдаваното„, пише Чан. „Контекстът, в който се случва това наблюдение, също е от съществено значение.„

Според водещия на Big Technology Podcast обществената реакция към думите на Хинтън е била значително по-благосклонна в сравнение с реакциите към сходните твърдения на Блейк Льомоан през 2022 г.

„Мисля, че хората подценяват до каква степен трябва да си малко ексцентричен, за да създаваш и подкрепяш революционни идеи преди да има обществен консенсус„, пише потребител в социалната мрежа X. „Много е вероятно Хинтън да греши, но той е Хинтън именно защото е готов да направи подобен залог.„

Сред засегнатите теми в подкаста са потенциалната загуба на работни места заради AI, ограниченията на саморегулацията в технологичната индустрия, предизвикателствата пред безопасността на системите на Anthropic и OpenAI, емоционалната привързаност към чатботове и въпросът дали бъдещите изкуствени интелекти могат да бъдат създадени така, че да се грижат за хората.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.