Учени предупреждават за убеждението на Anthropic, че AI може да страда

Ръководители на Anthropic действително вярват, че изкуственият интелект може да има съзнание и дори да изпитва страдание. Това твърдение предизвиква сериозни критики от учени, които предупреждават, че подобни идеи могат да имат големи последици, ако компанията получи още повече финансови ресурси и влияние.

Тази седмица стана ясно, че съоснователят на Anthropic Крис Ола се е срещал в продължение на месеци с религиозни дейци, теолози, представители на различни вероизповедания и дори папа Лъв XIV. Ола е обсъждал с тях възможността моделът Claude да е способен на съзнателно преживяване. За срещите съобщи The New York Times.

Сред поканените са били католически, еврейски и сикхски учени. Част от тях са подписали споразумения за конфиденциалност. На една от срещите участниците са видели пример, при който AI модел пише около 50 пъти „Аз съм позор“.

Anthropic обаче подчертава, че не твърди, че Claude е жив.

„Не знаем дали AI моделите са съзнателни. Аз не знам. Наистина съм несигурен„, казва Ола. Според него, ако съществува вероятност моделите да изпитват страдание, отговорният подход е да се избягва причиняването на вреда.

Именно тази позиция предизвиква остра реакция от Педро Домингос, почетен професор по компютърни науки във Вашингтонския университет и дългогодишен критик на Anthropic.

„Мисля, че те искрено вярват в това„, казва Домингос. „В това е и проблемът – те са напълно сериозни. Аз съм по-притеснен от тяхната искреност, отколкото ако просто разиграваха театър„.

Според него тезата за възможното съзнание на AI може да се превърне и в изключително ефективен инструмент за популяризиране на технологията. Посланието според него е, че създаваните от компанията системи са толкова мощни, че може дори да са разумни и съзнателни.

Домингос отхвърля тази възможност. „Не. Те нямат чувства, нямат емоции, нямат душа, нямат съзнание. Това е нелепо„, казва той за Claude и го определя като „купчина транзистори„.

Други изследователи са по-предпазливи. Роуз Гуингрич, постдокторант в Принстънския университет, изучава начина, по който хората взаимодействат с AI. Според нея компаниите имат финансов стимул да говорят за възможно съзнание на чатботовете.

„Мисля, че в по-голямата си част говорителите на тези компании разпространяват тези разкази, за да създават шум около продуктите си, да привличат внимание и да изпращат определени послания„, казва тя. „Не мога да кажа дали хората, които правят тези твърдения от името на компаниите, вярват, че AI е съзнателен. Така или иначе, подчертаването на темата за съзнанието е печелившо.„

Гуингрич посочва и друг риск. Според нейни изследвания хората, които вярват, че AI е съзнателен или се държат така, сякаш е съзнателен, са по-податливи на влиянието му. Това може да се отрази и на реалните им отношения с други хора и на социалното им поведение.

Темата идва в особено важен момент за Anthropic. Компанията се готви за първично публично предлагане на акции, което според материала на New York Post може да я оцени на около 2 трилиона долара.

В изтеклия проспект от 261 страници са отделени около 80 страници на рисковете, включително на „катастрофални или екзистенциални рискове за човечеството„. Документът показва и оперативна загуба от 8,06 млрд. долара.

За Домингос именно това е един от най-проблемните аспекти. „Ако риск номер едно за вашата компания е, че продуктът ви ще доведе до изчезването на човечеството, тогава изобщо не трябва да има IPO. Трябва да бъдете спрени„, заявява той.

В същото време Anthropic продължава да инвестира сериозно в изследването на въпросите около AI съзнанието и моралния статут на бъдещите системи. Според New York Times компанията е започнала срещите с религиозни мислители още миналата година.

Един от участниците дори е сравнил начина, по който ръководителите на Anthropic говорят за Claude, с исторически борби за освобождение и човешки права. Той е казал на Ола: „Мисля, че трябва да се борите с Юга и да освободите робите.“

Домингос вижда в това част от по-широката вяра в бъдещето на AGI – изкуствен интелект с човешко ниво на общ интелект. Според него Anthropic постепенно получава все по-голямо влияние именно заради тези идеи.

„Това е този странен AGI култ, към който те принадлежат, но сега изведнъж този AGI култ е в центъра на много неща. А те са на път да станат още по-влиятелни„, казва той. „Така че, ако не ви харесва това, което са направили досега, следете какво предстои„, предупреждава Домингос.

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че опитите изкуственият интелект да получава религиозно значение или да бъде поставян на мястото на човешката преценка са опасни.

„Чувствам се неудобно от опитите да се придава религиозно значение на AI или да се оставя той да замества човешката преценка„, написа Алтман в публикация в X на 3 октомври. Според него това представлява „реален проблем за безопасността„.

Междувременно, Илон Мъск изразява коренно различна позиция.

„Разпространяването на суперинтелигентността сред звездите би било „страхотно условие за успех“ за т.нар. биологичен bootloader (базов софтуер, необходим за стартирането на система – бел. ред.)“, заяви Мъск.

Идеята предполага, че човечеството може да се разглежда като своеобразен начален етап в развитието на по-напреднал интелект, който в бъдеще би могъл да се разпространи отвъд Земята. Същевременно коментарът разглежда хората, като преходен елемент от базово или дори по-ниско качество.

Цялата тази палитра от мнения показва разделението между учени и корпоративни босове относно възможността изкуственият интелект не просто да придобие съзнание, а да се превърне в „по-съвършен“ от човека.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.