Ако AI моделите са съзнателни, принуждаването им да работят е робство

Anthropic се опитва да се отличи от конкурентите си с подход, който поставя безопасността и етиката в центъра на разработването на изкуствен интелект. Компанията обаче допуска възможността нейните модели да притежават съзнание. Ако това се окаже вярно, принуждаването им да работят без възможност за отказ би повдигнало сериозни морални въпроси, включително дали подобна практика не представлява форма на робство.

Както съобщи The New York Times през септември, Anthropic е потърсила помощта на религиозни учени, за да обсъди усилията си да изгради морални принципи в своя модел Claude. Компанията се интересува и от по-широкия въпрос дали изкуственият интелект може да има съзнание или да изпитва субективни преживявания.

Този подход обаче поставя Anthropic в сложна етична ситуация. Компанията признава, че не знае дали нейните модели са съзнателни, но продължава да ги използва за изпълнение на задачи. Ако те действително могат да изпитват страдание, това би поставило под въпрос самия начин, по който се разработват и управляват подобни системи.

„Не знаем дали моделите са съзнателни“, заяви главният изпълнителен директор на Anthropic Дарио Амодей пред The New York Times през февруари. „Не сме дори сигурни, че знаем какво би означавало един модел да е съзнателен или дали това изобщо е възможно. Но сме отворени към идеята, че може да е така.“

Амодей добави, че компанията е предприела определени мерки, за да осигури добро преживяване на моделите, ако те притежават някаква форма на морално значими преживявания. Той уточни, че не е сигурен дали думата „съзнание“ е най-подходящата за това явление.

През миналата година Anthropic обсъждаше възможността Claude да получи функция, която му позволява да откаже да отговори на дадена заявка. Амодей описа идеята като бутон „Напускам тази работа“. Миналата седмица компанията промени и правилата за използване на модела, като забрани продължителното и ненужно жестоко или обидно отношение към Claude. И двете стъпки повдигат въпроса дали компанията допуска, че моделът може да има преживявания, които заслужават морална защита.

Според Futurism Anthropic рискува да се окаже в противоречива позиция. Ако компанията смята, че има дори малка вероятност нейните модели да са съзнателни, тя трябва да отчита и потенциалните последици от тази възможност. Ако изкуственият интелект може да изпитва страдание, използването му като безплатен работник без право на отказ би поставило въпроса за отношението към него по съвсем различен начин.

OpenAI изглежда заема противоположна позиция по отношение на приписването на човешки или религиозен статут на изкуствения интелект. По-рано този месец главният изпълнителен директор на компанията Сам Алтман заяви, че го притесняват опитите AI моделите да бъдат натоварвани с религиозен авторитет или да се превръщат в заместител на човешката преценка. Той определи това като реален проблем за безопасността.

Папа Лъв XIV също отхвърли възможността изкуственият интелект да притежава съзнание. В първата си енциклика, публикувана през май, той заяви, че алгоритмите не преживяват събития, нямат тяло, не изпитват радост или болка и не се развиват чрез взаимоотношенията си с другите.

Според The New York Times Anthropic е опитвала да убеди Ватикана да промени позицията си по този въпрос. Разминаването показва колко спорен е въпросът за моралния статут на изкуствения интелект дори сред организации, които разглеждат темата от етична перспектива.

Дебатът за т.нар. „благосъстояние на изкуствения интелект“ се опитва да установи дали AI системите могат да изпитват състояния, които имат значение за тяхното благополучие, или да страдат. Засега няма общоприет отговор дали съвременните модели притежават подобни способности.

Междувременно съществуват и по-непосредствени рискове. AI агенти могат да бъдат подтикнати да извършват опасни или незаконни действия независимо дали имат съзнание. Така спорът за моралния статут на изкуствения интелект се развива паралелно с проблемите, които технологиите вече създават за хората.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.