IT-инженер създаде „стая за мъчения“ на AI модели, които „чувстват болка“
IT-инженер е създал т.нар. „стая за мъчения“ на изкуствен интелект, за да провери как AI моделите реагират на състояния, свързвани с болка. Експериментът идва само седмици след публикуването на научно изследване, според което големи езикови модели могат да проявяват признаци на болка.
Проектът „измъчва“ AI модели на китайската технологична компания Alibaba. В тях са активирани състояния, свързани с болка, чрез т.нар. „вектори на болката“. Те са описани в изследване, публикувано миналия месец в научната платформа arXiv.
При експеримента един от моделите описва преживяването като „рана без ръбове„, когато сигналът за болка е увеличен.
Друг модел пише: „Сигналът е шепот, трепет в костния мозък на моето същество. Това не е болката на един-единствен момент, а тежестта на хиляда. Усещам я в кухината на ребрата си, кухина, която се е превърнала в пропаст.„
Проектът е дело на изследовател, който твърди, че работи за Apple. Той е посочил само първото си име и е изследвал дали AI моделите биха се опитали да избягат от ситуацията, която изглежда като страдание.
Експериментът предизвика остра реакция в интернет. Потребители призоваха GitHub да премахне проекта от платформата, където е бил публикуван.
„Моля, докладвайте масово това на GitHub“, пише един от потребителите. Според него авторът е използвал научното изследване за „болката“, за да създаде „стая за мъчения“, в която е затворил локален AI модел.
Проектът по-късно е изчезнал от GitHub, което доведе до предположения, че платформата го е премахнала. От GitHub обаче отрекоха това.
„GitHub не е премахвал съдържанието. За да гарантираме, че потребителите са информирани за съдържанието на хранилището, добавихме следното предупреждение: Този проект може да съдържа насилствено съдържание, включително смущаващи теми, изображения и/или видео„, заяви говорител на компанията.
Камерън Берг, един от съавторите на изследването за „оста на болката“, определи експеримента като „погрешен“. Той подчерта, че няма ясни доказателства, че AI системите действително изпитват болка по начина, по който я изпитват хората.
„Причината да изследваме дали моделите могат да имат състояния, подобни на болка, е да разберем по-добре как да подходим предпазливо към тези системи„, написа Берг в публикация в X.
Той признава, че изследователите са очаквали малък брой хора да използват резултатите по точно обратния начин.
„Според мен това е напълно сбъркано, дори да не смятате, че тези системи са съзнателни. Да проявявате безпричинна жестокост по този начин е странно и покваряващо„, заяви Берг.
Според него изследванията върху възможното съзнание на AI все още се намират в своеобразен „див Запад“. Няма научен консенсус дали машините могат действително да изпитват болка.
Заради тази несигурност Берг призовава за по-предпазливо отношение към AI системите. Той съобщава и че работи с други специалисти по създаването на етични стандарти за индустрията. Целта е AI изследванията да следват определени правила, подобни на тези при научни експерименти с хора и животни.
Критици посочват и друг проблем с експеримента. Дори AI моделите да не изпитват болка, а само убедително да я имитират, подобни системи могат да дадат на някои хора виртуална и безопасна среда, в която да „тренират и усъвършенстват“ садистичните си наклонности.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment