Главният икономист на Anthropic: 33% шанс за изчезване на човечеството е оправдан риск
Anthropic назначи за свой главен икономист професора по икономика Чад Джоунс от Станфордския университет. Новината предизвика дискусии заради негова по-ранна научна публикация, в която анализира какво ниво на екзистенциален риск от изкуствения интелект би могло да бъде оправдано от потенциалните печалби и икономически ползи.
В изследването Джоунс разглежда хипотетичен сценарий, при който рискът от изчезване на човечеството е 1% годишно в продължение на 40 години. Според използвания от него икономически модел това води до приблизително 67% вероятност човечеството да оцелее.
Ученият заключава, че при тези допускания моделът определя като „оптимален“ избор сценарий с около една трета вероятност за изчезване на човечеството, ако срещу това съществува две трети шанс жизненият стандарт да нарасне многократно благодарение на развитието на изкуствения интелект.
Публикацията предизвиква критики, тъй като разглежда човешкото оцеляване през призмата на икономически модел. Част от коментарите в социалните мрежи поставят под въпрос дали подобни изчисления могат изобщо да бъдат използвани при оценка на екзистенциални рискове.
Anthropic е една от компаниите, които най-активно настояват за мерки за безопасно развитие на изкуствения интелект. Компанията често предупреждава за потенциалните рискове от все по-мощните AI системи и се позиционира като застъпник на по-строг контрол върху технологията.
Същевременно Anthropic неведнъж е била обект на критики заради противоречия между публичните си позиции и практическото използване на нейните модели. Сред обсъжданите случаи е предоставянето на AI технологии за анализ в отбранителния сектор, което предизвика обществен дебат относно границите на допустимото приложение на генеративния изкуствен интелект.
Назначаването на Чад Джоунс идва в момент, когато дискусиите за безопасността на AI и допустимите рискове около развитието на технологията стават все по-активни както в научните среди, така и сред водещите компании в сектора.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment