Anthropic иска държавата да спира AI модели само при риск за поне 50 човешки живота
Anthropic води непублични разговори с американски законодатели за закон, който да позволи на федералното правителство да спира пускането на AI модели, ако те представляват непосредствена заплаха. Предложението обаче поставя висок праг за намеса. Системата трябва да създава риск от тежки наранявания или смърт на най-малко 50 души, или от материални щети за над 1 милиард долара, за да бъде определена като заплаха.
Информацията е на Politico, което се позовава на трима души, запознати с обсъжданията. Според тях Anthropic иска законодателството да предвижда само три основания за подобна намеса – възможност моделът да допринесе за създаването или използването на биологично оръжие, да предизвика катастрофална кибератака или да излезе извън контрола на компанията, която го разработва.
Предвидената процедура включва няколко етапа. Независим наблюдател под надзора на Министерството на търговията на САЩ ще оценява рисковете. Ако установи, че даден модел може да доведе до някоя от посочените заплахи, той ще разполага със 72 часа, за да уведоми ведомството. След това правителствените служители ще решат дали да представят доказателствата пред федерален съдия. Именно съдията ще има последната дума дали моделът може да бъде пуснат публично.
Сложната процедура и високите прагове за намеса биха ограничили възможността на държавата да блокира AI системи. Според критичния прочит на Futurism това би оставило значителна свобода на действие на самите технологични компании, въпреки че механизмът формално предвижда държавен контрол.
Представител на Anthropic е потвърдил пред Politico, че законопроектът отразява предложенията в рамката на компанията за безопасност на усъвършенствания изкуствен интелект. Тя е представяна пред федерални и щатски законодатели от юни насам.
„Това са разумни политики, за които смятаме, че Конгресът трябва да предприеме действия„, заяви говорителят на компанията.
Разговорите се провеждат на фона на засилващото се политическо влияние на AI индустрията в САЩ. Според Futurism водещи компании като Anthropic и OpenAI са вложили десетки милиони долари в политически организации преди междинните избори. Цитираните от изданието данни показват, че разходите за такива инициативи са достигнали най-малко 55,7 милиона долара.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment