Обвиниха Alibaba в мащабни атаки срещу AI модела Claude
Американската компания Anthropic обвини китайската технологична и търговска корпорация Alibaba в „нагло“ и „незаконно“ извличане на възможности от нейния изкуствен интелект модел Claude, съобщава Би Би Си.
Според писмо, изпратено до двама членове на Конгреса на САЩ, свързани с Alibaba оператори са провели близо 29 милиона взаимодействия с Claude чрез хиляди фалшиви профили. Anthropic определя случая като най-голямата подобна операция до момента.
Компанията призова Конгреса на САЩ да въведе по-строги наказания срещу подобни практики и да засили мерките срещу кражба на технологични разработки.
От Anthropic заявяват, че писмото е от 10 юни и е адресирано до американските сенатори Тим Скот и Елизабет Уорън. В него се твърди, че Alibaba е извършила „най-голямата кампания за незаконно извличане на възможностите на Claude„.
Според компанията атаката е извършена чрез т.нар. „дистилационни атаки“, при които от по-мощен AI модел се извличат отговори, използвани за обучение на по-слаб модел.
Anthropic твърди, че целта е била да бъдат копирани най-ценните способности на Claude, включително работата със сложни и дълги задачи и процесите на вземане на решения.
Компанията определя тези действия като индустриално мащабни опити за прехвърляне на американски технологии към китайски конкуренти.
В писмото се посочват и опасения за националната сигурност на САЩ. Anthropic твърди, че подобни практики могат да засегнат и военни приложения.
„Дистилационните атаки превръщат стотици милиарди долари американски инвестиции и научноизследователска и развойна дейност в масивна субсидия за нашите геополитически конкуренти„, заявяват от компанията.
Anthropic се позовава и на твърдения на Министерството на отбраната на САЩ, според които Alibaba и други големи компании, включително производителят на автомобили BYD и технологичната фирма Baidu, имат връзки с китайските военни структури. Засегнатите компании отричат подобни обвинения. Alibaba тази седмица е завела дело срещу американското правителство с цел да бъде премахната от списъка с ограничения на Пентагона.
Любопитно, но голяма част от големите AI компании в САЩ, като OpenAI и Google имат договори с Пентагона.
Според анализа на индустрията китайските компании все по-често използват техники за „дистилация“, за да обучават свои модели с помощта на западни системи при по-ниски разходи.
Anthropic, заедно с OpenAI, се подготвя за голямо излизане на борсата, което може да я превърне в една от най-скъпите технологични компании в света.
В същото време някои от по-напредналите модели на Anthropic, като Mythos, пораждат опасения за възможни киберсигурност рискове и способност за откриване на уязвимости в компютърни системи.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment