Anthropic следяла потребителите в Claude Code
Компанията Anthropic се оказа в центъра на спор, след като специалист по киберсигурност откри скрит механизъм за събиране на информация в AI инструмента Claude Code. Според публикация на Ars Technica кодът е бил предназначен да идентифицира определени потребители, без това да бъде видимо за тях.
Изследователят, известен под псевдонима „Thereallo“, твърди, че механизмът е бил скрит в системния промпт на модела. По негови данни той е събирал информация за часовата зона на компютъра и дали потребителят използва прокси сървър. Целта е била да се установи дали услугата се използва от определени китайски лаборатории за изкуствен интелект.
От Anthropic потвърдиха, че подобен код е съществувал.
Инженерът на компанията Тарик Шихипа обясни в публикация в X, че механизмът е добавен като „експеримент“ през март. По думите му той е трябвало да предотвратява злоупотреби с акаунти от неоторизирани препродавачи и да предпазва моделите от т.нар. дестилация. Шихипа допълни, че кодът е трябвало да бъде премахнат. „От известно време възнамерявахме да го премахнем„, написа той.
Дестилацията е широко използван метод в индустрията. При него по-малък модел се обучава върху отговорите на по-мощен модел. Големите разработчици на изкуствен интелект все по-често обвиняват конкуренти, че използват този подход, за да възпроизвеждат техните технологии без разрешение.
По-рано тази година Anthropic обвини китайските компании DeepSeek, Moonshot и MiniMax, че незаконно използват нейните модели за подобно обучение. Междувременно разследване на The Washington Post показа, че китайски препродавачи предлагат достъп до абонамента Claude Pro, който струва над 100 долара месечно в САЩ, срещу около 12 долара.
Случаят поставя под въпрос публичните ангажименти на Anthropic за прозрачност и етично развитие на изкуствения интелект. Компанията изгради репутация именно с акцента върху безопасността на AI системите. Тя привлече допълнително внимание, след като се противопостави технологията ѝ да бъде използвана за масово наблюдение на американски граждани от Пентагона.
Според „Thereallo“ събраните данни сами по себе си не представляват сериозно нарушение на личната неприкосновеност. Проблемът е в начина, по който механизмът е бил внедрен.
„Агентите за програмиране вече работят отвъд една тревожна граница. Те могат да проверяват код, да обобщават чувствителна информация, да изпълняват команди, да инсталират пакети, да редактират файлове и да качват промени на локалната машина„, заявява изследователят.
Той допълва, че „скриването на подобен механизъм в системния промпт прави всички останали твърдения за защита на личните данни много по-трудни за вярване„.
Според него компаниите имат право да защитават своите модели. „Но когато инструмент с достъп до файловата система и командния ред започне да крие механизми за класификация в невидими елементи на системния промпт, правилната реакция е засилено внимание„, заключава той.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment