Китай изглежда има отговор на Mythos 5 и Fable 5 на Anthropic
Нов отворен модел с изкуствен интелект предизвика предупреждения от специалисти по киберсигурност заради възможностите си при анализ на софтуер и откриване на уязвимости. Моделът GLM-5.2 е разработен от базираната в Пекин компания Z.ai и според някои тестове се представя близо до най-мощните системи на Anthropic.
За разлика от американския модел, GLM-5.2 е с отворен код и е достъпен за всеки.
Темата идва на фона на споровете около моделите Mythos 5 и Fable 5 на Anthropic. Миналия месец администрацията на Доналд Тръмп поиска компанията да ограничи достъпа до най-мощните си модели заради опасения за националната сигурност.
Според американските власти системите са имали уязвимости, които позволяват заобикаляне на защитните механизми, известни като „jailbreak“. Anthropic от своя страна отдавна предупреждава, че новите ѝ модели могат да откриват киберсигурностни слабости, които потенциално могат да бъдат използвани от злонамерени лица.
Преди ограниченията Mythos 5 е бил достъпен само за ограничен брой организации и институции. Целта е била те да могат да използват системата за откриване и отстраняване на уязвимости.
По-късно американското правителство разреши ограниченото разпространение на модела да бъде възстановено. От 1 юли Fable 5 отново е достъпен за потребители, а Mythos 5 се предлага на около 100 американски организации и държавни структури.
Междувременно GLM-5.2 предлага различен подход. Тъй като е модел с отворени тегла, той може да бъде изтеглен и използван от всеки.
Това създава както възможности за изследователи, без значение в коя държава се намират. Подобни модели могат да помагат при откриване на грешки в софтуер и подобряване на защитата, но могат да бъдат използвани и за разработване на атаки.
Снимка: z.ai
Компанията за киберсигурност Semgrep тества GLM-5.2 и го определи като модел с възможности, близки до тези на Mythos. В своя анализ тя използва заглавието „Имаме Mythos вкъщи“, като препратка към популярния интернет израз за по-евтина алтернатива.
Друга фирма за сигурност – Graphistry – също установи, че моделът се справя добре с откриване на софтуерни проблеми и задачи, свързани с киберсигурността.
Изследователи предполагат, че Z.ai може да е използвала процес, наречен дестилация на модели. При него по-малък модел се обучава чрез резултатите на по-голяма система, известна като „учител“. Според данни, цитирани от Axios, има съмнения, че при разработката на GLM-5.2 са използвани знания от модели като GPT-5.5 на OpenAI и Opus 4.8 на Anthropic.
Дестилацията е спорна практика, тъй като големите AI компании обвиняват конкуренти, че използват техните модели, за да създават по-малки и по-достъпни системи. Големите AI разработчици обаче също обучават моделите си върху създадени от хора данни, за които не са получили изрични права.
В САЩ са притеснени, че геополитическите им противници, включително Русия и Северна Корея, ще могат да ползват мощният китайски AI модел.
Според консултанти, цитирани от Axios, хакери вече обменят методи за заобикаляне на защитите на GLM-5.2 в рускоезични онлайн форуми.
„Нападател може да стартира модела локално без защитни механизми, да го настрои спрямо конкретни цели и да работи без видимост за доставчик или защитник„, заяви Травис Ленъм, основател и технологичен директор на компанията за AI киберсигурност Armadin.
Случаят показва един от основните проблеми пред развитието на отворения изкуствен интелект. Свободният достъп ускорява научните изследвания и иновациите, но същевременно затруднява контрола върху възможната злоупотреба с мощни AI системи.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment