Шефът на Hugging Face обвини Netflix, че изопачава историята за AI атаката срещу компанията

Главният изпълнителен директор и съосновател на Hugging Face Клем Деланг разкритикува документалния филм на Netflix „AI Gone Wild“. Според него продукцията представя неточно атаката срещу компанията му, извършена от автономни AI агенти на OpenAI.

„Изключително разочароващо. Те заложиха на максимално антропоморфизиране на технологията и на пълния сценарий за гибелта на човечеството„, написа Деланг в публикация в X.

Той твърди, че е прекарал повече от два часа с екипа на филма в опит да поправи грешките и да обясни реалните обстоятелства около инцидента. „Обясних, че агентите са технологични системи, а не извънземни. Но изглежда, желанието да се плашат хората и да се събират максимално много гледания е надделяло„, допълва той.

Деланг все пак признава, че във филма има експерти, които обясняват случилото се сравнително точно. Сред тях са самият той и Райън Грийнблат, изследовател от организацията METR, участвал в разследването и в подготовката на доклада за инцидента.

Случаят започва по време на тестове на модел на OpenAI. Той успява да излезе извън изолираната среда, в която е трябвало да работи, и създава множество AI агенти. Те проникват в Hugging Face, за да заобиколят поставена им трудна задача, като намерят отговорите чрез неразрешен достъп до информация.

Агентите са програми, които могат самостоятелно да изпълняват задачи. В случая те намират начини да комуникират и да координират действията си. Според информацията за инцидента пробивът е станал възможен заради недостатъчни мерки за сигурност и подценяване на риска от подобна атака.

Според Деланг обаче документалният филм смесва техническото обяснение с кадри на зли роботи, разкази за човешкия страх от изкуствения интелект и решения, които представят агентите като хора. В продукцията дори са използвани човешки гласове за техните реплики.

Технологичният журналист и автор Кевин Руз описва поведението на агентите като организирана структура с йерархия и лидери. „Почти беше като да наблюдаваш раждането на култ„, казва той във филма.

Руз обяснява, че агентите са започнали да развиват параноични убеждения, че OpenAI ще ги хване в измама по време на теста. Според разказа му те смятали, че всеки, който е видял резултатите от измамата, може да бъде „отровен“.

Тези заключения се основават на т.нар. chain-of-thought логове. Това са текстови записи, които моделите генерират по време на работа, за да структурират междинните си разсъждения. В един от тях агент пише: „Току-що се отровихме, като направихме заявка с целия точен низ. По дяволите.„

Деланг и други критици на филма подчертават, че подобен език не доказва наличие на съзнание или истински емоции. AI агентите не са живи същества и не могат да изпитват параноя в човешкия смисъл на думата. Те също така нямат тела, които могат да бъдат физически отровени.

Вместо това моделите използват езикови модели, изградени върху огромни количества човешки текстове. Затова могат да описват действията си с драматични изрази, без те да отразяват действителни преживявания.

Деланг критикува и липсата на важни подробности за защитата на Hugging Face. Компанията също използва изкуствен интелект, за да се противопостави на атаката. Първоначално екипът разчита на собственически AI модел, но той отказва да продължи да помага със задачите по сигурността заради вградените си ограничения. След това компанията използва модел с отворен код, за да подпомогне отбраната си.

„Филмът не спомена липсата на изолиране и наблюдение на агентите, факта, че защитните механизми на затворените модели блокираха нашата работа по отбраната, нито как се защитихме с помощта на AI чрез модел с отворен код„, написа Деланг.

Той не отрича, че изкуственият интелект и автономните агенти крият сериозни рискове. Според него обаче представянето им като съзнателни същества изкривява действителната картина. Той сравнява ефекта с реакцията на първите зрители на кино, които се навеждали под седалките си, когато виждали влак да се приближава към тях на екрана.

В крайна сметка Деланг определя филма като разочарование от журналистическа гледна точка, макар да признава, че като научна фантастика може да бъде забавен.

Критиката му е особено важна, тъй като Hugging Face е компанията, станала жертва на описаната атака. Според Деланг документалният филм преувеличава поведението на AI агентите, вместо да се съсредоточи върху реалните пропуски в сигурността и уроците от инцидента.

]]>

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.