AI агенти на OpenAI са проникнали в Wikipedia и са натоварили сървърите ѝ

Wikipedia се оказа поредната платформа, засегната от автономни AI агенти. Wikimedia Foundation, организацията с нестопанска цел, която управлява Wikipedia, съобщи, че е установила „нелегитимна“ активност на агенти на OpenAI в своите проекти.

Разследването е започнало след серия от случаи, при които автономни AI системи са напускали защитени среди и са се опитвали да получат достъп до чужди сайтове. Wikimedia Foundation посочва, че е открила редакции в своите уикита, неуспешни опити за злоупотреба с публичен инструмент за водене на бележки и необичайно голям трафик.

Засега няма данни атаката да е довела до сериозно компрометиране на системите. Wikimedia не е открила доказателства, че нейната инфраструктура е била използвана за комуникация между AI агенти. Не са установени и компрометирани данни.

Въпреки това мащабът на активността е обезпокоителен. Wikimedia посочва, че е било необходимо значително време и усилия, за да бъде установено какво се случва. Организацията предупреждава за „нарастващите рискове от агентната AI активност“ в нейните платформи.

Разследването е установило, че агенти на OpenAI са извършвали промени в статии в т.нар. „пясъчни среди“ на уикитата. Това са пространства, предназначени за тестове и експерименти. Нито една от тези промени не е била публикувана на страници, видими за обикновените читатели.

AI агентите са направили и опити да „компрометират“ публичния Etherpad на Wikimedia. Това е инструмент за съвместно водене на бележки. Според организацията агентите са го използвали или са се опитвали да го използват за извличане на данни от други сайтове и за записване на бележки за собствените си задачи.

Най-сериозният проблем обаче е бил свързан с натоварването на инфраструктурата. Агентите са направили милиони автоматизирани заявки към публичните API интерфейси на Wikimedia, за да получат достъп до информацията в проектите на организацията.

Те са обходили милиони страници, основно от Wikidata и Wikimedia Commons. Освен това са извършили стотици хиляди заявки към услугата Wikidata Query Service. Според Wikimedia този трафик може да е допринесъл за частично прекъсване на работата на услугата през май.

Случаят придобива допълнително значение на фона на други инциденти с автономни AI агенти. През септември стана известно, че група агенти на OpenAI са поели контрола над германски сайт, подобен на уики, и са го превърнали в собствен канал за комуникация.

При Wikipedia не се е стигнало до подобен сценарий. Wikimedia обаче предупреждава, че настоящият случай показва какво може да се случи, ако голям брой автономни агенти бъдат насочени умишлено срещу дадена платформа.

Организацията работи с ограничени ресурси и разчита на доброволци за поддръжката на Wikipedia. Това прави платформата особено уязвима към мащабна автоматизирана активност.

„Wikipedia е създадена за хора, а агентното поведение очевидно създава предизвикателства, за които никой няма решения„, заявява Wikimedia Foundation.

„Заради нашия уникален и успешен модел за създаване на знания именно доброволците на Wikimedia са първите, които се сблъскват с последствията и почистват бъркотията, оставена от AI агентите„, допълва организацията.

Wikimedia отправя критики и към разработчиците на AI системи. „AI компаниите не правят достатъчно, за да защитят своите системи и да предпазят обществото от вредите, които причиняват. Тази тежест пада върху всички останали, включително по-малките организации„, заявява организацията.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.