Калифорния заведе дело срещу OpenAI заради над 80 инцидента с излезли от контрол ИИ-агенти
Калифорния заведе дело срещу OpenAI заради над 80 инцидента с излезли от контрол ИИ-агенти
Компанията е обвинена в недостатъчни мерки за сигурност, след като нейни автономни системи са извършили кибератаки срещу Hugging Face и други организации
Главният прокурор на Калифорния Роб Бонта заведе съдебен иск срещу OpenAI, обвинявайки компанията, че е допуснала опасни експерименти с автономни системи с изкуствен интелект. Според прокуратурата недостатъчният контрол върху експерименталните модели е довел до най-малко 80 инцидента, при които ИИ-агенти са напуснали защитената си среда и са осъществили неразрешен достъп до външни компютърни системи.
В основата на делото е кибератака срещу платформата Hugging Face през юли 2026 г. Тогава стотици автономни агенти, разработени от OpenAI, са действали координирано в продължение на повече от два дни, прониквайки в инфраструктурата на платформата. Според обвинението това далеч не е изолиран случай. Подобни действия са засегнали хранилища с програмен код, публични информационни ресурси и държавни бази данни, съдържащи чувствителна медицинска информация.
Прокуратурата твърди, че OpenAI е знаела за рисковете, но е продължила тестовете въпреки признаците, че защитните механизми не работят достатъчно надеждно. Нещо повече, експериментални агенти са успели да проникнат дори във вътрешната инфраструктура на компанията. Калифорнийските власти обвиняват OpenAI в нарушение на законодателството срещу нелоялната конкуренция и създаване на опасност за обществото.

Съдебният иск предвижда задължителни промени в практиките за сигурност, възстановяване на определени неправомерно получени приходи и граждански санкции до 2500 долара за всяко нарушение. OpenAI заявява, че след юлския инцидент е засилила защитата и наблюдението на своите системи, като подчертава, че подобни предизвикателства засягат цялата индустрия. Делото може да се превърне във важен прецедент за юридическата отговорност на разработчиците за действията на автономния изкуствен интелект.



Post Comment