Една заявка разкрива хиляди лични разговори с ИИ на Meta
ИИ асистентът Muse на Meta е допуснал сериозен пропуск в сигурността, който е позволил на изследователи да открият над 6800 връзки към споделени разговори и страници. Част от тях съдържат чувствителна лична и финансова информация, както и поверителни фирмени документи, съобщава Ars Technica.
Случаят идва само седмици след като главният изпълнителен директор на Meta Марк Зукърбърг представи Muse като инструмент, създаден „от самото начало с мисъл за поверителността и сигурността„.
Публикацията му в X обаче беше допълнена с бележка от потребители, която оспорва твърдението. Новото разследване показва защо защитата на личните данни се превръща в сериозен проблем за асистента.
Изследователи от компанията за киберсигурност Claroc установили, че могат да откриват споделени страници на Muse чрез публично достъпни бази данни, които съхраняват информация за посещавани интернет адреси.
Функцията за споделяне позволява на потребител да изпрати на друг човек връзка към разговор с ИИ. Адресът съдържа заглавие, генерирано от асистента, и произволна поредица от символи. Когато някой отвори такава връзка, пълният адрес може да бъде записан в база данни за посещавани интернет страници.
Изследователите успели да използват тези записи, за да открият други адреси за споделяне на Muse. Така получили достъп до разговори, които нямат връзка с първоначално търсеното съдържание.
Сред откритите материали имало документи за фирмени приходи, заявления за кредити, банкови транзакции, данни за доходи и календар с отпуските на служители в компания. Това показва, че чрез привидно безобидната функция за споделяне могат да бъдат изложени на риск не само лични разговори, но и чувствителна бизнес информация.
„Ако ни бяхте попитали предварително, щяхме да предположим, че събирането на тези данни ще изисква сериозни усилия. Вместо това беше нужна само една заявка„, посочват изследователите.
Meta е заявила пред Ars Technica, че е изключила функцията. Компанията обаче отново е изправена пред въпроси за начина, по който Muse обработва и защитава личната информация.
По-рано през октомври стана ясно, че асистентът създава подробни досиета за приятелите и семейството на потребителите. Според публикацията Muse е получил вътрешна инструкция да поддържа отделна страница за всеки човек от живота на потребителя.
Поредицата от разкрития поставя под съмнение сигурността на асистента още през първия му месец, откакто е достъпен за широката публика. Случаят показва и по-общ риск при ИИ инструментите: информацията, която потребителите споделят с тях, може да се окаже изложена на достъп по начини, които не са очевидни при използването на услугата.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment