Meta Muse шпионира не само потребителите, а и хората около тях
Новият AI агент на Meta Muse събира подробна информация не само за самите си потребители, но и за техните приятели, роднини и други хора от обкръжението им. Според данни, цитирани от Wired, системата поддържа отделни профили за хората, които присъстват в живота на потребителя, и ги обновява регулярно. Това поставя сериозни въпроси за поверителността на хора, които дори не са използвали Muse.
Muse се превърна в един от най-коментираните нови AI продукти през последните седмици. Част от ранните потребители и анализатори го оценяват високо заради способността му да помага при ежедневни задачи. Ели Тан от New York Times например го определя като най-полезното AI приложение, което е използвал.
Зад удобството обаче се крие мащабно събиране на лична информация. Според Wired Muse има инструкции да поддържа „страница за всеки човек в живота на потребителя„. Информацията за тези хора се допълва приблизително веднъж на час.
Данните за работата на агента са изследвани от Каран Джоши, изследовател в областта на безопасността на изкуствения интелект. Той е анализирал вътрешни инструкции и системни данни на Muse, които след това е споделил с Wired.
„Това, което ми се струва от всички тези подсказки, данни за системните умения и нещата, които подават към Muse, е, че те искат да разберат отношенията, които имате с реални хора„, казва Джоши.
По думите му Meta се опитва да накара системата да опознава потребителя по начин, близък до поведението на приятел.
„Те се опитват да ви познават като приятел, което честно казано е доста зловещо„, коментира изследователят.
Проблемът е, че тези отношения включват и хора, които никога не са давали съгласие техните данни да бъдат анализирани от AI система. Така личната информация на приятели, партньори, роднини и колеги може да попадне в профили, създавани от Muse за нуждите на неговата работа.
Притесненията около Muse не се ограничават до поверителността. Малко преди старта на услугата инженери на Meta са открили сериозна уязвимост в системата, която според Futurism е можела да позволи на потребители да получат достъп до базата данни, стояща зад работата на AI агента.
Meta е отстранила проблема непосредствено преди официалното пускане на Muse. Според 404 Media поправката е била извършена в последния момент. Служител на компанията описва процеса като „mad dash“.
„Много от старшите инженери смятат, че е неизбежно да получим мащабен пробив в сигурността в резултат на Muse„, казва източник на 404 Media от Meta.
Не е ясно дали създаваните от Muse профили за приятели и роднини са били част от базата данни, за която се отнасят опасенията. Случаят обаче показва по-широк проблем при AI агентите, които не просто отговарят на отделни въпроси, а изграждат продължителен контекст за живота на своите потребители.
При подобен модел границата между персонализиран асистент и система за постоянно наблюдение става все по-трудна за определяне. А когато в този процес попадат и хора, които никога не са използвали услугата, въпросът за това кой има право да събира и съхранява информация за тях става още по-сериозен.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment