Учени предупреждават за „рояци“ от AI-ботове, които могат да манипулират обществото
Ново изследване, публикувано в Science, предупреждава за нарастваща заплаха от изкуствен интелект. Според учените технологията може да се използва за масова дезинформация и манипулиране на общественото мнение.
Фокусът е върху т.нар. AI „рояци“. Това са големи групи от автономни системи, които могат да имитират реални хора в интернет и социалните мрежи. Те използват езикови модели и координирани действия, за да създават и разпространяват съдържание.
Изследването анализира как тези технологии могат да влияят на цели общества. Според авторите манипулациите в социалните мрежи вече се разширяват. От 28 държави през 2017 година те достигат до 70 държави днес, включително Филипините и Съединените щати.
Примери за подобни кампании има и при избори. Отбелязват се случаи на дезинформация, свързани с избори в Бразилия и Ирландия. Според учените тези атаки стават все по-сложни.
„Комбинирайки възможностите на езиковите модели с многoагентни системи, тези решения могат да се координират автономно, да проникват в общности и ефективно да създават изкуствен консенсус„, се казва в изследването.
Регулирането на подобни практики е трудно. Възникват въпроси дали подобни мрежи от ботове попадат в обхвата на свободата на словото. Част от тях дори действат открито като търговски компании и привличат инвестиции.
Проблемът не е изцяло нов. Още преди развитието на AI социалните мрежи създават условия за масова дезинформация. Един от най-тежките примери е насилието срещу рохингите в Мианмар, свързано с кампании във Facebook.
Според изследователите заплахата е реална и нарастваща. В същото време липсва достатъчна политическа воля за ефективни мерки срещу подобни практики.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment