AI вижда това, което не съществува: нов метод обърква машинното зрение

Учени от Университета на Северна Каролина създадоха метод за манипулиране на компютърното зрение на изкуствения интелект, който поставя под съмнение надеждността на една от най-критичните технологии за безопасност – от автономни автомобили до медицинска диагностика.

Методът, наречен RisingAttacK, се оказа способен да „заблуждава“ системите за машинно зрение с почти незабележими промени в изображенията.

За човешкото око променените кадри изглеждат абсолютно идентични, но за алгоритъма на AI една и съща кола може да бъде ясно разпозната в първия случай и напълно „невидима“ във втория. RisingAttacK прилага серия от микропромени в ключовите визуални елементи, като така подменя възприятието на AI, който може да сбърка цвета на светофар или да пропусне симптом на заболяване при анализ на медицински снимки.

Екипът, ръководен от доц. Тяньфу Уу, е тествал метода върху четири водещи архитектури за компютърно зрение — ResNet-50, DenseNet-121, ViTB и DEiT-B. Всички те са били успешно манипулирани, което подчертава потенциалната уязвимост на масово използваните системи. „Това е само началото„, коментира Уу, като подчерта, че следващата стъпка е изследване на ефективността на атаката и върху езикови модели.

Разработката има за цел не просто да демонстрира заплаха, а да помогне за изграждането на по-сигурни системи. Изследователите се надяват, че чрез разкриване на уязвимостите ще могат да допринесат за създаването на защитни механизми, които да предпазят както автономни системи, така и хората, които разчитат на тях.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.