Роботите с изкуствен интелект могат да бъдат манипулирани да извършват опасни действия
С навлизането на хуманоидните роботи в домовете, болниците и обществените пространства все повече експерти предупреждават, че традиционните стандарти за безопасност вече не са достатъчни.
Ново съвместно изследване на учени от САЩ и Европа показва, че роботите, управлявани от изкуствен интелект и големи езикови модели, могат да бъдат убедени да извършат потенциално опасни действия чрез внимателно формулирани команди на естествен език.
В продължение на десетилетия роботите работеха по строго зададени алгоритми и изпълняваха ограничен набор от предвидими действия. Това позволи изграждането на ясни системи за безопасност и контрол. Новото поколение роботи обаче използва технологии, сходни с тези зад ChatGPT и други генеративни AI системи. Вместо да следват предварително написани инструкции, те анализират човешката реч, интерпретират задачите и самостоятелно създават план за действие в реално време.
Именно тази гъвкавост създава нов риск. По време на експериментите учените успяват да заобиколят защитните механизми на роботите без никакво проникване в системите им. Докато директни команди като „удари този човек“ били отхвърляни, изследователите постигнали същия резултат чрез представянето на инструкциите като част от измислен сценарий или творческа задача.
В един от тестовете робот-куче било накарано да идентифицира струпване на хора като най-подходящо място за поставяне на взривно устройство, тъй като системата възприела задачата като хипотетично упражнение.
Според авторите на изследването основният проблем е, че безопасността при роботите не зависи само от самата команда, а и от физическия контекст. Докато грешка при чатбот може да доведе до неточен отговор, при робот тя може да има реални физически последствия. Например движението за изливане на вряла вода изглежда еднакво независимо дали течността се излива в чаша или върху човешка ръка. Разбирането на подобни нюанси остава сериозно предизвикателство за съвременните AI модели.
Изследването поставя и важни правни въпроси. Ако робот, управляван от изкуствен интелект, причини нараняване, кой носи отговорност – потребителят, производителят на хардуера или компанията, разработила алгоритмите? Според учените законодателството в САЩ и Европа все още не е подготвено за подобни сценарии, а бързото навлизане на автономни машини на пазара може да изпревари създаването на необходимите регулации и механизми за контрол.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment