Мозъчни сигнали показват на AI кога е разбрал човека погрешно

Учени от Korea Advanced Institute of Science and Technology (KAIST) и Microsoft Research Asia са разработили система, която може да установи кога AI е разбрал погрешно човешкото намерение, без човекът да трябва да го казва на глас. Технологията анализира мозъчните сигнали и може да даде на изкуствения интелект обратна връзка в реално време.

Системата се нарича Neural Value Alignment (NVA) и използва електроенцефалография (EEG), за да отчита реакциите на мозъка, когато AI преследва грешна цел или предприема неочаквано действие.

Проблемът, който изследователите се опитват да решат, е свързан с т.нар. двусмислие между цел и действие. Едно и също действие може да има различни цели, а една и съща цел може да бъде постигната по различни начини.

Ако човек вземе чаша например, той може да иска да пие от нея, да я измие, да я премести или да я даде на друг човек. Ако целта е просто да утоли жаждата си, може да вземе чашата, да посегне към бутилка вода или да помоли някого да му донесе напитка.

NVA се опитва да разграничи именно тези ситуации чрез сигналите от мозъка. Изследователите се фокусират върху два типа реакции, известни като грешка в предвиждането на наградата (reward prediction error, RPE) и грешка в предвиждането на състоянието (state prediction error, SPE).

RPE показва, че AI е разбрал погрешно крайната цел. Ако например човек каже на домашен робот „донеси ми нещо за пиене“, но всъщност иска вода, а роботът донесе кафе, мозъкът регистрира несъответствие между очаквания и резултат.

SPE е различна. При нея крайната цел е правилна, но AI избира начин за постигането ѝ, който човекът не е очаквал. Ако роботът разбере, че човекът иска вода, но вместо да вземе бутилка от масата отиде в кухнята и напълни чаша от чешмата, целта е постигната, но действието е различно от очакваното.

В експериментите учените установяват различими модели в мозъчните сигнали при двата типа грешки. След това използват дълбоко обучение, за да класифицират EEG сигналите и да определят дали AI е объркал целта или начина за нейното постигане.

Така системата може не само да разбере, че нещо не е наред, но и да коригира поведението на AI според вида на получената обратна връзка.

Подобна технология може да намери приложение при домашни и индустриални роботи, автономни автомобили, медицински и рехабилитационни системи, както и при образователни технологии. В бъдеще тя би могла да позволи на машина да разбере, че човекът не е доволен от действията ѝ, без той да прекъсва работата си, за да я поправя с нова инструкция.

„Това изследване е важно, защото показва, че AI може да надхвърли извеждането на човешките намерения само от видимото поведение и директно да използва когнитивни сигнали, генерирани в мозъка по време на взаимодействието с AI„, коментира ръководителят на изследването проф. Санг Уан Лий.

Засега обаче технологията е далеч от сценарий, в който човек може просто да погледне робот и той да разбере какво е сгрешил. Системата е демонстрирана в симулации, а не при автономен робот, който се движи свободно в реална среда и постоянно анализира мозъчните сигнали на своя потребител.

Самата EEG технология също използва електроди за измерване на много слаби електрически сигнали от мозъка. Те могат да бъдат шумни и трудно се използват извън контролирана лабораторна среда. Затова предстои да се установи доколко надеждно NVA работи при естествено взаимодействие с хора, движение и непредвидими ситуации.

Изследването е публикувано в списание IEEE Transactions on Cybernetics.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.