ИИ може да подчини хората, дори без да се опитва да завземе властта

Изкуственият интелект постепенно поема все повече задачи в ежедневието ни. Ученици използват ChatGPT за домашните си работи, програмисти разчитат на Claude за писане на код, а персоналните ИИ асистенти навлизат и в ежедневното планиране. Експерти предупреждават, че тази зависимост може да доведе до загуба на човешки умения и способността за самостоятелно мислене.

В интервю за CBS News специалисти описват този риск с термина „постепенно обезсилване“ (gradual disempowerment). Той обозначава процес, при който хората и обществото постепенно отстъпват контрола над решенията си на системите с изкуствен интелект. Опасността не се ограничава до изчезването на работни места. Тя може да засегне човешкото мислене, уменията и способността ни да действаме независимо.

„Поставям постепенното обезсилване на първо място в списъка си„, заявява Джей Чуи, основател и изпълнителен директор на Robocurve. Компанията оценява ролята на роботите на работното място. Според него много хора се чувстват безсилни пред този проблем, защото решаването му изисква значителни усилия и общ подход на цялото общество.

Ян Кулвайт, изследовател в Центъра за теоретични изследвания към Карловия университет и съавтор на научната публикация, въвела термина, подчертава, че процесът не изисква изкуственият интелект съзнателно да се опитва да завземе властта.

В публикацията си той обяснява, че в краткосрочен план постепенното обезсилване се насърчава от очакваните ползи, които ИИ може да донесе на икономиката, културата и държавното управление.

Първите признаци на подобна зависимост вече се забелязват. Някои хора поверяват на ИИ не само конкретни задачи, но и планирането на почти цялото си ежедневие. В крайни случаи това може да доведе до опасни решения. Futurism например описва случай, при който туристи се оказват в беда в опасна планинска местност следвайки инструкции от изкуствен интелект.

Не е необходимо обаче роботите да заменят изцяло човешкия труд, за да възникне сериозен проблем. Експерти вече обръщат внимание на т.нар. „когнитивно предаване“ – процес, при който хората позволяват на ИИ да върши мисловната работа вместо тях. Особено уязвими са учениците и студентите.

Изследвания свързват прекомерната зависимост от подобни инструменти с отслабване на критичното мислене. Други проучвания установяват по-ниска мозъчна активност при изпълнение на когнитивни задачи, като писане на есета, когато участниците разчитат на ИИ.

Ако този модел се разпространи в обществото, връщането към самостоятелното изпълнение на задачите може да стане все по-трудно.

„Ако хората не упражняват уменията, които агентите вършат вместо тях, те губят способността си да ги използват и стават зависими„, казва Маргарет Мичъл, изследовател на изкуствения интелект в Hugging Face.

Тя поставя и въпроса какво ще се случи при повреда или грешка. „Вече няма човек, към когото да се обърнете, за да я поправи. Така ставате напълно зависими от тези системи, за да отстранят сами проблема. А какво ще стане, ако това е невъзможно?„, пита Мичъл.

Рисковете не се ограничават до ежедневните задачи. ИИ вече участва в решения с потенциално тежки последици. Според публикации система за избор на цели с изкуствен интелект е била използвана при вземането на решение за бомбардировка на девическо училище в Иран, при която са загинали над 150 души, повечето от тях деца.

Отделно се появиха съобщения, че разговор с Grok на Илон Мъск е насърчил президента на САЩ Доналд Тръмп да предприеме операция срещу Венецуела и да залови нейния президент Николас Мадуро.

„Много хора говорят за неконтролиран ИИ, който прониква в центрове за данни и завладява света. Но в масовото съзнание все още не присъства идеята, че изкуственият интелект може буквално да поеме контрола над света просто като продължава да прави това, за което е създаден – да автоматизира всичко„, предупреждава Чуи.

Според експертите именно в това се крие една от по-трудно забележимите опасности на ИИ. Не е необходимо системите да се разбунтуват срещу хората. Достатъчно е обществото постепенно да им отстъпи толкова много задачи и решения, че да загуби способността да функционира самостоятелно.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.