Експерти: Една голяма катастрофа може трайно да обърне обществото срещу AI
Водещи американски и китайски учени призовават за по-тясно международно сътрудничество при разработването на изкуствен интелект. Според тях липсата на общи стандарти за безопасност може да доведе до тежък инцидент, който трайно да промени общественото отношение към технологията.
Сред тях е компютърният учен Стивън Каспър от Масачузетския технологичен институт. По време на конференция за изкуствен интелект в Пекин той заявява, че „едно нещо, по което почти всички в сферата на AI са единодушни в момента, е, че изкуственият интелект няма нужда от момент като Чернобил„.
Макар Каспър да не конкретизира какъв сценарий има предвид, сравнението с Чернобилската авария подсказва опасения както от мащабен инцидент, така и от дълготрайна загуба на обществено доверие към технологията.
През последните години дебатът за рисковете от изкуствения интелект се разшири. Освен хипотетични сценарии за автономни системи, все повече експерти предупреждават за практическите рискове, свързани с киберсигурността. Според тях генеративните модели и AI агентите могат да улеснят извършването на сложни кибератаки, като намалят необходимите технически умения и увеличат мащаба на подобни операции.
Като пример често се посочва решението на Anthropic да не публикува публично модела Claude Mythos. Компанията твърди, че моделът притежава толкова високи способности за програмиране, че би могъл да бъде използван за компрометиране на широк кръг операционни системи и уеб браузъри.
Допълнителни опасения поражда и разпространението на AI модели с отворен код или свободно достъпни тегла, които могат да бъдат използвани без контрола, характерен за комерсиалните платформи. Според източник от една от водещите китайски AI компании именно съображенията за сигурност са сред причините най-новите модели в Китай все по-рядко да се публикуват като отворен код.
Професор Лин Юн от Шанхайския университет Дзяо Тун смята, че в краткосрочен план киберпрестъпниците могат да получат предимство чрез използването на AI. В по-дългосрочен план обаче същата технология може значително да подобри защитата на компютърните системи.
„Ако различните държави разбират рисковете по сходен начин, става по-лесно да бъдат разработени общи принципи за безопасност и технически стандарти„, казва Лин Юн.
Според участниците в дискусията сътрудничество между Съединените щати и Китай е възможно въпреки геополитическото съперничество. Каспър прави паралел с периода на Студената война, когато Вашингтон и Москва успяват да договорят механизми за ограничаване на ядрените рискове, въпреки че едновременно разширяват ядрените си арсенали.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment