Изкуствен интелект едва не предизвика международна криза: САЩ били на крачка да щурмуват китайски кораб
Американските военни са били на крачка от изключително опасна операция срещу китайски кораб в Близкия изток, след като анализ, изготвен с помощта на изкуствен интелект, погрешно посочил, че плавателният съд превозва компоненти, свързани с ядрено оръжие.
Според публикация на Gizmodo, която се позовава на информация на CNN, американските сили са обмисляли да се качат на борда на кораб под китайски флаг, след като разузнавателен анализ заявил, че товарът му може да съдържа материали, предназначени за иранската ядрена програма. По-късно се оказало, че ключовата информация е била погрешна и е произлязла от т.нар. „халюцинация“ на AI система.
Източник, цитиран в публикацията, определя случая като ситуация, която „почти е започнала война“. Операцията в крайна сметка не е била проведена, но самият факт, че подобно действие е било разглеждано въз основа на неточна информация, предизвиква сериозни въпроси за използването на изкуствен интелект при военни решения.
Погрешната информация според доклада е дошла от анализатор в структура на специалните операции, който използвал чатбот при работата си. Системата неправилно идентифицирала товара на кораба и стигнала до заключение, че на борда има материали, които могат да бъдат използвани в ядрена програма.
Случаят е особено тревожен заради потенциалните последствия. Опит за принудително качване на американски военнослужещи на китайски кораб би могъл да предизвика тежък дипломатически и военен инцидент между две ядрени сили.
Информацията идва на фона на все по-широкото използване на AI системи от американското военно и разузнавателно ръководство. Според Gizmodo източникът на CNN твърди, че случилото се не е изолиран случай, а част от по-широка тенденция, при която военни анализатори все по-често разчитат на автоматизирани системи при обработката на огромни количества разузнавателни данни.
Основният риск при подобни технологии е добре известен. Генеративните AI системи могат да представят неверни твърдения с изключително убедителен тон, ако информацията не бъде независимо проверена. В цивилни условия това може да доведе до грешна справка или неточен текст. При военна операция обаче същата грешка може да има много по-тежки последствия.
Историята с китайския кораб показва именно този риск: една неправилно интерпретирана информация е стигнала достатъчно далеч във военната система, за да бъде обсъждана реална операция.
В крайна сметка американските сили са се отказали от качването на борда. Така предполагаемата AI грешка не е довела до директен сблъсък, но случаят остава сериозно предупреждение за опасностите от използването на изкуствен интелект там, където една невярна информация може да се превърне в международна криза.
Източник: Gizmodo, позоваващ се на CNN. Gizmodo
Post Comment