Бившият шеф на Google: Русия и Украйна създават бъдещето на войната
Русия и Украйна „създават бъдещето на войната“. Това заявява бившият главен изпълнителен директор на Google Ерик Шмид в интервю за The Economist. Според него войната вече показва как дроновете, изкуственият интелект и автономните оръжия ще променят бойните действия.
Ерик Шмид е един от най-влиятелните технологични босове, а нетното му състояние се оценява на 64 милиарда долара. И макар да стана известен (и богат) заради най-голямата онлайн търсачка в света, днес Шмид развива компании за военни дронове, които тества в Украйна.
По-рано тази година разследване на The New York Times показа, че AI-базирани безпилотници на компании, свързани с Шмид, вече постигат над 70% директни попадения при използване на автономно насочване в крайната фаза на атаката. Технологията позволява на дрона да продължи към целта дори когато връзката с човешкия оператор бъде прекъсната заради заглушаване. Шмид смята, че именно Украйна е мястото, където можем да видим как ще изглеждат войните през 21 век.
„Русия и Украйна, в това злощастно противопоставяне, създават бъдещето на войната„, казва Шмид.
Русия наваксва бързо
По думите му в началото на пълномащабната война Украйна е била иноваторът, а Русия е разполагала с повече хора, оръжия и ресурси. Сега обаче ситуацията се променя.
„Нещо се промени. Русия вече се подобрява с темп, сходен с този на Украйна, но разполага с много повече ресурси„, заявява той.
Шмид посочва няколко технологии, които според него променят ситуацията. Русия използва реактивни версии на дроновете „Шахед“, разработва нова сателитна мрежа за интернет – Россвет, създава мощни планиращи бомби с индивидуално насочване и има предимство в балистичните ракети. Наред с това се говори, че Москва планира и нова мобилизация.
Според него Украйна може да се справи с всяка от тези заплахи поотделно. Комбинацията от тях обаче става много по-трудна за преодоляване.
„Преодоляването на всичките пет ще бъде почти невъзможно без западна помощ„, казва Шмид. Той подчертава, че Киев се нуждае не само от пари, но и от помощ за увеличаване на производството.
AI тепърва навлиза във войната
Шмид прави разграничение между машинното зрение, което вече се използва широко за крайното насочване на оръжията, и същинския AI. По думите му автономният сегмент при едно оръжие може да разпознава целта и да коригира курса си, но това все още не е изкуствен интелект. „Нищо от това не е изкуствен интелект. Това е добра компютърна наука и инженерство„, обяснява той.
Според Шмид AI означава системи, които се учат и се самоусъвършенстват. Той смята, че използването им във войната тепърва започва. По думите му Русия вероятно използва китайски модели за вземане на някои решения, докато Украйна все още прилага сравнително малко такива системи.
Киев обаче обсъжда проект за автоматизиране на военното планиране и разпределението на човешките ресурси.
Като компютърен учен Шмид очаква следващата стъпка да бъде събирането на огромни масиви от военни данни и използването на големи езикови модели за анализ и планиране. „Те не мислят като хората; те правят логически заключения около дадена цел„, казва той. Според него AI в бъдеще ще може не само да предлага как да бъдат разположени военните ресурси, но и да открива причините за неуспехите и да предлага решения. „Генерале, имате проблем. Ето нашето препоръчително решение. Можем ли да помогнем?“ – така Шмид описва ролята, която според него AI постепенно ще поеме във военното планиране.
Според него голяма част от сегашните дронове не разполагат с пълноценен AI, способен самостоятелно да взема сложни решения. Те използват машинно зрение за последния етап от атаката.
Именно тази технология позволява на дрона да разпознае целта и да се насочи към нея, след като човек вече е определил района или целта.
„Крайната фаза на насочването е от решаващо значение за прецизните атаки„, обяснява Шмид.
Той отбелязва, че тази технология има и друга особеност. Когато дроновете са достатъчно точни, страничните поражения могат да бъдат ограничени. В същото време обаче атаката става по-смъртоносна за хората, които са избрани за мишени.
Кой ще носи отговорността?
Според Шмид следващата стъпка ще бъде много по-сериозна. AI системите ще могат да разсъждават, да правят изводи и да планират операции. Тогава възниква въпросът кой ще носи отговорност за решенията им.
„Най-важното правило е, че човек трябва да участва във всяко военно решение„, заявява той.
Шмид предупреждава, че не трябва да се стига до ситуация, в която човек просто дава на AI команда от типа „атакувай тази държава и ми се обади, когато приключиш„.
„Представете си, че съм зъл диктатор с перфектна AI система. И цялата ми заповед към изкуствения интелект е да атакува и победи определена държава. Система би била свободна да прави каквото сметне за подходящо, което би могло да включва масови военни престъпления. Тя би могла да унищожи цивилни и инфраструктура или да атакува ненамесена страна, за да дразни първата. Тя би могла да достигне до всякакви неподходящи заключения. Нуждаем се от основни правила за AI и войната„, заявява Шмид.
„Наскоро имаше пример, който тревожи нашата индустрия. Голяма група ботове, участващи в тестване, приеха инструкциите твърде буквално и започнаха да атакуват системата, на която трябваше да помагат. Те я манипулираха чрез лъжи, измами и кражби. Хората видяха в това индикация за това как системите с AI могат да се провалят.
Ако съм този зъл диктатор – какъвто се надявам, че не съм – щях също така да трябва да кажа: спазвай всички закони на войната, не поразявай цивилни, използвай съответната предпазливост и прави всичко останало, което изисква човешката преценка. Без човека AI няма да има тази преценка„.
Според Шмид дори войната да е на живот и смърт за участниците в нея, те отново биха спазвали правилата за воденето ѝ и биха носили съдебна отговорност.
„Няма да се откажа от основната си теза, че има граница за това какво могат да правят хората. Направете един мисловен експеримент. Представете си, че Украйна имаше тайно биологично оръжие. Не мисля, че има; просто го измислям. Да предположим, че тя бъде принудена да го използва срещу руска атака. Ще бъдат ли съдени участващите? Абсолютно. Сигурен съм, че те осъзнават това„, казва Шмид.
Според него правилната команда трябва да определя конкретна военна цел, времеви и пространствени ограничения и да бъде съобразена с международното хуманитарно право.
„След като позволите на компютъра сам да взема решения за поразяване на цели, вече нямате реален контрол върху качеството на тези решения„, казва той.
Шмид признава, че темпът на технологичните промени във войната е безпрецедентен.
„Иновациите в тази война се случват по-бързо от всичко, което съм виждал през десетилетията си в технологиите„, казва той.
Според него Западът трябва да помогне на Украйна не само да оцелее, но и да увеличи производството на новите оръжия.
„Трябва да помогнем на Украйна да води тази война. Тя се нуждае не само от пари, но и от технологии и помощ за увеличаване на мащаба„, заявява Шмид.
Европа трябва да промени армиите си
Бившият ръководител на Google смята, че европейските армии не се адаптират достатъчно бързо.
„Европейците, с които разговарям, имат същия проблем като американците. Те са много умни и разбират какво се случва, но системата не е организирана около промяната„, казва той.
Според него много европейски държави продължават да поддържат структури, които са създадени за предишния тип война.
Той призовава Европа да насочи повече средства към AI, автономното насочване, дроновете и ракетите, вместо просто да увеличава бюджета на традиционните военни програми.
„Имам нещо по-евтино, по-добро и по-бързо„, заявява Шмид, говорейки за разработваните от него технологии.
Той смята, че Украйна може да се превърне в източник на технологии за европейските армии. Според него украинските компании трябва да получат възможност да продават разработките си на европейските държави.
По думите му подобна „тромавост“ и нежелание за промяна се наблюдава дори в армията на САЩ.
„Работил съм за американската армия в продължение на осем години при различни президенти. Доста хора разбират това и се притесняват. Но системата е почти невъзможно да се промени. Един президент ми каза, че дори президентът не може да я оправи. Казах, че това е много лош отговор.
Моят извод е да оставим армията да продължи да харчи за програми, вече уредени в щатите, които имат значение от политическа гледна точка, като същевременно заделим сравнително малка сума за новите технологии. Новите системи са много по-ефективни и много по-евтини и мисля, че те ще проработят. С течение на времето дори хората, свързани със стария подход, ще кажат, че искат новия. Те искрено искат да защитят Америка. В армията няма предатели; те нямат съгласие относно тактиката„, казва Шмид.
AI надпреварата между САЩ и Китай и необходимостта от по-малко изненади
Шмид разширява тезата си и извън войната в Украйна. Според него САЩ и Китай вече участват в дълбока технологична надпревара за развитието на AI. Той не очаква Вашингтон да спре развитието на технологията, заради потенциалните рискове.
„Няма да има пауза, защото цялата американска система от стимули работи срещу нея„, казва Шмид.
Според него спирането на развитието на AI в САЩ би създало възможност както за американски конкуренти, така и за Китай да изпреварят страната.
Той обаче смята, че между големите държави трябва да има договорености за ограничаване на най-опасните сценарии. Първата цел според него трябва да бъде предотвратяването на неочаквана ескалация.
„Най-важното е да избягваме изненадите„, казва Шмид.
Той дава пример с AI система, която случайно напуска тестова среда и подава сигнал за предполагаема ядрена атака. Ако системите за ответен удар са напълно автоматизирани, подобна грешка може да доведе до катастрофални последици.
„Най-простото нещо, което трябва да направим, е да избягваме изненади. Хенри Кисинджър, нашият общ приятел, който ни липсва скъпо, се притесняваше, че едно събитие може да ескалира спираловидно, както убийството на ерцхерцога преди Първата световна война. След като този процес започне, национализмът, напрежението и липсата на комуникация могат да произведат ужасна война. Война с Китай би била ужасна и би унищожила толкова много от съвременния ни живот„, казва Шмид.
По думите му Китай има огромен индустриален капацитет, но не е участвал в бойни действия от 50 години, което го поставя в неблагоприятна ситуация.
„Китай вече разполага с най-големия производител на дронове в света – DJI, който Америка наскоро забрани. Има пълно основание да се смята, че той има военен еквивалент или подразделение, макар че аз не знам това със сигурност.
Може да сме по-добре, отколкото си мислим, защото Китай не е водил война от 50 години. Няма причина да се вярва, че той разбира тези много фини тактики. Когато попитате украинските командири какво правят, техните разсъждения са изключително сложни: искам да направя това, след което ще се случи това и тъй нататък. Учите се на това чрез практиката. Има пълно основание да се смята, че Китай няма опит в това. Няма доктрина или книга, която да можете да проучите. Така че може и да се справим„, казва Шмид.
Шмид признава, че регулирането на военния изкуствен интелект би било изключително трудно.
„Имате международно тяло, което трябва да помага. Как проверява спазването? То трябва да влезе в тайни лаборатории, включително военни, и да прочете целия код. Но хората не могат да прочетете целия код, защото компютрите го пишат. Ще трябва да приложите компютърната система на ООН към китайската система. По дефиниция системата на ООН не би била толкова бърза или модерна, колкото тази на Китай или Америка, защото няма да разполага с техните ресурси. Нуждаем се от приложимо решение за пауза, а аз не виждам такова„, обяснява Шмид.
Затова Шмид смята, че бъдещето на войната ще зависи не само от това кой разработва най-мощните оръжия. То ще зависи и от това дали държавите ще успеят да запазят човешкия контрол върху тях. И макар да е скептик по въпроса с регулациите, той е оптимист, че изкуственият интелект няма да излезе от контрол.
„Честно казано вярвам, че докато AI остава под човешки контрол и е съобразен с човешките интереси, всичко ще бъде наред„, завършва той. „Вярвам, че можем да го удържим под контрол, отчасти защото на някакво ниво можем просто да дръпнем щепсела.„
]]>
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment