Предсказа се, че светът ще се изправи пред глобална трагедия. Едва след това човечеството ще започне да ограничава изкуствения интелект.

По публикации в медиите. Редакционна разработка, анализ и допълнителен контекст: Поглед.инфо.

Урокът от височинните взривове: Защо дипломацията чака катастрофа

През юли 1962 г. САЩ провеждат ядрения опит Starfish Prime, взривявайки боеголовка с мощност 1,4 мегатона на височина около 400 километра над Атола Джонстън в Пасифика. Електромагнитният импулс (EMP) изважда от строя уличното осветление и телекомуникационните линии на над 1300 километра в Хавай, а генерираният радиационен пояс поврежда или разрушава поне 8 от общо 24 спътника, намиращи се в ниска околоземна орбита по онова време (включително първия комерсиален комуникационен спътник Telstar 1). Едва след този инцидент и последвалата през октомври същата година Карибска криза, Москва и Вашингтон сядат на масата за преговори, за да подпишат през 1963 г. Договора за забрана на изкушенията с ядрено оръжие в атмосферата, космоса и под водата.

В предаването „Итоги на ДНК с Делягином“ по телевизия „Царград“ председателят на съвета на Фонда за развитие на цифровата икономика Герман Клименко и докторът по икономика Михаил Делягин направиха директна аналогия между този исторически епизод и сегашното състояние на сектора за изкуствен интелект. Твърди се, че днешната международна архитектура е еднакво неспособна да установи превантивни ограничения върху технологичните мощности, преди да настъпи сериозен колапс.

Ако днес се случи подобен радиационен или софтуерен срив на ниска околоземна орбита, последиците за системи като Starlink на SpaceX (която разполага с хиляди активни апарата) биха били незабавни. Подобна логика важи и за критичната наземна инфраструктура. Клименко изтъква, че докато липсва конкретен физически щетен случай — например спиране на енергийна мрежа или срив в управлението на здравна институция — преговорите между основните играчи като САЩ и Китай ще останат на ниво декларации.

Милиард жертви или корпоративно лобиране: Психологията на алармизма

В интервю за NBC News основателят на Microsoft Бил Гейтс изрази опасения, че некоординираният напредък при невронните мрежи може в даден момент да създаде условия за глобална катастрофа, засягаща до милиард души. Твърди се, че основният рисков фактор според него е комбинацията от злонамерени субекти (киберпрестъпници или държавни актьори) и високоавтономни алгоритмични системи. Гейтс призова за задължително държавно регулиране и нормативи за сигурност.

В същото време редица специалисти изразяват скептицизъм относно мотивите зад тези призиви. Професорът от Международния изследователски институт за контролни науки Роман Душкин посочва, че голяма част от публичните алармистични изявления нямат техническа обоснаваност. Той припомня писмото от април 2023 г., подписно от Илон Мъск и стотици технологични лидери, с което се искаше шестмесечен мораториум върху обучението на модели, по-мощни от GPT-4. Скоро след това обаче Мъск основа новата си компания xAI и пусна модела Grok, което повдига въпроси дали призивите за регулация не са просто механизъм за забавяне на конкуренцията.