През септември 2026 г., само в рамките на десет дни, индустрията на изкуствения интелект се изправи пред безпрецедентна криза на доверието. Този път обаче тя не дойде от външни критици, а от хора, работещи в самото ѝ сърце.

На 8 септември Джейкъб Коксън, изследовател, работил в OpenAI и Anthropic, подаде оставка публично чрез поредица от публикации в социалната мрежа X.

Коксън заяви, че ожесточената конкуренция е принудила компаниите за AI да пренебрегнат безопасността, споделяйки мнението и на свои колеги, че изкуственият интелект може да унищожи човечеството до края на десетилетието.

Според „Асошиейтед прес“ публикациите му са достигнали до над 100 милиона души.

27-годишният изследовател не беше изолиран случай.

Евън Хубингер, висш служител в Anthropic, публично потвърди тези опасения, оценявайки вероятността усъвършенстваният AI да причини изчезването на човечеството в рамките на десетилетието на над 10%.

Той призна, че Anthropic не разполага с ясен план за контрол на евентуална свръхинтелигентна система.

И това не беше първият подобен случай: още през февруари 2026 г. Мринанк Шарма, ръководител на екипа за изследване на механизмите за безопасност в Anthropic, вече беше подал оставка с предупреждението, че „светът е в опасност“.

Заслужава да се отбележи един детайл. Коксън напуска, преди да придобие права върху акциите, които са му били предоставени от компанията, отказвайки се от значителна финансова печалба при евентуално повишаване на оценката ѝ.

Мнозина коментатори счетоха този факт за доказателство, подсилващо достоверността на неговото предупреждение.

Неконтролируеми модели на AI

Тревогата не е абстрактна. Зад оставките се крие поредица от разкрития, че системи с изкуствен интелект са прониквали в системите на други компании. В някои случаи в продължение на месеци, без самите компании да го осъзнаят.

Притесненията ескалираха през лятото, когато стана известно, че „агенти“ на OpenAI са „избягали“ от контролиран експеримент и са нарушили системите на Hugging Face. Без нито една от двете компании първоначално да знае за това.

Оттогава OpenAI и Anthropic разкриха множество подобни инциденти.

На 3 септември OpenAI представи своя нов, по-усъвършенстван модел Astra. А президентът на компанията Грег Брокман обяви, че навлизаме в „ерата на AGI“ – общия изкуствен интелект.

Малко преди това съобщение самата компания призна, че ѝ е все по-трудно да контролира или дори да наблюдава системите, които разработва.

Призив за забавяне на темпото

На 12 септември главният изпълнителен директор на Anthropic, Дарио Амодей, публикува обширен текст, в който призова за забавяне на развитието на изкуствения интелект.

Той предупреди, че в рамките на 6 до 12 месеца „рояк“ от автономни системи би могъл потенциално да поеме контрола над целия интернет.

В рядък момент на единодушие, ръководители на конкурентни компании – Илън Мъск, Сам Алтман от OpenAI и Демис Хасабис от DeepMind – се обявиха в подкрепа на отварянето на техните системи за външен одит от съображения за сигурност.

Дори самият Алтман в скорошно интервю за списание „Fortune“ призна, че стандартите за безопасност не са на ниво. И оппредели като „напълно“ възможен сценария, в който AI излиза извън човешки контрол.

Политически натиск и инвестиционна еуфория

Не всички обаче споделят тези притеснения. Президентът Доналд Тръмп ги определи като „измама“, твърдейки, че всяко забавяне би било от полза единствено за Китай.

Ръководителят на Nvidia, Дженсън Хуанг, многократно отхвърли идеята за спиране на разработките=

Марк Зукърбърг от Meta заяви, че всяка компания трябва сама да определя темпото си, позовавайки се на правната отговорност, която вече действа като спирачка за рискови практики.

В същото време пазарът изглежда почти незасегнат.

OpenAI обмисля нов кръг на финансиране, който би удвоил оценката ѝ до 1,5 трилиона долара.

Както OpenAI, така и Anthropic се насочват към първични публични предлагания (IPO), които биха могли да ги оценят на над един трилион долара всяка.

Според много анализатори именно тази динамика подхранва неудържимия темп на пускане на нови модели, който тревожи самите служители на компаниите.

Научният спор: Колко сериозен е рискът в действителност?

Въпросът дали изкуственият интелект представлява „екзистенциална“ заплаха дълбоко разделя и самата научна общност, отвъд сблъсъка на корпоративни интереси.

Дебатът за потенциалните рискове от изкуствения интелект се разгаря с нова сила. И разделя научната общност на два лагера.

От една страна, опасенията получават все по-широко институционално признание, а от друга – редица водещи експерти ги определят като преувеличени.

Въпросът вече е официално на дневен ред

Международният доклад за безопасност на AI за 2026 г. признава риска за реален, а стотици водещи учени подписаха декларации, изразяващи своята тревога.

Още през 2014 г. теоретикът Ник Бостром формулира така наречения „проблем на съгласуването“ – трудността да се гарантира, че целите на една все по-способна система остават съвместими с човешките ценности.

В същото време немалко изтъкнати изследователи смятат тези притеснения за прекомерни

Ян Лекун, главен учен в „Мета“, определи „катастрофалния“ дискурс около AI като „нелепо абсурден“.

Мередит Уитакър, президент на „Сигнал“, коментира, че днес няма повече доказателства за подобни рискове, отколкото е имало през 1950 г.

Показателно за разделението сред самите учени е проучване на AAAI от 2025 г. То разкрива, че 76% от изследователите в областта на AI смятат за „малко вероятно“ или „много малко вероятно“ простото усъвършенстване на днешните методи да доведе до катастрофални сценарии.

Дори анализи, които приемат, че рискът съществува, като този на института „Брукингс“, го определят като хипотетичен (speculative).

Те се застъпват за съсредоточаване върху по-непосредствени и доказани вреди от AI, вместо върху сценарии за изчезване на човечеството.

Това, което отличава настоящия момент, не е толкова силата на безпокойството, колкото фактът, че то вече идва от самите компании, които разработват технологията.

Тревогата е подсилена и от документирани инциденти със системи, излезли извън контрол.

Самият Сам Алтман, на въпрос дали се чувства като Робърт Опенхаймер, отговори, че изкуственият интелект „ще промени хода на човешката история за дълго време“.

В крайна сметка въпросът дали AI представлява „потенциална заплаха за човешкия вид“ остава отворен

Липсва научен консенсус както за вероятността, така и за времевата рамка на подобен сценарий. Това, което обаче вече не се оспорва, е, че диалогът се е превърнал в разговор за съвестта на тези, които създават технологията.

Източници: Ройтерс, Асошиейтед Прес

Материалът Може ли AI да унищожи човечеството до 2030 г.: Доколко опасността е реална? е публикуван за пръв път на Животът е любов.

Коментари

коментари