Бил Гейтс с тежко предупреждение: Изкуственият интелект може да причини катастрофа с огромен мащаб
Предупрежденията за рисковете от изкуствения интелект стават все по-сериозни, а темата вече излиза далеч извън технологичния сектор. Бил Гейтс, бивши изследователи от водещи AI компании и представители на САЩ и Китай говорят все по-открито за необходимостта от механизми за контрол върху най-мощните системи.
Според Бил Гейтс изкуственият интелект вече е достатъчно мощен, за да бъде използван по начин, който може да доведе до катастрофални последици. Той допуска сценарии, при които злоупотребата с подобни технологии би могла да причини събития с до един милиард жертви.
Гейтс не твърди, че подобно развитие е неизбежно. Основното му предупреждение е, че комбинацията между злонамерени хора и изключително мощни AI инструменти може да създаде възможности, каквито човечеството досега не е притежавало.
Сред рисковете се посочват мащабни кибератаки, подпомагане на създаването на опасни биологични агенти, автоматизация на военни действия, манипулация на общественото мнение и атаки срещу критична инфраструктура.
Затова Гейтс поставя под съмнение идеята, че технологичните компании могат сами да регулират развитието на изкуствения интелект. Според него са необходими законови механизми, участие на държавните институции и ясни задължителни правила за безопасност.
Още по-категорични предупреждения идват от хора, които са работили пряко върху най-мощните AI модели.
Изследователят Джейкъб Коксън, който е работил по обучението на модели в OpenAI и Anthropic, предупреждава, че хора от индустрията действително приемат сериозно възможността свръхинтелигентна система да излезе извън човешки контрол.
Според него големият проблем е, че компаниите се движат към създаването на все по-способни системи, без да разполагат с доказан механизъм, който да гарантира, че тези системи винаги ще следват човешките цели.
Подобни опасения споделят и други специалисти в сектора.
Това не означава, че съществува научен консенсус, според който изкуственият интелект непременно ще доведе до глобална катастрофа. Специалистите признават, че вероятността за подобни сценарии трудно може да бъде измерена. Самият факт обаче, че предупрежденията идват от хора, които разработват най-мощните модели, привлича все по-голямо внимание.
Паралелно с това започват да се променят и позициите на технологичните лидери.
Ръководители на големи AI компании вече говорят за независими проверки на най-мощните модели, постоянен достъп на външни оценители до тях и по-тясно международно сътрудничество.
Темата вече се превръща и във въпрос на геополитика.
САЩ и Китай започват да изграждат механизъм за комуникация при сериозни инциденти, свързани с изкуствен интелект. Целта е двете сили да могат бързо да обменят информация, ако възникне опасна ситуация с мощна AI система.
Подобен канал напомня на кризисните линии за комуникация между големи държави, използвани при риск от военна ескалация.
Идеята не представлява международен договор за контрол върху изкуствения интелект, но показва, че Вашингтон и Пекин започват да признават необходимостта от координация при потенциално опасни сценарии.
Китайската позиция е, че изкуственият интелект трябва да остане под човешки контрол, а световните сили трябва да обменят информация за ползите и рисковете от технологията.
В същото време остава сериозно противоречие.
И САЩ, и Китай искат да бъдат лидери в развитието на AI. Това означава, че всяко доброволно забавяне може да бъде възприемано като стратегическо отстъпление пред конкурента.
Така се създава своеобразна технологична надпревара, при която всички участници могат да признават рисковете, но никой не иска да бъде първият, който ще намали темпото.
Най-реалните опасности в момента не са свързани непременно със сценарий, при който машините внезапно решават да унищожат човечеството.
По-близките рискове са много по-конкретни: автоматизирани кибератаки, автономни оръжия, проникване в критична инфраструктура, създаване на опасни вещества с помощта на AI и системи, способни да изпълняват все по-сложни задачи с минимална човешка намеса.
Именно затова дискусията постепенно се измества от въпроса дали изкуственият интелект е опасен към въпроса как да бъде контролиран.
Все повече експерти настояват за независими тестове, задължително докладване на сериозни инциденти и запазване на човешкия контрол върху най-мощните системи.
Изкуственият интелект вече не е само технологичен въпрос. Той постепенно се превръща в проблем на националната сигурност, международните отношения и бъдещето на човечеството.
Post Comment