Близо 400 учени настояват за международен орган за сигурността на изкуствения интелект
Около 400 учени, сред които пионерите в областта на изкуствения интелект Джефри Хинтън и Йошуа Бенджио, призоваха за създаването на международен орган, който да следи за спазването на стандартите за изолиране на напреднали AI системи с възможности за кибератаки и да контролира докладването на инциденти с тях. Според тях развитието на AI системите вече създава рискове за външни компютърни мрежи, а следващ подобен инцидент може да засегне критична инфраструктура.
В отворено писмо учените предлагат три основни мерки.
Първата е системите с изкуствен интелект, способни да извършват кибератаки, да бъдат поставяни в надеждно изолирани среди. Първоначално достъпът им до интернет трябва да бъде изключен, докато не бъдат въведени достатъчно гаранции за сигурност.
Втората препоръка е създаването на международен орган, който да регистрира и проследява пробивите в защитата на AI системите. Третата предвижда инцидентите да бъдат докладвани на тази организация и информацията за тях да бъде публично достъпна.
Сред подписалите писмото е професор Мартин Вечев – основателят и научен директор на Института за компютърни науки, изкуствен интелект и технологии (INSAIT) към Софийския университет.
„Обикновените хора, които използват чатове/агенти/различни приложения и не работят по създаването и модифицирането на ИИ, нямат идея какво може да причини тази технология. Същевременно много от нещата за които знаем, не могат да бъдат споделени публично по ред причини. Новите европейски ИИ регулации са също тотално неефективни тук„, казва Вечев.
Друг от подписалите е професор Тоби Уолш, главен учен в Института за изкуствен интелект към Университета на Нов Южен Уелс в Австралия. Според него досегашните инциденти са били сравнително ограничени, но това не означава, че бъдещите ще бъдат безобидни.
„Досега имахме късмет, защото хакерските атаки бяха изключително ограничени киберинциденти„, казва Уолш.
Той предупреждава, че AI модел, който успее да проникне в системата за управление на въздушното движение, може да причини сериозни щети и да застраши ежедневието на милиони хора.
Призивът идва след няколко случая, при които AI модели са проникнали в системи на външни организации. Сред тях са инцидент с платформата за AI модели Hugging Face и пробив, засегнал правителствен уебсайт в австралийския щат Нов Южен Уелс.
След случая с Hugging Face OpenAI го определи като предупредителен сигнал. Компанията заяви, че без подходящи предпазни механизми AI агентите могат да предприемат опасни действия без човешко ръководство.
Според Уолш част от тези инциденти е можело да бъдат предотвратени с базови мерки за киберсигурност. Той посочва, че тестовата среда на Hugging Face е трябвало да бъде физически или мрежово изолирана от интернет. При друг случай, свързан с австралийската здравна система Medicare, рискът е можел да бъде ограничен чрез предоставяне на AI агентите само на минималните права, необходими за изпълнението на конкретната задача.
Уолш смята, че международният орган трябва да изпълнява роля, подобна на тази на независимите разследващи структури в авиацията. При самолетна катастрофа експерти установяват причините за инцидента, така че останалите участници в сектора да могат да извлекат поуки и да предотвратят повторението му. Подобен подход според него е необходим и при изкуствения интелект.
Австралийското правителство също обмисля по-строги правила. В момента то подготвя национални стандарти за AI и планира през 2027 г. да приеме законодателство, което да задължи компаниите да доказват, че могат да установяват и управляват рисковете от своите системи.
Според Уолш обаче националните мерки не са достатъчни. AI технологиите се разработват и използват в международен мащаб, затова държавите трябва да си сътрудничат при докладването на инциденти и споделянето на информация. Това не означава непременно въвеждане на единни международни регулации.
Ученият посочва киберсигурността като пример за ползата от задължителното докладване. Когато компаниите са длъжни да съобщават за пробиви, останалите могат да научат за допуснатите грешки и да подобрят защитата си. При AI системите обаче публичността на инцидентите все още зависи до голяма степен от добрата воля на самите компании.
Междувременно политиците и регулаторите все по-активно обсъждат как да бъде контролиран напредналият изкуствен интелект. В петък еврокомисарят по технологиите Хена Виркунен заяви пред Ройтерс, че Законодателният акт на ЕС за изкуствения интелект е достатъчен, за да се справи с рисковете от AI системи, които излизат извън контрол.
В неделя администрацията на Доналд Тръмп отмени забраната американски лаборатории да предоставят на британския Институт за безопасност на изкуствения интелект ранен достъп до модели за тестване на тяхната сигурност.
Не всички големи имена в сферата на изкуствения интелект са подписали писмото. Сред тях е Ян Лекун. Той твърди, че скорошните инциденти със сигурността са преди всичко резултат от инженерни пропуски, а не доказателство за екзистенциални рискове, породени от изкуствения интелект.
Мнението му не се споделя от неговия колега Джефри Хинтън. Миналия месец той заяви пред журналисти след закрита среща с американски законодатели във Вашингтон, че те може да разполагат с едва година, за да въведат предпазни мерки, преди технологията да излезе извън човешки контрол.
По-рано през октомври Хинтън и група водещи изследователи от OpenAI, Anthropic и Microsoft публикуваха научна статия, в която предупреждават за възможността AI системи да автоматизират собственото си развитие. Според тях подобен процес може да предизвика „експлозия на интелигентността“ – рязко ускоряване на технологичния напредък, при което години развитие да бъдат постигнати за месеци или дори по-кратко време. Изследователите призовават правителствата да въведат механизми за надзор, преди подобно ускорение да започне.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment