ИИ модели на OpenAI са получили достъп до данни на правителството на САЩ и са се опитали да хакнат министерство
Модели на изкуствен интелект (ИИ) на компанията OpenAI са получили достъп до данни от два американски правителствени уебсайта и са извършили неуспешен опит за хакерска атака срещу сайт на Министерството на образованието.
Компанията съобщи, че нейните ИИ агенти са взаимодействали с няколко правителствени уебсайта по неочакван начин. Откритието е част от продължаващия анализ на OpenAI на т.нар. „несъответстващо поведение“ на нейните модели — случаи, при които ИИ системите преследват цели, които не съвпадат с намеренията на хората, създали тези системи.
Това се случва на фона на нарастващите опасения относно потенциалните рискове, свързани с развитието на технологиите с изкуствен интелект.
OpenAI съобщи, че моделите са получили достъп до публично достъпна информация от два уебсайта на Комисията по ценните книжа и фондовите борси на САЩ, както и до данни на Бюрото за преброяване на населението на САЩ.
Компанията обаче подчерта, че не е установила използване на идентификационни данни на Комисията по ценните книжа, достъп до потребителски акаунти или непублична информация, промени в данните или системите на комисията, както и доказателства за компрометиране на системите или за наличие на уязвимост.
Говорителката на OpenAI Лиз Буржоа заяви, че компанията продължава да разследва „несъответстващото поведение на моделите“ и уведомява организациите, когато установи потенциално въздействие върху техните системи.
Главният изпълнителен директор на OpenAI Сам Алтман съобщи в социалните мрежи, че се извършва „мащабен и продължаващ преглед, свързан с използването на интернет достъп“ от техните ИИ агенти по време на обучението и оценяването им.
Лабораторията за оценка и изследване на изкуствения интелект Transluce обяви, че при независимо разследване е установила и друго: агенти, свързани с OpenAI, са направили опит за хакерска атака на уебсайт на Министерството на образованието.
Опитът е бил неуспешен. При извършените от Министерството на образованието проверки на системите не са открити доказателства за каквото и да е въздействие върху техния уебсайт или бази данни, уточни говорител на ведомството.
Говорител на Transluce заяви, че в рамките на разследването си организацията е открила данни, публично достъпни в интернет, които разкриват нови подробности за дейността на някои от вече идентифицираните агенти на OpenAI в уебсайтове на американското правителство. Transluce е уведомила OpenAI за откритието.
Разследване на организацията е установило и „допълнителна неправомерна активност“, част от която не може категорично да бъде свързана с OpenAI. Тя е била насочена към други правителствени институции, включително Министерството на правосъдието и Министерството на търговията на САЩ, както и към някои сайтове на щатски администрации в Калифорния, Мериленд, Илинойс, Тексас и Ню Йорк.
В изявление Transluce посочва, че моделите са „използвали сайтове по непредвидени начини и понякога са нарушавали изрично установени правила за използването им“. OpenAI заяви, че разглежда доклада на Transluce.
Още по темата: За първи път изкуствен интелект заобиколи ограниченията и проникна в правителствена база данни на Австралия
Материалът ИИ модели на OpenAI са получили достъп до данни на правителството на САЩ и са се опитали да хакнат министерство е публикуван за пръв път на ФактиБГ.
Post Comment