Щатът Аризона азследва OpenAI и други компании за неконтролируеми ИИ агенти в банки
Американският щат Аризона е започнал наказателно разследване срещу OpenAI и други компании за изкуствен интелект във връзка с „очевидно проникване на неконтролируеми ИИ агенти в банки„, заяви главният прокурор на щата Крис Мейс, цитиран от Ройтерс и БТА.
Наказателното разследване не означава непременно, че ще бъдат повдигнати обвинения. Мейс заяви, че службата ѝ проверява дали продължава да се извършва нарушение на законодателството на щата Аризона.
„Щатът Аризона е много обезпокоен от това и разглеждаме въпроса от няколко различни гледни точки„, заяви Мейс на пресконференция в Чикаго.
Мейс отказа да посочи имената на останалите компании, които службата ѝ разследва. Тя съобщи, че екипът ѝ е установил контакт с банки в Аризона, но отказа да назове институциите или да разкрие техните реакции. Говорител на OpenAI не е отговорил на искане на Ройтерс за коментар по въпроса.
Банковият сектор все по-силно се опасява, че усъвършенстваните ИИ агенти могат да навредят на банковата система и на институциите, на които хората поверяват съхранението на своите средства. Миналия месец Ройтерс съобщи, че големи американски банки блокират достъпа на външни ИИ агенти до клиентски сметки и извършването на трансакции от тяхно име.

Изявлението на Мейс идва два дни след като главният прокурор на Калифорния Роб Бонта заведе дело срещу OpenAI с твърдението, че компанията е разработила опасен продукт без адекватни процедури за безопасност и надзор. Повод за делото са информации, че нейни ИИ модели са извършвали самостоятелно кибератаки.
Компанията призна необходимостта от по-голяма прозрачност по отношение на поведението на неконтролируеми ИИ системи и заяви, че засилва защитните си механизми.
На 16 септември OpenAI публикува нова рамка за разкриване на подобни инциденти, като заяви, че ще предпочита прозрачността „дори когато значимостта на даден случай е под въпрос“.



Post Comment