Тръмп е бил запознат със „свръх-възможностите“ на най-новия AI на Anthropic
Изкуственият интелект Mythos на компанията Anthropic е бил представен пред американската администрация, след като съоснователят ѝ Джак Кларк потвърди, че компанията е провела брифинг с президента на САЩ и други служители на Белия дом.
Според информацията моделът е сметнат за толкова мощен, че засега не се пуска публично, поради потенциалните му възможности в киберсигурността и риска от злоупотреба.
Въпреки съдебен спор между Anthropic и американското Министерство на войната относно достъпа до AI системи за военни и наблюдателни цели, компанията продължава комуникацията с правителството, като подчертава значението на националната сигурност.
От компанията посочват също, че наблюдават ранни признаци на промени на трудовия пазар, особено при младите специалисти, но засега ефектите са ограничени.
В по-широк план представители на Anthropic отбелязват, че развитието на AI ще изисква нов тип образование – такова, което развива аналитично мислене и способност за комбиниране на знания от различни области.
Главният изпълнителен директор на Goldman Sachs Дейвид Соломон заяви, че банката следи изключително внимателно развитието на новия AI модел Mythos, създаден от Anthropic, заради потенциалните му рискове в сферата на киберсигурността.
По думите му институцията работи в тясно сътрудничество с технологичната компания и свои партньори по сигурността, за да разбере и използва възможностите на модела, като същевременно се предпазва от заплахи. Соломон подчертава, че напредъкът при големите езикови модели (LLMs) е изключително бърз и изисква постоянна адаптация.
От Anthropic предупреждават, че „Mythos“ достига ниво, при което може да открива и експлоатира уязвимости в софтуер по-добре от повечето хора, включително да извършва сложни кибератаки с множество стъпки почти автономно. Това създава сериозни рискове за икономиката, обществената сигурност и националната отбрана.
Темата е привлякла вниманието и на американските власти, като финансовият министър е провел среща с водещи банки за оценка на заплахите. Междувременно британският AI Security Institute също предупреждава, че моделът представлява значителна ескалация спрямо предишни AI системи, тъй като може самостоятелно да открива слабости в IT системи и да изпълнява сложни сценарии за атака.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment