OpenAI и Anthropic: AI може да направи биологичните оръжия по-достъпни от всякога
Най-големите компании в сферата на изкуствения интелект започват все по-открито да предупреждават за рисковете, които крие собствената им технология. OpenAI и Anthropic, подкрепени от Microsoft и група водещи учени в областта на биологията и AI, изпратиха официално писмо до Управлението по наука и технологична политика на Белия дом (OSTP), в което настояват за въвеждането на по-строг контрол върху използването на изкуствен интелект в сферата на синтетичната биология.
Според авторите на документа съвременните AI модели вече са достигнали ниво, при което могат значително да улеснят създаването на биологични агенти с потенциално опасно предназначение. Обучени върху огромни масиви от научна информация, тези системи могат да предоставят подробни инструкции за синтезиране на ДНК, производство на протеини или създаване на сложни биологични структури. Това означава, че знания, които доскоро изискваха години образование и достъп до специализирани лаборатории, могат да станат достъпни за много по-широк кръг хора.
Особено сериозна тревога предизвиква фактът, че голяма част от компаниите, предлагащи услуги за синтетична ДНК и биологични материали, все още разчитат предимно на доброволни механизми за проверка на клиентите. Докато държавните и сертифицираните лаборатории подлежат на строг контрол, частният сектор остава значително по-слабо регулиран. Според подписалите писмото това създава потенциални вратички, които биха могли да бъдат използвани от злонамерени лица.
Допълнително безпокойство предизвикват новите AI агенти, които не просто обобщават налична информация, а могат да предлагат нестандартни решения на сложни научни проблеми. Според експертите подобни системи биха могли да подпомогнат намирането на алтернативни методи за синтез на опасни вещества, да съдействат при избора на оборудване и дори да помогнат за отстраняване на проблеми по време на лабораторни процеси. Именно затова компаниите настояват за независими външни одити и задължително тестване на моделите за наличие на потенциално опасни способности преди публичното им внедряване.
Въпреки това авторите на писмото подчертават, че не търсят забрана на технологиите. Напротив, те признават, че изкуственият интелект може да ускори разработването на нови лекарства, ваксини и терапии.
Според тях решението е въвеждането на многостепенна система за достъп, при която най-мощните модели с потенциал за биологични приложения да бъдат достъпни само за проверени и лицензирани изследователи. Така, според OpenAI, Anthropic и останалите подписали писмото организации, иновациите ще могат да продължат, без обществото да поема ненужни рискове.
Технологичните компании призовават американското правителство да създаде ясна законова рамка и национална система за надзор върху подобни разработки. Според тях времето за саморегулация е изчерпано, защото развитието на AI вече позволява достъп до знания, които в миналото са били достъпни единствено за държавни лаборатории и големи научни институции. А когато става дума за потенциални биологични заплахи, залогът е твърде голям, за да бъде оставен на доброволни правила.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment