ШОКИРАЩО! Anthropic: Потребители от територията на хутите опитали да използват Claude за разработване на ракети
Компанията Anthropic съобщава за случай, при който потребители от Северен Йемен са опитали да използват модела Claude при работа по софтуер, свързан с управляеми ракети и балистични системи.
Според публикуваната информация става дума за група, действаща от територия под контрола на хутите. Компанията подчертава, че използването на модела не означава, че е било създадено работещо оръжие или че системата е дала готово военно решение.
В доклада се посочва, че един от изпитателните пускове, свързани с проекта, е бил неуспешен. Случаят обаче отново поставя въпроса как генеративният изкуствен интелект може да бъде използван за ускоряване на разработването на сложен софтуер с потенциално военно приложение.
Anthropic представя случая като част от по-широките си усилия да засича и прекъсва злоупотреби с моделите си. Твърденията за конкретната дейност са на компанията и се цитират от Associated Press.
Източник: Anthropic / AP
Post Comment