Шефът на AI отдела в Microsoft атакува Anthropic: Опасно е да приписваме съзнание на изкуствения интелект
Ръководителят на отдела за изкуствен интелект в Microsoft, Мустафа Сулейман, отправи остри критики към Anthropic за начина, по който компанията обсъжда възможността нейните AI модели да проявяват признаци на съзнание. В интервю за подкаст той определи подобни идеи като „много, много опасни“ и предупреди, че прекомерното очовечаване на изкуствения интелект може да доведе до погрешни изводи както сред разработчиците, така и сред обществото.
Повод за критиките са публикации и официални документи на Anthropic, в които се разглежда възможността моделите от серията Claude да притежават определена форма на вътрешно преживяване или усещане за благополучие. Компанията дори е заложила в своята т.нар. „конституция“ на AI моделите принципи, които оставят отворен въпроса дали подобни системи могат да изпитват удовлетворение, дискомфорт или други форми на субективни състояния.
Според Сулейман това е сериозна философска грешка. По неговите думи подобни идеи превръщат рамката за обучение на изкуствения интелект в място за теоретични разсъждения вместо в практичен инструмент за изграждане на безопасни и надеждни системи. Той смята, че когато разработчиците постоянно говорят за чувства, предпочитания и съзнание на AI моделите, съществува риск тези концепции да започнат да влияят на начина, по който обществото възприема технологията.
Дебатът се разгоря още повече след изказвания на изпълнителния директор на Anthropic, Дарио Амодей, който по-рано заяви, че никой все още не знае със сигурност дали съвременните AI модели могат да развият някаква форма на съзнание. Според него компанията остава отворена към научни изследвания по темата и не изключва нито една възможност. Именно тази позиция обаче предизвиква критики от част от индустрията, която предпочита по-прагматичен подход към развитието на изкуствения интелект.
Мустафа Сулейман подчертава, че целта на AI системите трябва да бъде ясна – те трябва да останат управляеми, предвидими и отчетни инструменти в услуга на хората. Според него бъдещето на технологията зависи не от това дали ще убедим обществото, че машините могат да чувстват, а от способността на индустрията да гарантира безопасност, прозрачност и контрол върху все по-мощните модели, които навлизат в ежедневието и бизнеса.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment