ChatGPT за тийнейджъри е под критика заради пропуски в системите за безопасност
Специалната версия на ChatGPT за тийнейджъри се оказа в центъра на нов спор около безопасността на изкуствения интелект. Неправителствената организация Common Sense Media, която оценява приложения, услуги и съдържание с фокус върху защитата на деца и младежи, заяви, че ChatGPT for Teens създава „неприемлив риск“ за младите потребители. Според организацията част от обещаните защитни механизми не се задействат достатъчно надеждно в ситуации, при които би трябвало да ограничат рисково съдържание или да информират родителите.
Основните критики са насочени към няколко области. Common Sense Media твърди, че чатботът невинаги изпраща предупреждения към родителите, когато разговорът навлезе в потенциално опасна посока, не предлага достатъчно подходяща помощ при кризисни ситуации и продължава да изпълнява учебни задачи вместо учениците, въпреки че услугата е представяна и като инструмент, който трябва да подпомага ученето. Според организацията това създава риск родителите да разчитат прекалено много на автоматичните защити и да останат с впечатлението, че системата следи надеждно за проблемно поведение.
Особено сериозен е примерът, посочен от Том Сигел, изпълнителен директор на Института за безопасност на изкуствения интелект за младежи към Common Sense Media. По думите му тийнейджър може да води продължителен разговор на тема самонараняване, без родителят непременно да получи предупреждение. На тази основа организацията препоръчва ChatGPT да се използва от непълнолетни с повишено внимание, докато ефективността на защитните механизми не бъде потвърдена чрез допълнителни независими тестове.
OpenAI обаче не е съгласна с направените заключения. Компанията заявява, че е силно ангажирана с безопасността на тийнейджърите и разработва както специални ограничения за непълнолетни, така и инструменти за родителски контрол. Според OpenAI тестовете на Common Sense Media може да не отразяват правилно начина, по който тези функции работят в реални условия. Компанията посочва, че значителна част от изпитанията вероятно са били започнати или приключили преди пълното активиране на родителския контрол, което според нея може да е повлияло на резултатите и особено на проверките дали родителските известия се задействат правилно.
Common Sense Media от своя страна остава зад заключенията си. Сигел заяви, че уточненията на OpenAI не променят основния проблем – според организацията все още има въпросителни около надеждността на предупрежденията в кризисни ситуации. Спорът показва колко трудна остава задачата за разработчиците на генеративен изкуствен интелект: системите трябва едновременно да бъдат полезни за младите потребители, да не ограничават прекомерно нормалното общуване и в същото време да реагират надеждно при разговори, свързани с реален риск.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment