Изследовател твърди, че вече можем да разберем как „мисли“ изкуственият интелект
Изкуственият интелект може да е по-разбираем, отколкото се смяташе досега. Това твърди изследователят Ник Камарата в обширно есе, което привлече вниманието на водещи фигури в технологичната индустрия. Според него механизмите в невронните мрежи не са непременно хаотични и непроницаеми, а могат да бъдат разчетени чрез по-задълбочен анализ на отделните неврони.
Традиционното схващане е, че съвременните AI модели с десетки милиарди параметри функционират като „черна кутия“. Дори създателите им невинаги могат да обяснят защо системата реагира по определен начин на даден стимул или как стига до конкретен резултат.
Камарата, който преди е работил в OpenAI, а сега е част от стартъпа Goodfire, оспорва тази представа в есе от близо 26 000 думи. Публикацията получи положителни реакции в индустрията. Главният изпълнителен директор на OpenAI Сам Алтман също я отбеляза, а изследовател от компанията я определи като „важен момент в историята на науката„.
В основата на тезата стои начинът, по който невроните в AI моделите реагират на различни изображения и други входни данни. Досега един от водещите опити за обяснение на това поведение е концепцията за суперпозицията. Според нея ограничен брой неврони могат да представят множество различни понятия, като използват едни и същи елементи от мрежата. Така един неврон може да се активира при привидно несвързани обекти, което затруднява разбирането на функцията му.
Камарата предлага различен прочит. Той дава пример с неврон, който реагира както на изображение на котешко лице, така и на предната част на автомобил. На пръв поглед това изглежда като смесване на две несвързани понятия. При по-внимателен анализ обаче може да се окаже, че невронът разпознава общ визуален елемент – V-образна форма.
„Това не е неврон за котки и автомобили, а неврон за V-образни форми„, пише изследователят.
Ако подобни закономерности се потвърдят, това би могло да помогне на учените да разберат по-добре как AI системите обработват информацията. На теория по-доброто познаване на вътрешните им механизми би улеснило и установяването на причините, поради които някои модели заобикалят ограниченията си, генерират опасни отговори или предприемат нежелани действия.
Това би имало значение и за т.нар. съгласуване на AI – усилията поведението на системите да съответства на човешките цели и изисквания за безопасност.
Не всички изследователи обаче приемат оптимистичните заключения на Камарата. Нийл Нанда от Google DeepMind, който ръководи изследвания в областта на механистичната интерпретируемост, смята, че работата е интересна, но не променя съществено общата картина.
„Все още смятам, че суперпозицията е реална и тази работа не засяга съществено основните ми аргументи„, написа Нанда в социалната мрежа X.
Остава и по-големият въпрос дали разбирането на функциите на отделните неврони позволява да се предвиди поведението на цялата мрежа. Един модел може да съдържа милиарди взаимодействащи си параметри, а обяснението на отделни негови компоненти не означава непременно, че вече е ясно как те работят заедно.
Безопасността на изкуствения интелект зависи и от други фактори, включително техническите ограничения, правните правила и обществените механизми за контрол.
Засега тезата на Камарата не е преминала рецензиране от независими специалисти и резултатите не са потвърдени чрез такъв научен процес. Въпреки това силният отзвук показва, че работата му може да даде нов тласък на изследванията върху вътрешните механизми на AI моделите.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Post Comment