Защо руският опит за копиране на мозъчен механизъм в невронни мрежи среща сериозни физически ограничения
Биологичната спирачка срещу дигиталното прегряване
В класическата компютърна архитектура претоварването се решава с дротлинг – принудително сваляне на тактовата честота или изключване на ядра, когато термодвойките отчетат критични градуси. В биологичния мозък процесът е значително по-елегантен и суров: синапсите просто изпадат в така наречената краткосрочна синаптична депресия. Когато даден невронен канал бъде бомбардиран от прекомерен брой импулси, химическият ресурс за предаване на сигнала се изчерпва физически и връзката временно отслабва.
Екипът на Виктор Казанцев от Лабораторията по невробиоморфни технологии към МФТИ и колегите му от Института по биология и биомедицина в Държавния университет „Лобачевски“ описват в списание European Physical Journal Special Topics именно пренасянето на този механизъм върху импулсна невронна мрежа. В техния модел информацията не тече като непрекъснат цифров масив, а се пренася чрез кратки електрически разряди – спайкове. При ниско натоварване мрежата уплътнява структурата на самия пакетиран импулс, а при високи честоти просто скъсява интервалите между отделните разряди. Това изглежда напълно логично като софтуерен баланс, но инженерите, работили по архитектурите на по-стари проекти като IBM TrueNorth или SpiNNaker в Манчестър, познават добре една пробойна в теорията. При преминаване от софтуерна симулация към реален силициев чип, поддържането на динамични синаптични тегла в реално време изисква асинхронна памет с изключително ниска латентност. Без специализирани мемристорни елементи, които все още трудно излизат от експерименталния си стадий в лабораторни условия, всяка хомеостатична корекция консумира ресурси, които бързо изяждат уж спестената енергия.
Синхронизация на каскадата и архивното гробище на идеи
Алгоритъмът за дългосрочна пластичност, внедрен от руските изследователи, регулира теглата на връзките спрямо физическото време между отделните спайкове. В биологията това съответства на правилото на Хеб: невроните, които се възбуждат заедно, се свързват заедно. В дигиталния модел на МФТИ това води до генерирането на така наречените мрежови пикове – масивни, синхронни разряди, обхващащи почти цялата структура. Когато външният шум премине определен праг, системата просто го филтрира, а при поява на разпознаваем сигнал произвежда единен мощен спайк.
В това отношение симулацията демонстрира устойчивост срещу фалшиви сигнали, което е критично за машини, работещи в агресивна среда. Подобни опити за справяне със шума обаче са правени още през 90-те години на миналия век в рамките на проекти за автопилоти и военна радиолокация. Тогава основният препъникамък се оказа така наречената мрежова епилепсия – състояние, при което свръхсинхронизацията блокира способността на системата да превключва между различни задачи, превръщайки я в статичен резонансен контур. Документите от изследването в Нижни Новгород показват, че хомеостатичният регулатор успява да удържи този лавинообразен процес в симулирана среда, но тепърва предстои тестът на реалния терен.
Архивите от разкопките на предишни технологични провали напомнят, че преходът от софтуерен модел към хардуерна реализация е мястото, където повечето фундаментални открития потъват в интелектуална мъгла. За да може една такава мрежа да захранва автономен робот без връзка с облачни сървъри, тя трябва да бъде отлята в конкретна микроелектронна схема. По данни на Министерството на образованието и науката целта е създаването на нискоенергийни невроморфни процесори. По-ранни публикации по темата за автономни безпилотни системи показват, че чиповете без физическа преконфигурация страдаха от висока чувствителност към температурни колебания, което променяше прага на задействане на логическите гейтове.
Източник: pogled.info



Post Comment