Нейронное кодирование в спайковых нейронных сетях: сравнительное исследование для устойчивых нейроморфных систем

Различные гипотезы о представлении информации в мозге, называемые нейронными кодами, были предложены для объяснения передачи информации между нейронами. Нейронное кодирование играет ключевую роль в том, чтобы спайковые нейронные сети, вдохновлённые работой мозга, могли выполнять различные задачи. Чтобы найти оптимальную схему кодирования, мы провели масштабное сравнительное исследование влияния и эффективности четырёх важных схем нейронного кодирования: частотного кодирования, кодирования «время до первого спайка» (TTFS), фазового кодирования и пакетного кодирования. Сравнение выполняли на биологической двухслойной спайковой нейронной сети, обученной с помощью алгоритма STDP без учителя. Оценивали различные аспекты работы сети, включая точность классификации, задержку обработки, число синаптических операций (SOP), аппаратную реализацию, эффективность сжатия сети, устойчивость к шуму входных данных и синаптическому шуму, а также толерантность к синаптическим отказам. В исследовании использовали задачи классификации на наборах данных Modified National Institute of Standards and Technology (MNIST) и Fashion-MNIST. Для аппаратной реализации оценивали площадь кристалла и энергопотребление для этих схем кодирования, а эффективность сжатия сети анализировали с помощью методов обрезки и квантования. Рассматривали разные типы входного шума и его вариации в наборах данных. Кроме того, изучали и сравнивали устойчивость каждой схемы кодирования к синаптическому шуму и отказам, вызванным аппаратными неидеальностями, в аналоговых нейроморфных системах. Наши результаты показывают, что кодирование TTFS — лучший выбор для достижения максимальной вычислительной эффективности при очень небольших аппаратных накладных расходах. При обучении и инференсе кодирование TTFS требует в 4/7,5 раза меньшей задержки обработки и в 3,5/6,5 раза меньшего числа SOP, чем частотное кодирование. Фазовое кодирование наиболее устойчиво к входному шуму. Пакетное кодирование обеспечивает наибольшую эффективность сжатия сети и лучшую общую устойчивость к аппаратным неидеальностям как при обучении, так и при инференсе. Это исследование показывает пространство проектных решений, задаваемое выбором схемы кодирования, и позволяет соотносить каждую схему с её сильными и слабыми сторонами с учётом ограничений и требований конкретной нейроморфной системы.