SAM：ワーキングメモリを使用した学習のための統一された自己適応多体スパイクニューロンモデル

作業記憶は、知覚、認知、学習のための生物学的脳の基本的な特徴です。さらに、再発性ニューラルネットワークを通じて従来の人工知能システムで示されている作業記憶を使用した学習は、高度な認知知能に貢献しています。ただし、単純なニューロンモデルに作業記憶を授与し、ニューロンレベルでこのような強力な能力をもたらした生物学的メカニズムを理解することは困難です。この記事では、ワーキングメモリを備えたスパイクベースの学習のために、SAMと呼ばれる新しい自己適応的マルチコンパートメントスパイキングニューロンモデルを紹介します。SAMは、スパースコーディング、樹状、非線形性、固有の自己適応ダイナミクス、スパイク駆動型学習など、4つの主要な生物学的原理を統合します。最初にサムの設計について説明し、重要なパラメーターが生物学的ダイナミクスに与える影響を調査します。次に、SAMを使用してスパイキングネットワークを構築して、シーケンシャル空間的エンコーディング、騒々しいスパイクパターン分類、パターン分類中のまばらなコーディング、空間的特徴検出、ナビゲーションに適用される作業メモリを使用したメタラーニングを使用して、MNISTデータセットの監視された学習を含むいくつかの異なるタスクを達成するために、いくつかの異なるタスクを達成します。タスクとMNIST分類タスク、および空間的学習のための作業メモリ。私たちの実験結果は、これらの幅広い挑戦的なタスクにおけるSAMのエネルギー効率と堅牢性を強調しています。SAMモデルのバリエーションが作業記憶に及ぼす影響も調査されており、脳の作業記憶の根底にある生物学的メカニズムについての洞察を提供したいと考えています。SAMモデルは、複数のタイムスケールダイナミクスを備えた統一された単一ニューロンで、スパイク駆動型の学習とワーキングメモリの機能を統合する最初の試みです。SAMの競争力のあるパフォーマンスは、ロボット工学からエッジコンピューティングまでのさまざまなアプリケーション向けに、効率的な適応神経型コンピューティングシステムの開発に潜在的に貢献する可能性があります。

Working memory is a fundamental feature of biological brains for perception, cognition, and learning. In addition, learning with working memory, which has been show in conventional artificial intelligence systems through recurrent neural networks, is instrumental to advanced cognitive intelligence. However, it is hard to endow a simple neuron model with working memory, and to understand the biological mechanisms that have resulted in such a powerful ability at the neuronal level. This article presents a novel self-adaptive multicompartment spiking neuron model, referred to as SAM, for spike-based learning with working memory. SAM integrates four major biological principles including sparse coding, dendritic non-linearity, intrinsic self-adaptive dynamics, and spike-driven learning. We first describe SAM's design and explore the impacts of critical parameters on its biological dynamics. We then use SAM to build spiking networks to accomplish several different tasks including supervised learning of the MNIST dataset using sequential spatiotemporal encoding, noisy spike pattern classification, sparse coding during pattern classification, spatiotemporal feature detection, meta-learning with working memory applied to a navigation task and the MNIST classification task, and working memory for spatiotemporal learning. Our experimental results highlight the energy efficiency and robustness of SAM in these wide range of challenging tasks. The effects of SAM model variations on its working memory are also explored, hoping to offer insight into the biological mechanisms underlying working memory in the brain. The SAM model is the first attempt to integrate the capabilities of spike-driven learning and working memory in a unified single neuron with multiple timescale dynamics. The competitive performance of SAM could potentially contribute to the development of efficient adaptive neuromorphic computing systems for various applications from robotics to edge computing.