IMPLEMENTATION OF A LIQUID NEURAL NETWORK CONTROL SYSTEM FOR MULTI-JOINT CYBER PHYSICAL ARM

Abstract

ABSTRACT

Technological solutions are being produced to meet people's needs and fulfill their desires in a comfortable way. As technology becomes cheaper, more widespread, smaller in size, and able to operate independently from the power grid, the communication of devices with each other (Internet of Things) and the ability of devices to make their own decisions increase the effectiveness of solutions. In particular, the reduction in device size can be achieved by requiring less system resources and battery capacity. Therefore, existing methods need to be customized to work effectively in embedded systems. In this thesis a novel approach called LTC-SE, which enhances the Liquid Time-Constant Neural Network (LTC) technique for embedded environments with limited processing capabilities and strict performance requirements is presented. LTC-SE combines various neural network paradigms, including Leaky-Integrate-and-Fire (LIF) spiking neural networks, Continuous-Time Recurrent Neural Networks (CTRNNs), Neural Ordinary Differential Equations (NODEs), and customized Gated Recurrent Units (GRUs), resulting in improved adaptability, interoperability, and structural organization. In the thesis, a unified class library, is developed, called LTCCell that offers extensive configurability CTRNN, NODE, and CTGRU elements. The proposed method is evaluated by developing a control system for a multi-joint cyber-physical arm, demonstrating its effectiveness in achieving designated objectives and manipulating objects securely. The system's performance is presented through a decision support framework and multi-variable benchmarking, emphasizing the benefits of our refinements in terms of user interaction, functional coherence, and code clarity. Furthermore, the LTC-SE technique expands the scope of liquid neural networks, finding applications in diverse machine learning domains such as robotics, causality assessment, and time-series forecasting. This thesis presents innovative contributions to the field based on the pioneering work of LTC neural network.

ÖZET

İnsanların ihtiyaçlarını giderme ve isteklerini yerine getirme talebinin konforlu bir şekilde gerçekleştirilmesi için teknolojik çözümler üretilmektedir. Teknolojinin ucuzlaması, yaygınlaşması, boyutlarının küçülmesi, elektrik şebekesinden bağımsız şekilde çalışabilir hale gelmesiyle birlikte cihazların birbirleriyle haberleşmesi (nesnelerin interneti) ve cihazların kendi kararlarını verebilecek hale getirilmesi çözümlerin etkinliğini arttırmaktadır. Özellikle cihaz boyutlarındaki küçülme daha az sistem kaynağına ve batarya kapasitesine ihtiyaç duyması ile sağlanabilmektedir. Bundan dolayı mevcut yöntemlerin gömülü sistemlerde etkili bir şekilde çalışması için bazen özelleştirilmeleri gerekmektedir.

Bu tezde sınırlı işlem kapasitesine ve sıkı performans kriterlerine sahip gömülü ortamlar için özelleştirilmiş bir sıvı sinir ağı (İng.: Liquid Time-Constant Neural Network Special Edition – LTC-SE) tekniği olan LTC-SE'nin geliştirilmiş bir versiyonu sunulmaktadır. LTC-SE Sızdır-Bütünleştir ve Ateşle darbeli sinir ağını, Sürekli-Zamanlı Özyinelemeli Sinir Ağlarını (SZÖSA'lar), Sinirsel Adi Diferansiyel Denklemleri (SADD'ler) ve Özelleştirilmiş Geçitli Tekrarlayan Birimleri (ÖGTB'ler) içeren çeşitli sinir ağları paradigmalarını kombine ederek adaptasyon yeteneğini, iş birliği kabiliyetini ve yapısal düzenlemesini güçlendirmektedir. Tezde SZÖSA, SADD ve ÖGTB elemanları için LTCCell adı verilen geniş konfigürasyon imkanı sunan birleşik bir sınıf kütüphanesi geliştirilmiştir. Önerilen yöntem, çok eklemli bir siber-fiziksel kol için bir kontrol sistemi geliştirerek, belirlenen hedeflere ulaşmada ve nesneleri güvenli bir şekilde manipüle etmede etkinliğini göstererek değerlendirilmiştir. Sistemin performansı, kullanıcı etkileşimi, işlevsel tutarlılık ve kod netliği açısından iyileştirmelerimizin faydalarını vurgulayan bir karar destek çerçevesi ve çok değişkenli kıyaslama yoluyla sunulmuştur.

Ayrıca, LTC-SE tekniği, robotik, nedensellik değerlendirmesi ve zaman serisi tahmini gibi çeşitli makine öğrenimi uygulamalarında sıvı sinir ağı kavramının kapsamını genişletmektedir. Bu tez, LTC sinir ağının öncü çalışmalarına dayanarak alana yenilikçi katkılar sunmaktadır.