neuronové sítě

Vědci využívají světlo k tvorbě zvukových vln v optickém vláknu

17. 4. 2024 Iveta Mauci, šéfredaktorka a licencovaná autorka vědeckých zpráv NASA, ESO, ESA, AAAS a EurekAlert 0 komentářů 5 min read 334 Zobrazení ChatGPT, neuronové sítě, optický kabel, rachlost světla, světlo, umělá inteligence, vysoká rychost, zvukové vlny

Budoucnost Fyzika-matematika Technologie UI

***UMĚLCŮV DOJEM Z OPTOAKUSTICKÉHO POČÍTÁNÍ.***

Optické neuronové sítě mohou poskytnout vysokorychlostní a velkokapacitní řešení nezbytné pro řízení náročných počítačových úloh. Využití jejich plného potenciálu však bude vyžadovat další pokroky. Jedním z problémů je rekonfigurovatelnost optických neuronových sítí.

Výzkumnému týmu vedenému doktorkou Stillerovou, Institutu Maxe Plancka pro vědu světla, ve spolupráci s výzkumnou skupinou Englund na Massachusettském technologickém institutu, se nyní podařilo položit základy pro nové rekonfigurovatelné neuromorfní stavební bloky přidáním nové dimenze fotonického strojového učení: zvukové vlny.

Vědci používají světlo k vytvoření dočasných akustických vln v optickém vláknu. Zvukové vlny generované tímto způsobem mohou například umožnit opakující se funkce v telekomunikačním optickém vláknu, což je nezbytné pro interpretaci kontextových informací, jako je jazyk.

Umělá inteligence je dnes samozřejmostí. Pomáhá nám rychleji zvládat každodenní úkoly. Jazykové modely, jako je ChatGPT, jsou schopny vytvářet přirozeně formulované texty a strukturovaně sumarizovat odstavce, čímž nám pomáhají snižovat naši administrativní režii. Nevýhodou jsou jejich enormní energetické nároky. To znamená, že jak se budou tato inteligentní zařízení vyvíjet, budou vyžadovat nová řešení pro urychlení zpracování signálu a snížení spotřeby energie.

Neuronové sítě mají potenciál tvořit páteř umělé inteligence. Jejich vybudování jako optické neuronové sítě založené na světle místo elektrických signálů, slibuje zpracování velkých objemů dat vysokou rychlostí a s velkou energetickou účinností. Dosud se však mnoho experimentálních přístupů k implementaci optických neuronových sítí spoléhalo na pevné komponenty a stabilní zařízení. Nyní mezinárodní výzkumný tým vedený Birgit Stillerovou z Max Planckova institutu pro vědu o světle ve spolupráci s Dirkem Englundem z Technologického institute v Massachusetts, našel způsob, jak postavit rekonfigurovatelné stavební bloky založené na zvukových vlnách pro fotonické strojové učení. Pro svůj experimentální přístup vědci používají optická vlákna tenká jako vlasy, která se již celosvětově používají pro rychlé připojení k internetu.

Klíčem k vynálezu je světlem řízené vytváření putujících zvukových vln, které manipulují s následnými výpočetními kroky optické neuronové sítě. Optické informace jsou zpracovávány a korelovány s akustickými vlnami. Zvukové vlny mají mnohem delší dobu přenosu než optický informační tok. Proto zůstávají v optickém vláknu déle a mohou být postupně spojeny s každým následujícím krokem zpracování. Jedinečnost tohoto procesu spočívá v tom, že je zcela řízen světlem a nevyžaduje složité struktury a měniče.

„Jsem velmi nadšená, že jsme se pustili do této nové linie výzkumu, který je průkopníkem ve využívání zvukových vln k ovládání optických neuronových sítí. Naše zjištění výzkumu mají potenciál podnítit vývoj nových stavebních bloků pro nové architektury fotonických výpočtů.“ říká doktorka Birgit Stillerová, vedoucí výzkumné skupiny kvantové optoakustiky.

Prvním stavebním blokem experimentálně demonstrovaným týmem je rekurentní operátor, technologie široce používaná v oblasti rekurentních neuronových sítí. Umožňuje propojení řady výpočetních kroků, a proto poskytuje kontext pro každý jednotlivý provedený výpočetní krok.

Informace přenášené optickým impulsem se částečně přemění na akustickou vlnu. Informace zůstává v akustické vlně i poté, co světelný impuls opustil optické vlákno. Tato počáteční akustická vlna ovlivňuje druhý a třetí krok zpracování světla a zvuku s následujícími vstupními impulsy nesoucími jinou informaci než předchozí. V důsledku toho se akustické vlny spojují v časově oddělené dynamice a slouží jako médium šíření informace.

Využití slov v kontextu věty

V lidské řeči může například pořadí slov určovat význam věty. Například dvě věty „Rozhodla se prozkoumat výzvu“. a „Rozhodla se zpochybnit výzkum.“ sestávají ze stejných slov, ale mají různé významy. To je způsobeno různými kontexty vytvořenými pořadím slov. Tradiční plně propojená neuronová síť na počítači čelí potížím se zachycením kontextu, protože vyžaduje přístup k paměti. K překonání tohoto problému byly neuronové sítě vybaveny opakujícími se operacemi, které umožňují vnitřní paměť a jsou schopny zachytit kontextové informace.

Ačkoli tyto rekurentní neuronové sítě lze snadno implementovat digitálně, analogická implementace v optice je náročná a dosud se spoléhala na umělé dutiny, které poskytují paměť.

Vědci nyní použili zvukové vlny k implementaci opakujícího se operátora. Výsledkem je, že Optoakustický rekurentní operátor(OREO) využívá vnitřní vlastnosti optického vlnovodu bez potřeby umělého rezervoáru nebo nově vyrobených struktur. OREO nabízí tu výhodu, že je plně opticky řízen, díky čemuž je optoakustický počítač programovatelný na bázi pulsu. Výzkumníci to například poprvé použili k optické implementaci opakovaného výpadku, což je regulační technika, která se dříve používala pouze ke zvýšení výkonu digitálních rekurentních neuronových sítí. OREO bylo použito k rozlišení až 27 různých vzorů, což dokazuje jeho schopnost zpracovat kontext.

V budoucnu by použití zvukových vln pro optické neuronové sítě mohlo odemknout novou třídu optických neuromorfních počítání, které by bylo možné spontánně překonfigurovat a umožnilo by rozsáhlé výpočty v paměti v současné telekomunikační síti. Také implementace optických neuronových sítí na čipu mohou těžit z tohoto přístupu, který je implementovatelný ve fotonických vlnovodech bez dalšího elektronického řízení.

*Doktorka Birgit Stillerová a Steven Becker, Stillerova výzkumná skupina, Institutu Maxe Plancka pro vědu o světle.*

„Fotonické strojové učení může mít obrovský potenciál pro paralelní zpracování informací a energeticky efektivní operace. Přidání akustických vln může přispět k tomuto úsilí pomocí zcela opticky řízené a snadno ovladatelné sady nástrojů.“ říká doktorka Birgit Stillerová.

Článek byl upraven z tiskové zprávy AAAS, vědecká studie byla publikována v časopise Nature s volným přístupem.

Postavili jsme „mozek“ z drobných stříbrných drátků. Učí se v reálném čase a efektivněji než počítačová umělá inteligence

16. 1. 2024 Tomáš Pokorný 1 komentář 3 min read 6350 Zobrazení AI, drátky, nanotechnologie, neuronové sítě, stříbro, UI

Budoucnost TOP 10 UI Věda

Svět je poblázněný umělou inteligencí (AI), a to z dobrého důvodu. Systémy AI dokážou zpracovat obrovské množství dat zdánlivě nadlidským způsobem, píše CONVERSATION. Současné systémy umělé inteligence však spoléhají na počítače se složitými algoritmy založenými na umělých neuronových sítích. Ty spotřebovávají obrovské množství energie a spotřebují ještě více energie, pokud se snažíte pracovat s daty, které se mění v reálném čase.

Pracujeme na zcela novém přístupu ke „strojové inteligenci“. Místo použití softwaru umělé neuronové sítě jsme vyvinuli fyzickou neuronovou síť v hardwaru, která funguje mnohem efektivněji.

Naše neuronové sítě, vyrobené ze stříbrných nanodrátů, se mohou za chodu naučit rozpoznávat ručně psaná čísla a zapamatovat si řetězce číslic. Naše výsledky jsou publikovány v novém článku v Nature Communications, provedeném s kolegy z University of Sydney a University of California, Los Angeles.

Náhodná síť drobných drátků

Pomocí nanotechnologie jsme vytvořili sítě ze stříbrných nanodrátů o šířce jedné tisíciny lidského vlasu. Tyto nanodrátky přirozeně tvoří náhodnou síť, podobně jako hromada tyčinek.

Síťová struktura nanodrátů vypadá hodně jako síť neuronů v našem mozku. Náš výzkum je součástí oboru zvaného neuromorphic computing, jehož cílem je napodobit funkce neuronů a synapsí v hardwaru podobné mozku.

Naše nanodrátové sítě vykazují chování podobné mozku v reakci na elektrické signály. Vnější elektrické signály způsobují změny ve způsobu přenosu elektřiny v bodech, kde se nanodrátky protínají, což je podobné tomu, jak fungují biologické synapse.

V typické nanodrátové síti mohou být desítky tisíc průsečíků podobných synapsím, což znamená, že síť může efektivně zpracovávat a přenášet informace přenášené elektrickými signály.

Učení a adaptace v reálném čase

V naší studii ukazujeme, že nanodrátové sítě mohou reagovat na signály, které se v čase mění, mohou být použity pro online strojové učení.

Při konvenčním strojovém učení jsou data vkládána do systému a zpracovávána v dávkách. V přístupu online učení můžeme data zavádět do systému jako nepřetržitý proud v čase.

S každým novým údajem se systém učí a přizpůsobuje v reálném čase. Ukazuje „za běhu“ učení, ve kterém jsme my lidé dobří, ale současné systémy umělé inteligence nikoli.

Online výukový přístup, který umožňuje naše nanodrátová síť, je efektivnější než konvenční dávkové učení v aplikacích AI.

Při dávkovém učení je ke zpracování velkých datových sad potřeba značné množství paměti a systém často potřebuje projít stejná data vícekrát, aby se naučil. To vyžaduje nejen vysoké výpočetní zdroje, ale také celkově spotřebuje více energie.

Náš online přístup vyžaduje méně paměti, protože data jsou zpracovávána nepřetržitě. Navíc se naše síť učí z každého vzorku dat pouze jednou, což výrazně snižuje spotřebu energie a činí proces vysoce efektivním.

Rozpoznávání a zapamatování čísel

Testovali jsme nanodrátovou síť pomocí referenční úlohy rozpoznávání obrazu pomocí datové sady MNIST ručně psaných číslic.

Hodnoty pixelů ve stupních šedi na snímcích byly převedeny na elektrické signály a přivedeny do sítě. Po každém vzorku číslic se síť naučila a zdokonalila svou schopnost rozpoznávat vzory a zobrazovala učení v reálném čase.

Nanodrátová síť se naučila rozpoznávat ručně psaná čísla, což je běžné měřítko pro systémy strojového učení.

Stejnou učební metodou jsme také testovali nanodrátovou síť s paměťovou úlohou zahrnující vzory číslic, podobně jako proces zapamatování si telefonního čísla. Síť prokázala schopnost zapamatovat si předchozí číslice ve vzoru.

Celkově tyto úlohy demonstrují potenciál sítě pro emulaci učení a paměti podobné mozku. Naše práce zatím jen poškrábala povrch toho, co neuromorfní nanodrátové sítě dokážou.