Jak jsem ovládal hry vlastní myslí
22. 1. 2020
Jak jsem ovládal hry vlastní myslí

Neuroinformatika je rozsáhlý obor zabývající se zpracováním dat z oblastí neurověd pomocí výpočetních nástrojů. Tyto nástroje jsou tzv. Brain-Computer Interfaces, jsou však velice drahé, ve vědeckých sférách se cena hardwaru pohybuje cenově mezi 20-50 tisíci dolary. Dobrou alternativou pro nadšence a experimentátory jsou proto nástroje na nižší úrovni - mají menší přesnost snímání, ale pro běžné experimenty postačí. Čtečku mozkových vln si tak můžete koupit i vy za cca 10-20 tisíc korun. Jednu z těchto čteček jsem osobně využil k ovládání her, jak jsem to udělal se dočtete dále.

Trocha teorie

Nejprve si ale popíšeme pár důležitých pojmů. Elektroencefalografie, neboli EEG, je metoda pro zaznamenávání elektrické aktivity mozku skrz detekci povrchového napětí na pokožce hlavy, kam probíjí elektrické impulsy probíhající při přenášení informací mezi neurony v mozku. K získání elektrického výstupu jsou použity elektrody, které jsou umístěny na pokožku hlavy (v některých případech se používá vodivý gel, jelikož např. ženy mají menší vodivost kůže než muži). Tyto elektrody pak čtou mozkové impulsy ve formě signálu, který odpovídá části mozku, která jej vysílá.

BCI je zařízení, které nevyžaduje ovládání pomocí fyzické aktivity, ale spoléhá čistě na čtení mozkových vzruchů přes elektrody rozmístěné na hlavě.Toto zařízení lze pak použít pro ovládání široké škály dalšího hardware, jako jsou počítače,vozíky, robotické paže, pro implementaci robotického vidění atp. BCI zařízení jsou často používána pro výzkum, mapování, asistenci, augmentaci nebo opravu kognitivních nebo sensorimotorických funkcí.

Elektrody jsou podle mezinárodně uznávaného "Systému 10-20" rozmístěny na odpovídající pozice na hlavě. Čísla 10 a 20 v názvu značí vzdálenost 10% a 20% od přední/zadní strany hlavy a levé/pravé strany hlavy. Každá pozice má přiřazenou jinou oblast mozkové kůry, pozice vpředu jsou tak zodpovědné za prefrontální kortex, vzadu zase za vizuální kortex.

eeg.png

zdroj: https://en.wikipedia.org/wiki/10%E2%80%9320_system_(EEG)#/media/File:21_electrodes_of_International_10-20_system_for_EEG.svg

Mozkové vlny mají různou frekvenci, na základě které můžeme přibližně určit, v jakém stavu se zkoumaný mozek nachází. Pokud jsou v mozku dominantní pomalé mozkové vlny, resp. vlny nízké frekvence, člověk se může cítit pomalý neb unavený. Naopak čím vyšší frekvence, tím je obecně člověk soustředěnější a ve střehu. Mozkové vlny se měří v Herzích (Hz). Většina mozkových vln se vyskytuje ve frekvenčním rozsahu od 0.5 do 100 Hz.

Každé vlnové spektrum je symptomem jiného stavu mozku a každá mozková oblast má jiné „rozpoložení" těchto vln.

video_BCI.png

Podívejte se, jak detekce probíhá v praxi - zde je video o nástroji OpenBCI Ultracortex, který jsem použil pro vlastní výzkum.

Ovládání her

Pro ovládání her jsem použil detekci úmyslu zvednout jednu z končetin. Tento "úmysl" lze detekovat v sensorimotorickém kortexu na frekvenci Mu rytmů. Sensorimotorický kortex je na vrcholu hlavy a signál jeho neuronů měří elektrody C1, Cz a C2 (obrázek výše). Díky tomuto kortexu můžeme pohybovat končetinami. Je zodpovědný za jemnou (prsty) i hrubou motoriku, a také za synchronizaci pohybu (chůze).

Na frekvenci 7.5-12.5 Hz lze detekovat už i jen samotný úmysl zvednout jednu z končetin. K ovládání her samozřejmě postačí i jednodušší detekce - např. v prefrontálním kortexu (za čelem, umožňuje plánovat, držet pozornost, rozhodovat se a dokončovat úlohy) lze snadno detekovat pokles napětí při zavření očí. Lze tak detekovat otevřené a zavřené oči pomocí EEG vln - ale mnohem snazší metoda by v tomto případě byla samozřejmě kamera s detektorem. Výstup pak stačí namapovat na herní příkazy.

graf.png

příklad poklesu napětí (mV) v mém mozku při zavření očí a krátké meditaci (10-65 sekund)

Podobně tomu je i u detekce úmyslu zvednout končetinu. Samozřejmě, že to není snadný úkol. Musel jsem použít několik testovacích subjektů, u kterých jsem nasbíral potřebná data - nechal jsem je koukat na vcelku nudný program, prezentující jim příkazy jako "Mysli na to, jak zvedáš levou ruku" zároveň s vizuálním stimulusem v podobě GIF obrázků z filmů, vyobrazující daný pohyb. Nasbíral jsem tak data (signál, hodnoty mV), ve kterých jsem se snažil naleznout nějaký vzor, který by spolehlivě dokázal rozlišit mezi myšlením na zvednutí pravé ruky/levé ruky atp. K tomu jsem použil strojového učení - pro člověka je to na takovém množství zdánlivě náhodných dat nemožný úkol. Velkou roli hraje také mozkový šum, ruchy vyslané pohyby čelisti nebo těla uživatele a v mysli se odehrávající myšlenky, které mohou proces narušit. Při sbírání dat bylo nutné, aby byl uživatel v klidu a soustředěn.

 

Na nasbíraná a předzpracovaná EEG data jsem použil klasifikační metody jako Support Vector Machines, Gradient Boosting a Random Forests (v oboru Data Science vcelku běžné metody - nejsou tak silné jako neuronové sítě, ty však při experimentech v jiných výzkumech ukazují podobnou úspěšnost při klasifikaci dat). Určil jsem tak, zda nositel myslí na pravou/levou nohu/ruku - tzn. může použít 4 příkazy nebo namapovat svoje myšlenky na klávesy ve hře.

Metoda je však velice nepřesná, díky již tak nízké přesnosti BCI zařízení. Použil jsem tedy další metodu, a to tzv. detekci soustředěné pozornosti.

Detekce soustředění

U dětí s poškozeným prefrontálním kortexem se vyskytuje ADHD a jedna z alternativních léčebných terapií je tzv. neurofeedback - biofeedback terapie využívající BCI zařízení a vizuální hry. Uživatelův mozek se tak díky zpětné vazbě naučí, jak správně držet pozornost.

Pro neurofeedback se v prefrontálním kortexu detekuje poměr alfa (8-13 Hz) a beta vln (>13 Hz) - někdy se používá i poměr mezi alfa a theta (3.5 - 7.5 Hz) vlnami.

Tato detekce se řadí mezi ty snadnější, na vstupním signálu se provede frekvenční analýza a pokud poměr vln spadá pod nějakou hranici, člověk se pravděpodobně nesoustředí. Jinak se soustředí. Na základě toho jsem vytvořil jednoduchou hru, kde je cílem hráče zvednout sochu Buddhy vlastní soustředěnou pozornosti. Prezentoval jsem ji na ExcelFIT konferenci, kde si příchozí mohli vyzkoušet, jak dlouho vydrží. Nejdelší čas byl 38 sekund.

 budha.pngHra vytvořena v Unity - pojmenoval jsem ji NeuroBuddha

Pokud vás ovládání počítače myslí zaujalo, budete potřebovat vhodný BCI hardware. Já použil OpenBCI Ultracortex IV, který není přiliš vhodný na běžné používání, např. pro analýzu statistik vlastní meditace - z elektrod, které jsou pevně zabodnuté do pokožky hlavy bolí po 30 minutách hlava.

Doporučuji proto alternativní (a pohodlnější) BCI nástroje jako jsou např. Neurosky MindWave, Muse, Emotiv EPOC nebo Neuroelectrics Enobio.

Jan Jileček​