文|中國信通院
編輯|智東西內(nèi)參
腦科學(xué)問題是人類社會(huì)面臨的基礎(chǔ)科學(xué)問題之一,是人類理解自然和理解人類本身的待深入探索領(lǐng)域,而腦機(jī)接口是有效探索手段之一。在國家戰(zhàn)略的積極推動(dòng)下,在科技創(chuàng)新不斷更迭促進(jìn)下,在人民大眾期待關(guān)注下,腦機(jī)接口技術(shù)將發(fā)揮重要作用。
本期的智能內(nèi)參,我們推薦中國信通院的報(bào)告《腦機(jī)接口總體愿景與關(guān)鍵技術(shù)研究報(bào)告》,勾畫腦機(jī)接口產(chǎn)業(yè)發(fā)展的藍(lán)圖和愿景期望。
01.腦機(jī)接口:終極交互手段
大腦是我們思想、情感、感知、行動(dòng)和記憶的源泉,大腦的復(fù)雜性賦予我們?nèi)祟愔腔?,同時(shí)使我們每個(gè)人都獨(dú)一無二。近年來,研究大腦認(rèn)知的神經(jīng)科學(xué)已經(jīng)在分子細(xì)胞、關(guān)鍵元器件、軟硬件開發(fā)、應(yīng)用系統(tǒng)、儀器儀表等多方面取得進(jìn)展和突破,使得腦機(jī)接口產(chǎn)業(yè)的商業(yè)應(yīng)用逐漸成為可能。
腦機(jī)接口是指在有機(jī)生命形式的腦與具有處理或計(jì)算能力的設(shè)備之間,創(chuàng)建用于信息交換的連接通路,實(shí)現(xiàn)信息交換及控制。
腦機(jī)接口已成全球科技前沿?zé)狳c(diǎn),在面向未來的科技創(chuàng)新發(fā)展中占有重要地位。世界主要國家和地區(qū)都在加快腦機(jī)接口產(chǎn)業(yè)布局,積極開展相關(guān)技術(shù)研發(fā)。腦機(jī)接口技術(shù)也將帶動(dòng)和引發(fā)其他技術(shù)的未來發(fā)展。
腦機(jī)接口技術(shù)是人與機(jī)器、人與人工智能交互的終極手段,也是連接數(shù)字虛擬世界和現(xiàn)實(shí)物理世界的核心基礎(chǔ)支撐技術(shù)之一,同時(shí)其與量子計(jì)算、云計(jì)算、大數(shù)據(jù)等信息通信(ICT)技術(shù)的結(jié)合將成為各領(lǐng)域新的重要研究方向??梢源_定地說,受益于技術(shù)的不斷革新與突破,腦機(jī)接口將會(huì)顯著提升人類生活質(zhì)量。
腦科學(xué)問題是人類社會(huì)面臨的基礎(chǔ)科學(xué)問題之一,是人類理解自然和人類本身的“終極疆域”,而腦機(jī)接口是破解該“終極疆域”的有效手段之一。在國家戰(zhàn)略的積極推動(dòng)下,在科技創(chuàng)新不斷更迭促進(jìn)下,在人民大眾期待關(guān)注下,腦機(jī)接口技術(shù)將發(fā)揮重要作用。腦機(jī)接口技術(shù)涉及腦科學(xué)、人工智能技術(shù)、信息通信技術(shù)、電子信息技術(shù)和材料學(xué)。
未來的腦機(jī)接口技術(shù),應(yīng)實(shí)現(xiàn)“腦智芯連,思行無礙”這一行業(yè)發(fā)展總體愿景。其中,“腦”寓意為大腦和思維意圖,“智”寓意為人工智能和類腦智能,“芯”寓意為以芯片為代表的外部設(shè)備,“連”有通訊、接口、協(xié)同三重含義。通過“腦智芯連”的科學(xué)融合,實(shí)現(xiàn)“思行無礙”的目標(biāo),即期待大腦及人類智能和外部設(shè)備相互連接后,人類的思想和行為控制之間,不再有疾病和空間的障礙;人類的能力得到顯著增強(qiáng),不再承受神經(jīng)疾病帶來的痛苦。
為促進(jìn)“腦智芯連,思行無礙”這一愿景目標(biāo)的實(shí)現(xiàn),報(bào)告提出腦機(jī)接口系統(tǒng)應(yīng)滿足“準(zhǔn)確、高效、穩(wěn)定、易用和安全”五大需求。腦機(jī)接口系統(tǒng)應(yīng)具有準(zhǔn)確的大腦意圖解碼算法;高效的信息解碼效率,快速地反饋響應(yīng)和執(zhí)行任務(wù);穩(wěn)定的設(shè)備性能與抗干擾能力;易用、輕便、舒適的使用體驗(yàn);安全的植入、采集和信息傳送保障。
▲腦機(jī)接口系統(tǒng)的五大需求支撐愿景實(shí)現(xiàn)
腦機(jī)接口應(yīng)從性能指標(biāo)與可用性指標(biāo)兩個(gè)方面有效衡量腦機(jī)接口系統(tǒng)是否滿足五大需求。性能指標(biāo)主要體現(xiàn)在響應(yīng)時(shí)間、識(shí)別正確率、可輸出指令數(shù)量和菲茨吞吐量四個(gè)易量化指標(biāo);可用性指標(biāo)主要體現(xiàn)在易用性、長效性、魯棒性、安全性和互操作性五個(gè)指標(biāo)。這些指標(biāo)在不同技術(shù)路線下、不同應(yīng)用場景下的需求各有差異,但基本涵蓋了腦機(jī)接口技術(shù)和系統(tǒng)各方面要求。經(jīng)過分析和產(chǎn)業(yè)調(diào)研,報(bào)告也給出了為促進(jìn)愿景目標(biāo)實(shí)現(xiàn)的各指標(biāo)的建議值,從而為業(yè)界的技術(shù)創(chuàng)新和系統(tǒng)開發(fā)提供一定的參考。
▲腦機(jī)接口系統(tǒng)的關(guān)鍵指標(biāo)
腦機(jī)接口總體愿景的實(shí)現(xiàn)也離不開核心關(guān)鍵技術(shù)的支撐。關(guān)鍵技術(shù)包括采集技術(shù)、刺激技術(shù)、范式編碼技術(shù)和解碼算法技術(shù)。關(guān)鍵技術(shù)面向不同場景衍生出不同應(yīng)用。本報(bào)告就當(dāng)前主流應(yīng)用場景進(jìn)行歸納并分為三類,分別是腦狀態(tài)檢測、神經(jīng)調(diào)控和對(duì)外交互技術(shù)等。
02、五大需求,九個(gè)關(guān)鍵指標(biāo)
1、腦機(jī)接口系統(tǒng)應(yīng)滿足的需求
準(zhǔn)確:在腦疾病診斷、行為輔助決策、外設(shè)交互控制等應(yīng)用場景下,共性需求是系統(tǒng)能穩(wěn)定做出識(shí)別正確率較高的判斷,即系統(tǒng)虛警概率低,識(shí)別精確,這樣外部計(jì)算設(shè)備才能對(duì)大腦的需求正確反饋。識(shí)別正確率是系統(tǒng)核心需求之一。
高效:腦機(jī)接口技術(shù)產(chǎn)業(yè)發(fā)展和應(yīng)用一個(gè)重要前提就是高效,最好能夠達(dá)到和肢體響應(yīng)一樣甚至更快的效率,實(shí)現(xiàn)人機(jī)快速響應(yīng)。指令交互、打字、控制機(jī)械外骨骼等應(yīng)用場景下如出現(xiàn)秒級(jí)延誤則給用戶體驗(yàn)帶來較為負(fù)面的影響。這要求系統(tǒng)快速解碼識(shí)別大腦意圖并做出反饋,響應(yīng)時(shí)間是衡量快速響應(yīng)的核心關(guān)鍵指標(biāo)。系統(tǒng)快速響應(yīng)性能,需要范式編碼、算法解碼和系統(tǒng)通信技術(shù)相互配合。在實(shí)際應(yīng)用落地過程中,也應(yīng)兼顧“快”、“準(zhǔn)”、“穩(wěn)”等方面協(xié)同發(fā)展。
穩(wěn)定:腦機(jī)接口本質(zhì)上是一套通信系統(tǒng),在不同的應(yīng)用場景下,都需要考慮系統(tǒng)各項(xiàng)指標(biāo)的穩(wěn)定和抗干擾能力,即系統(tǒng)的長效性和魯棒性。長效性是指系統(tǒng)需要保持長期性能穩(wěn)定。系統(tǒng)能在較長時(shí)間內(nèi)各項(xiàng)性能指標(biāo)不出現(xiàn)較大波動(dòng)。魯棒性是指系統(tǒng)在一定的外部干擾情況下,依然能夠保持穩(wěn)定的工作性能指標(biāo)。在植入式腦機(jī)接口應(yīng)用場景中,由于電極易于失效,系統(tǒng)更側(cè)重長效性指標(biāo);而在非植入式場景,由于信號(hào)易受干擾,更加側(cè)重系統(tǒng)魯棒性。
易用:易用包含“輕便”與“便捷”兩個(gè)含義。“輕便”在非植入情形下指腦機(jī)接口系統(tǒng)輕巧便于攜帶,在植入情形下指植入物尺寸小、重量輕。沉重的腦機(jī)接口系統(tǒng)一方面可能導(dǎo)致用戶接觸時(shí)造成身體壓迫,產(chǎn)生不適感,不利于長期使用。另一方面不利于外出攜帶,難以采集大范圍的腦信號(hào),從而難以實(shí)現(xiàn)更廣泛的場景應(yīng)用。
“便捷”是指腦機(jī)接口系統(tǒng)具有操作便捷性。一方面需要降低使用者的操作復(fù)雜性,避免復(fù)雜的調(diào)試和維護(hù)等工作。尤其是在消費(fèi)場景下,有必要盡量縮短設(shè)備部署時(shí)間、人機(jī)適應(yīng)時(shí)間,實(shí)現(xiàn)快速交互。這就需要盡量減少和壓縮模型訓(xùn)練時(shí)長,調(diào)試時(shí)長,從而提升用戶對(duì)產(chǎn)品的接受度。另一方面普及無線信號(hào)傳輸,擺脫有線束縛,使用起來更加方便。此外,可考慮與智能外設(shè),如智能耳機(jī)等終端設(shè)備進(jìn)行系統(tǒng)化設(shè)計(jì),提升使用的舒適性、便攜性。
安全:腦機(jī)接口系統(tǒng)作為一種人機(jī)交互系統(tǒng),在安全方面要考慮的因素包括:系統(tǒng)需要在軟件和硬件方面,能有效防御外部惡意攻擊,避免數(shù)據(jù)被竊或惡意篡改,系統(tǒng)需要內(nèi)置一定的安全自檢機(jī)制;在機(jī)制和制度保障方面,需要有合法合規(guī)的信息與科技倫理制度、法規(guī)、倡議、指南和標(biāo)準(zhǔn),確保神經(jīng)隱私與神經(jīng)權(quán)利不受侵犯,保障系統(tǒng)用戶的人身健康安全。
對(duì)植入式腦機(jī)接口系統(tǒng)來說,在電極材料選擇上要考慮散熱性能、要確保植入后人體安全,需要對(duì)植入物的質(zhì)量、形狀、功耗和應(yīng)用場合進(jìn)行限定,以避免損害生物組織。對(duì)于非植入式腦機(jī)接口技術(shù)來說,不當(dāng)?shù)氖褂梅椒赡艽嬖跐撛诘娜松戆踩[患,需要對(duì)腦機(jī)接口系統(tǒng)的使用安全性做嚴(yán)格要求。
2、腦機(jī)接口系統(tǒng)的關(guān)鍵指標(biāo)
目前腦機(jī)接口技術(shù)正從“學(xué)術(shù)科學(xué)探索”走向“應(yīng)用轉(zhuǎn)化落地”。為推進(jìn)產(chǎn)業(yè)落地工作的開展,本報(bào)告從性能和可用性兩方面提出滿足五大需求的腦機(jī)接口系統(tǒng)關(guān)鍵指標(biāo)。性能指標(biāo)包括響應(yīng)時(shí)間、識(shí)別正確率、可輸出指令數(shù)量和菲茨吞吐量,可用性指標(biāo)包括易用性、長效性、魯棒性、安全性和互操作性。易用性指標(biāo)進(jìn)一步通過準(zhǔn)備時(shí)長、輕便性和舒適性體現(xiàn)。
目前腦機(jī)接口技術(shù)正從“學(xué)術(shù)科學(xué)探索”走向“應(yīng)用轉(zhuǎn)化落地”。為推進(jìn)產(chǎn)業(yè)落地工作的開展,本報(bào)告從性能和可用性兩方面提出滿足五大需求的腦機(jī)接口系統(tǒng)關(guān)鍵指標(biāo)。性能指標(biāo)包括響應(yīng)時(shí)間、識(shí)別正確率、可輸出指令數(shù)量和菲茨吞吐量,可用性指標(biāo)包括易用性、長效性、魯棒性、安全性和互操作性。易用性指標(biāo)進(jìn)一步通過準(zhǔn)備時(shí)長、輕便性和舒適性體現(xiàn)。
▲腦機(jī)接口系統(tǒng)的關(guān)鍵指標(biāo)
性能指標(biāo):在腦機(jī)接口研究中,往往以信息傳輸速率(Information transfer rate,ITR)作指標(biāo)評(píng)價(jià)系統(tǒng)的性能。ITR 的大小與系統(tǒng)的響應(yīng)時(shí)間、識(shí)別正確率與可輸出指令數(shù)量相關(guān),是一項(xiàng)綜合反映腦機(jī)接口系統(tǒng)多方面性能的指標(biāo)。但僅以 ITR 作為性能指標(biāo),很多時(shí)候無法體現(xiàn)響應(yīng)時(shí)間、識(shí)別正確率與可輸出指令數(shù)量分項(xiàng)指標(biāo)各自的重要性,甚至可能導(dǎo)致某項(xiàng)關(guān)鍵指標(biāo)被忽視。因此本報(bào)告在分析系統(tǒng)性能指標(biāo)時(shí),從響應(yīng)時(shí)間、識(shí)別正確率、可輸出指令數(shù)量和菲茨吞吐量四個(gè)方面,綜合評(píng)估描述腦機(jī)接口系統(tǒng)應(yīng)具備的性能。
響應(yīng)時(shí)間是指腦機(jī)接口系統(tǒng)對(duì)使用者單次腦意圖響應(yīng)所需的時(shí)長,具體包括單次響應(yīng)所需的信號(hào)采集時(shí)長、腦信息解碼時(shí)長(又稱計(jì)算時(shí)長)和系統(tǒng)通信時(shí)長三部分。其中,所需的信號(hào)采集時(shí)長指腦機(jī)接口系統(tǒng)采集解碼用生理信號(hào)所需要的時(shí)長。腦信息解碼時(shí)長是指系統(tǒng)對(duì)所采信號(hào)進(jìn)行解碼以理解用戶意圖所需的時(shí)長。系統(tǒng)通信時(shí)長是數(shù)據(jù)包在系統(tǒng)各模塊間傳遞的時(shí)延。響應(yīng)時(shí)間可以有效反映腦機(jī)接口系統(tǒng)的通信效率,也是反映人機(jī)交互順暢與否的核心關(guān)鍵指標(biāo)。在不同范式、應(yīng)用場景下,系統(tǒng)響應(yīng)時(shí)間差異較大。對(duì)于頭皮腦電(Electroencephalograph,EEG)、皮層腦電圖(Electrocorticogram,ECoG)
等實(shí)時(shí)性較高的電信號(hào)采集系統(tǒng)來說,比較理想的響應(yīng)時(shí)間是:在腦狀態(tài)檢測場景下建議不大于 10 秒,在神經(jīng)調(diào)控場景和對(duì)外交互場景下建議不大于 1 秒。對(duì)于以功能近紅外光譜(Functional near-infrared spectroscopy, fNIRS)為代表的信號(hào)采集系統(tǒng)來說,由于血流動(dòng)力學(xué)參數(shù)變化較觸發(fā)事件具有滯后性,因此此類系統(tǒng)的交互響應(yīng)時(shí)間較長。
識(shí)別正確率是指腦機(jī)接口系統(tǒng)為識(shí)別人腦意圖進(jìn)行解碼的正確率,該指標(biāo)是衡量系統(tǒng)性能的核心指標(biāo)。在腦機(jī)打字、腦控機(jī)器人等特定場景下,識(shí)別正確率經(jīng)常用任務(wù)成功率表示。任務(wù)成功率是指成功完成控制任務(wù)的次數(shù)和控制任務(wù)執(zhí)行總次數(shù)之間的比值。比較理想的識(shí)別正確率在腦狀態(tài)檢測場景下不應(yīng)小于 85%,在神經(jīng)調(diào)控場景下不應(yīng)小于 95%,在對(duì)外交互場景下不應(yīng)小于 95%。對(duì)腦機(jī)接口離線數(shù)據(jù)進(jìn)行調(diào)參時(shí),往往因?yàn)闃颖玖枯^小而容易造成模型的過擬合。為驗(yàn)證腦機(jī)接口系統(tǒng)的泛化性,本報(bào)告中的識(shí)別正確率建議由實(shí)時(shí)在線驗(yàn)證實(shí)驗(yàn)所得。
可輸出指令數(shù)量即腦機(jī)接口系統(tǒng)可以解碼的腦意圖種類,該指標(biāo)可反映系統(tǒng)的交互能力??奢敵龅闹噶顢?shù)越多反映系統(tǒng)可解碼的大腦意識(shí)越豐富、可執(zhí)行任務(wù)的行為越豐富。因此在睡眠檢測、情緒識(shí)別、腦機(jī)打字等場景下,可輸出指令數(shù)量對(duì)評(píng)價(jià)系統(tǒng)性能具有較高參考價(jià)值。從理想值看,睡眠檢測場景下建議檢出睡眠種類不應(yīng)小于 5 種,情緒識(shí)別場景下建議檢出情緒種類不應(yīng)小于 4 種,在腦機(jī)打字場景下建議輸出字符種類不應(yīng)低于 40 種。在機(jī)器人、機(jī)械臂、無人機(jī)等復(fù)雜外部設(shè)備控制中,自由度不應(yīng)小于 6 種。可輸出指令數(shù)量和實(shí)際使用需求有關(guān),需根據(jù)具體場景需求確定最佳范圍。
控制能力是指腦機(jī)接口系統(tǒng)將大腦神經(jīng)活動(dòng)轉(zhuǎn)化為外設(shè)在實(shí)際場景中完成復(fù)雜控制操作的能力,腦機(jī)接口系統(tǒng)的控制能力和工作效率可用菲茨吞吐量1(Fitts Throughput)指標(biāo)衡量。腦機(jī)接口系統(tǒng)的菲茨吞吐量定義為:難度系數(shù)與移動(dòng)到目標(biāo)位置所需時(shí)間的比值,其中,難度系數(shù)是交互移動(dòng)距離和目標(biāo)尺寸兩者比值取對(duì)數(shù)。
菲茨吞吐量來源于菲茨定律(Fitts Law),這是主要用于人機(jī)交互和人體工程學(xué)的人體運(yùn)動(dòng)預(yù)測模型,用難度系數(shù)和吞吐量來分別衡量任務(wù)難度和控制效果。在腦機(jī)接口研究中也多采用菲茨吞吐量作為系統(tǒng)控制效果的衡量指標(biāo)。
以腦控虛擬鼠標(biāo)移動(dòng)為例,虛擬鼠標(biāo)從起始物體 A 移動(dòng)到目標(biāo)物體 B 的難度系數(shù)由 AB 之間的距離以及目標(biāo)物體 B 的尺寸決定,AB 間距離越大,目標(biāo)物體 B 的尺寸越小,難度系數(shù)越大。不同難度系數(shù)下虛擬鼠標(biāo)到達(dá)目標(biāo)的所需時(shí)間不同,菲茨吞吐量是同時(shí)考慮運(yùn)動(dòng)速度和控制準(zhǔn)確度的綜合指標(biāo),數(shù)值越高體現(xiàn)腦機(jī)接口系統(tǒng)的控制效果越好。通常菲茨吞吐量達(dá)到 0.7 bits/s 可實(shí)現(xiàn)較為流暢的控制效果,1 bits/s 是更為理想的指標(biāo)。
可用性指標(biāo):可用性也是腦機(jī)接口系統(tǒng)走向產(chǎn)業(yè)落地的關(guān)鍵,是除了性能指標(biāo)之外的另一系統(tǒng)評(píng)價(jià)維度。系統(tǒng)可用性的衡量指標(biāo)包括:易用性、長效性、魯棒性、安全性和互操作性。
易用性又可通過腦機(jī)接口系統(tǒng)的使用準(zhǔn)備時(shí)長、輕便性和舒適性三個(gè)指標(biāo)反映。準(zhǔn)備時(shí)長是指人員在腦機(jī)接口系統(tǒng)使用之前所需的準(zhǔn)備時(shí)長和人機(jī)協(xié)同訓(xùn)練時(shí)長之和。準(zhǔn)備時(shí)長具體包括調(diào)試準(zhǔn)備時(shí)間、阻抗調(diào)整時(shí)間等。人機(jī)協(xié)同訓(xùn)練時(shí)長與系統(tǒng)使用者對(duì)系統(tǒng)的使用熟練度以及解碼算法是否需要現(xiàn)場采集訓(xùn)練數(shù)據(jù)相關(guān)。
此外,部分腦機(jī)接口系統(tǒng)需要針對(duì)不同使用者定制不同的解碼算法參數(shù),也會(huì)導(dǎo)致人機(jī)協(xié)同訓(xùn)練時(shí)間較長,從而使系統(tǒng)的易用性降低。非植入腦機(jī)接口系統(tǒng)比較理想的準(zhǔn)備時(shí)長建議不大于 3 分鐘。植入式腦機(jī)接口系統(tǒng)由于需要比較繁瑣的植入過程,因此準(zhǔn)備時(shí)長較長,需要盡量優(yōu)化植入手段,提高系統(tǒng)易用性。
輕便性是指腦機(jī)接口系統(tǒng)的輕質(zhì)與便攜。輕質(zhì)是指對(duì)使用者而言符合人體工學(xué),且不造成明顯傷害和負(fù)擔(dān)。通常以重量指標(biāo)衡量輕便性,為確保人體頸椎以上部分不受傷害。比較理想的頭戴式腦機(jī)接口系統(tǒng)(含外設(shè))重量不應(yīng)大于 500 克,不超過 200 克將是更為理想的目標(biāo)。便攜是指易用使用和攜帶,信號(hào)傳輸方式是衡量便攜的重要指標(biāo)之一。比較理想的便攜方式是擺脫有線連接,以藍(lán)牙、Wi-Fi、超寬帶或其他先進(jìn)的無線通信方式進(jìn)行數(shù)據(jù)傳輸。
舒適性同樣是易用性的重要指標(biāo),體現(xiàn)在范式設(shè)計(jì)、外形設(shè)計(jì)、材料選取等方面。當(dāng)前業(yè)內(nèi)廣泛使用的范式多源自二十世紀(jì)九十年代,歷經(jīng)三十余年發(fā)展,范式雖然奠定了實(shí)驗(yàn)研究的基礎(chǔ),但其交互方式普遍存在不符合人類自然行為的問題,由此導(dǎo)致面向消費(fèi)級(jí)產(chǎn)品時(shí)用戶接受度和配合度較低,即便是在醫(yī)學(xué)領(lǐng)域應(yīng)用也比較受限。因此舒適性以可定量定性的體驗(yàn)感、滿意度等作為主要衡量指標(biāo),特別是對(duì)腦機(jī)接口消費(fèi)級(jí)產(chǎn)品的落地具有重要意義。
長效性指系統(tǒng)可穩(wěn)定持續(xù)使用的時(shí)間,是用來衡量系統(tǒng)穩(wěn)定性的重要考量。在非植入場景下,長效性體現(xiàn)在系統(tǒng)續(xù)航時(shí)間長。例如娛樂游戲時(shí)系統(tǒng)不會(huì)因用戶出汗等干擾導(dǎo)致系統(tǒng)性能下降。在植入場景下,長效性體現(xiàn)在系統(tǒng)不會(huì)受生物組織分泌物和免疫系統(tǒng)干擾導(dǎo)致性能下降,電池續(xù)航需要能夠保證 8 小時(shí)以上的持續(xù)腦電信號(hào)傳輸與分析。因此建議比較理想的非植入場景下,單次的穩(wěn)定可用時(shí)長不小于3 小時(shí);植入場景下,有些國家規(guī)定穩(wěn)定可用時(shí)長不應(yīng)小于 1 年,常規(guī)情況下,醫(yī)療器械的理想植入時(shí)間是 10 年以上。
魯棒性指標(biāo)用來衡量腦機(jī)接口系統(tǒng)對(duì)抗外部擾動(dòng)變化的能力。腦機(jī)接口系統(tǒng)需要在各類外部干擾環(huán)境下使用。正常環(huán)境本身就存在大量干擾信號(hào),此外還包括強(qiáng)磁環(huán)境、超聲波診斷治療環(huán)境、放射治療環(huán)境等。這就要求腦機(jī)接口系統(tǒng)在所處的環(huán)境中,能夠有效屏蔽大部分外界干擾,保證交互響應(yīng)時(shí)間、識(shí)別正確率等性能指標(biāo)維持在一個(gè)較高的水平。此外,在使用過程中,腦狀態(tài)也不是一成不變的,因此魯棒性還體現(xiàn)在具有一定的自適應(yīng)能力,可隨用戶狀態(tài)變化而自適應(yīng)調(diào)整,確保系統(tǒng)性能指標(biāo)在較小的范圍內(nèi)波動(dòng)。
安全性是腦機(jī)接口系統(tǒng)可用性的重要指標(biāo)。一是要保障腦機(jī)接口系統(tǒng)整體安全和數(shù)據(jù)安全。硬件和軟件具備基礎(chǔ)的安全防范能力和手段,防護(hù)手段到位,確保能夠有效抵御外部攻擊,避免系統(tǒng)被篡改而做出錯(cuò)誤指令。同時(shí)要確保使用者的信息不外泄,尤其是需要聯(lián)網(wǎng)使用的設(shè)備,例如解碼算法、腦電數(shù)據(jù)上云的系統(tǒng)需要確保信息安全;二是要確保人身健康安全。需要在符合常規(guī)安全要求基礎(chǔ)之上,做出更適合腦機(jī)接口系統(tǒng)的安全專用要求。三是要符合科技倫理安全。需要制定完備的科技倫理制度,確保隱私信息不外泄、風(fēng)險(xiǎn)可控、尊重生命權(quán)利、增進(jìn)人類福祉、保障公平公正。
互操作性是腦機(jī)接口系統(tǒng)應(yīng)用落地和廣泛發(fā)展的重要指標(biāo),體現(xiàn)了腦機(jī)接口系統(tǒng)之間實(shí)現(xiàn)跨系統(tǒng)訪問、雙向連接和交互控制的能力?;ゲ僮餍砸环矫骟w現(xiàn)在同類型系統(tǒng)之間保持框架一致和接口一致,另一方面體現(xiàn)在腦機(jī)接口系統(tǒng)能在電腦、手機(jī)、增強(qiáng)現(xiàn)實(shí)(AR)設(shè)備、虛擬現(xiàn)實(shí)(VR)設(shè)備等其他智能終端上互通互用和即插即用。系統(tǒng)應(yīng)根據(jù)此方面的技術(shù)標(biāo)準(zhǔn)要求,開發(fā)相關(guān)接口和可互通的系統(tǒng)平臺(tái)?;ゲ僮餍阅芰χ笜?biāo)可以通過系統(tǒng)符合互操作標(biāo)準(zhǔn)的程度來衡量。
03.四大基礎(chǔ)技術(shù),腦機(jī)接口蓬勃發(fā)展
腦機(jī)接口作為新興技術(shù),為大腦與外部直接交互提供了新的解決思路,在新一輪的技術(shù)升級(jí)中被給予厚望。腦機(jī)接口產(chǎn)業(yè)落地有賴于關(guān)鍵技術(shù)的突破和革新。目前全球在腦機(jī)接口關(guān)鍵技術(shù)研究方面發(fā)展蓬勃,但依然存在亟需解決的若干問題。對(duì)此,業(yè)界也正在嘗試多種手段予以突破。
腦機(jī)接口關(guān)鍵技術(shù)包括采集技術(shù)、刺激技術(shù)、范式編碼技術(shù)、解碼算法技術(shù)、外設(shè)技術(shù)和系統(tǒng)化技術(shù)。其中,采集技術(shù)研發(fā)重點(diǎn)包括采集端和信號(hào)處理端。采集端常規(guī)技術(shù)手段包括電采集、磁采集、近紅外采集等手段,其中電采集為主流研發(fā)方向,磁和近紅外等采集技術(shù)因?yàn)槌杀竞图夹g(shù)成熟度等制約,距離應(yīng)用落地相對(duì)更遠(yuǎn)。
信號(hào)處理端涉及模擬芯片和數(shù)字芯片。由于當(dāng)前腦機(jī)接口系統(tǒng)所用的數(shù)字芯片多為行業(yè)通用芯片,所以重點(diǎn)介紹模擬芯片的發(fā)展。刺激技術(shù)重點(diǎn)介紹腦深部電極刺激(Deep Brain Stimulation, DBS)閉環(huán)控制的進(jìn)展,以及腦機(jī)接口技術(shù)在助盲領(lǐng)域的最新進(jìn)展。范式編碼和解碼算法技術(shù)介紹了當(dāng)前主流研究進(jìn)展。由于外控技術(shù)和系統(tǒng)化技術(shù)的創(chuàng)新多在于工程集成,因此不在此介紹。
腦機(jī)接口技術(shù)的應(yīng)用場景按照信息流向分為腦狀態(tài)檢測、神經(jīng)調(diào)控和對(duì)外交互三類。從信息流向來看,腦狀態(tài)檢測是信息從大腦流向外部和外設(shè),神經(jīng)調(diào)控則是信息從外部和外設(shè)流向大腦,而對(duì)外交互則是信息的雙向流動(dòng),因此重點(diǎn)圍繞信息的利用、交互和反饋來介紹腦機(jī)接口系統(tǒng)在不同場景下的典型應(yīng)用以及系統(tǒng)在各方面性能上的需求。
▲腦機(jī)接口關(guān)鍵技術(shù)
1、采集技術(shù)
植入式電極:植入式微電極是腦機(jī)交互的關(guān)鍵基礎(chǔ),被廣泛應(yīng)用于基礎(chǔ)神經(jīng)科學(xué)、腦疾病的診斷治療以及腦機(jī)交互通信等領(lǐng)域。植入式微電極通過將以離子為載體的神經(jīng)電信號(hào)轉(zhuǎn)換為以電子為載體的電流或電壓信號(hào),從而獲取大腦神經(jīng)電活動(dòng)信息。
植入到大腦中的微電極可以高空間分辨率和時(shí)間分辨率方式,精確記錄電極附近單個(gè)神經(jīng)元的動(dòng)作電位,從而實(shí)時(shí)監(jiān)測大腦活動(dòng)。傳統(tǒng)的植入式微電極由金屬和硅等硬質(zhì)材料制備而成,形成了以密西根電極和猶他電極為主的硬質(zhì)電極。隨著微納加工技術(shù)和電極材料不斷發(fā)展,微電極趨向于柔性、小型化、高通量和集成化發(fā)展,形成了以微絲電極、硅基電極和柔性電極為主的多元化發(fā)展局面。
高性能柔性微電極對(duì)長期穩(wěn)定慢性記錄具有重要意義。硬質(zhì)微電極和腦組織之間存在機(jī)械失配問題,會(huì)對(duì)生物體的正?;顒?dòng)造成繼發(fā)性腦損傷,不適用于長時(shí)間的慢性實(shí)驗(yàn)。具有高生物相容性的柔性微電極器件有利于緩解免疫反應(yīng),提高信號(hào)質(zhì)量,對(duì)實(shí)現(xiàn)大腦活動(dòng)長期穩(wěn)定的慢性記錄具有重要意義。利用低楊氏模量生物材料和高性能界面材料制備柔性電極成為該領(lǐng)域的熱點(diǎn)。
高通量微電極將為拓展全腦神經(jīng)科學(xué)研究奠定重要基礎(chǔ)。為了獲取更豐富的神經(jīng)元?jiǎng)討B(tài),神經(jīng)微電極被要求同時(shí)記錄盡可能多的單個(gè)神經(jīng)元的電活動(dòng)。現(xiàn)有植入式微電極通量遠(yuǎn)小于大腦神經(jīng)元數(shù)目,發(fā)展新型高通量微電極,實(shí)現(xiàn)批量化的高時(shí)空分辨率腦電信號(hào)采集,對(duì)于追蹤神經(jīng)環(huán)路活動(dòng)以及解析全腦尺度的神經(jīng)網(wǎng)絡(luò)功能等基礎(chǔ)神經(jīng)科學(xué)研究至關(guān)重要。
多功能微電極有力促進(jìn)多種激勵(lì)方式綜合調(diào)控。通過集成電刺激、藥物注射和光刺激等功能,植入式微電極在讀取生物體大腦活動(dòng)信息的同時(shí),還能調(diào)控生物體生命活動(dòng),實(shí)現(xiàn)生物體和外部設(shè)備的雙向通信。研究多功能的神經(jīng)微電極器件,搭建閉環(huán)系統(tǒng),可實(shí)現(xiàn)癲癇等腦疾病的診治和神經(jīng)功能恢復(fù)等應(yīng)用。
非植入式電極應(yīng)用場景廣泛。非植入式電極不需要進(jìn)行手術(shù)植入,直接放置于頭皮上即可進(jìn)行腦電信號(hào)采集,因此也稱為無創(chuàng)電極,其安全無創(chuàng)特性更易被使用者接受,因此在非臨床腦疾病診療、消費(fèi)級(jí)腦科學(xué)應(yīng)用等場景中得到了廣泛的應(yīng)用。
改進(jìn)的干電極是電極產(chǎn)業(yè)落地的主流選項(xiàng)。隨著基于頭皮腦電的腦機(jī)接口系統(tǒng)在便攜性、快速應(yīng)用及舒適度等方面的應(yīng)用需求增長,電極的改進(jìn)成為亟需解決的關(guān)鍵問題。傳統(tǒng)的濕電極盡管信號(hào)質(zhì)量好,但其專業(yè)的操作需求,耗時(shí)長,用后清洗等固有缺點(diǎn)無法規(guī)避。因此無膏的干電極技術(shù)逐漸發(fā)展起來以適應(yīng)新的應(yīng)用場景和需求?;诮饘俨牧匣?qū)щ娋酆衔锊牧系亩嗄_柱式/爪式干電極、基于導(dǎo)電纖維的刷毛式干電極、基于微機(jī)械加工工藝的微針電極及電容式電極等,在提高使用便捷性的同時(shí),也通過材料改進(jìn)和結(jié)構(gòu)設(shè)計(jì)優(yōu)化不斷地降低電極與皮膚的接觸阻抗,提高使用舒適度和應(yīng)用性。
凝膠半干電極具有潛在的廣闊應(yīng)用前景。干電極實(shí)現(xiàn)了腦機(jī)接口系統(tǒng)的便捷應(yīng)用,但其與頭皮的電連接僅靠微量的汗液,接觸阻抗較高,且強(qiáng)烈依賴于壓力,因此舒適度和信號(hào)質(zhì)量及穩(wěn)定性成為該項(xiàng)技術(shù)需要突破的技術(shù)難題。半干電極利用材料或結(jié)構(gòu)特性,釋放少量導(dǎo)電液到頭皮,以降低電極與頭皮的界面阻抗?;诓牧象w系的凝膠半干電極物理化學(xué)特性可調(diào),通過材料組分配比的優(yōu)化可兼顧電化學(xué)特性和機(jī)械特性,從而得到使用舒適度較好且信號(hào)質(zhì)量可與濕電極匹敵的性能,是一種極具應(yīng)用前景的電極技術(shù)。
隨著集成電路技術(shù)的快速發(fā)展以及電路與神經(jīng)科學(xué)融合研究的持續(xù)探索,腦信號(hào)采集技術(shù)朝著微型化、輕量化、高通量、分布式采集的方向不斷前進(jìn)。針對(duì)腦機(jī)接口的應(yīng)用、算法、硬件以及范式的研究內(nèi)容也逐漸豐富,植入式與非植入式腦機(jī)接口系統(tǒng)通過電極與采集硬件對(duì)腦信號(hào)進(jìn)行采集、處理和解碼,從而實(shí)現(xiàn)對(duì)腦科學(xué)基礎(chǔ)理論、腦疾病以及腦控外設(shè)的探索與研究。腦信號(hào)采集芯片是將腦信號(hào)直接轉(zhuǎn)化為數(shù)字信號(hào)的核心硬件,也是腦信號(hào)讀取與解碼,腦部疾病診斷與調(diào)控所依賴的工具。
針對(duì)腦部信號(hào)的生理特性以及應(yīng)用場景,在定制化腦信號(hào)采集芯片設(shè)計(jì)過程中存在諸多技術(shù)挑戰(zhàn)。精密放大器是腦信號(hào)采集芯片中的核心模塊,在腦機(jī)接口應(yīng)用場景中需要滿足多重技術(shù)參數(shù)要求。對(duì)于腦信號(hào)來說,其幅值微弱(幾十μV 到幾個(gè) mV)、頻率低(0.5 Hz 到數(shù) kHz),因此易受外界噪聲干擾,從而導(dǎo)致信號(hào)質(zhì)量不佳。為了保持最佳的信號(hào)質(zhì)量,腦信號(hào)采集模塊的部分關(guān)鍵參數(shù),例如信號(hào)噪聲、共模抑制比(CMRR)、電源抑制比(PSRR)、增益匹配、運(yùn)動(dòng)偽影等需要優(yōu)化。多個(gè)腦信號(hào)采集參數(shù)之間存在相互制約的關(guān)系,多參數(shù)的統(tǒng)籌優(yōu)化是當(dāng)前腦信號(hào)采集芯片設(shè)計(jì)的核心問題之一。
信號(hào)噪聲是腦信號(hào)采集過程中最大的干擾源之一。由于前端放大器的閃爍噪聲與腦信號(hào)在頻譜上部分重疊,采取簡單的濾波工作難以提取純凈腦信號(hào),因此對(duì)較低頻率的腦信號(hào)使用斬波放大技術(shù),將所采集的信號(hào)調(diào)制到較高頻率以避開放大器的閃爍噪聲。斬波技術(shù)在交流耦合儀表放大器中實(shí)現(xiàn)了良好噪聲和功耗平衡,但放大器的輸入阻抗在斬波調(diào)制過程中會(huì)降低到兆歐范圍以下,導(dǎo)致信號(hào)在進(jìn)入放大器前產(chǎn)生衰減。為解決輸入阻抗降低的問題,有團(tuán)隊(duì)提升了正反饋回路的輸入阻抗。還有團(tuán)隊(duì)采用電容組對(duì)輸入阻抗升壓回路的電容進(jìn)行校準(zhǔn),也有團(tuán)隊(duì)采用調(diào)整電路耦合的方式來切換斬波器和輸入電容的位置,避免因斬波調(diào)制導(dǎo)致的輸入阻抗降低。
共模抑制比是衡量系統(tǒng)應(yīng)對(duì)環(huán)境干擾的關(guān)鍵參數(shù)。針對(duì)微弱腦信號(hào),高共模抑制比可以保證信號(hào)不被共模擾動(dòng)2掩蓋,從而提高信號(hào)質(zhì)量。此外,在多通道神經(jīng)信號(hào)采集過程中,由于電極在植入大腦后產(chǎn)生的一系列生物相容性問題,導(dǎo)致電極阻抗可能隨植入時(shí)間增多而明顯提升(數(shù)個(gè)月后可高達(dá) 100kΩ至數(shù) MΩ),繼而影響腦信號(hào)的信噪比以及系統(tǒng)共模抑制比。為保證采集信號(hào)質(zhì)量,前端放大器電路采用共模反饋技術(shù)以及共模前饋技術(shù)以提高系統(tǒng)級(jí)共模抑制比。
采集芯片的微型化設(shè)計(jì)是植入式腦機(jī)接口系統(tǒng)核心技術(shù)挑戰(zhàn)之一。為了將采集芯片縮小至可植入的尺寸范圍,針對(duì)片上有源/無源器件的微型化是相關(guān)研究中的技術(shù)難題。具有電容耦合的全差分放大器結(jié)構(gòu)通過采用晶體管搭建的偽電阻(Pseudo Resistor)結(jié)構(gòu)可大幅縮小片上無源器件的面積,同時(shí)偽電阻提供了較大的阻抗以及較低的高通截止頻率,適合設(shè)計(jì)微型化的腦信號(hào)采集芯片。采用時(shí)分復(fù)用/正交頻分復(fù)用等技術(shù)通過固定的采集單元對(duì)多個(gè)通道的腦信號(hào)進(jìn)行同步采集,也可明顯降低片上面積。
針對(duì)不同的腦機(jī)接口應(yīng)用以及采集芯片面對(duì)的一些技術(shù)難題,國內(nèi)外有許多團(tuán)隊(duì)提出了解決方案。例如針對(duì)采集過程中的電極間直流偏置引起斬波放大器輸出飽和的問題,一種直流伺服反饋回路技術(shù)通過積分器將輸出端的直流分量提取并反饋至輸入端,有效抑制了電極間的直流偏置。對(duì)于采集芯片的超低功耗需求,有團(tuán)隊(duì)設(shè)計(jì)了基于反相器結(jié)構(gòu)的超低壓斬波放大器,非常適合植入式場景。針對(duì)芯片微型化的問題,放大器與 DAC 結(jié)合的數(shù)字-模擬混合反饋技術(shù)可大幅縮小采集芯片的片上面積。
針對(duì)腦信號(hào)采集過程中的共模干擾問題,基于電荷泵(charge pump)的共模反饋技術(shù)通過對(duì)輸入端的共模擾動(dòng)信號(hào)進(jìn)行動(dòng)態(tài)反饋,能有效抵抗高達(dá) 15V 的共模擾動(dòng)。對(duì)于采集芯片的無線供電問題,線圈的無線電感傳輸技術(shù)被應(yīng)用在植入式腦機(jī)接口芯片中,通過外部傳輸線圈以及中繼線圈和片上耦合線圈,實(shí)現(xiàn)了對(duì)體內(nèi)采集芯片的無線供電以及采集到的腦電信號(hào)無線傳輸。
體表網(wǎng)絡(luò)無線傳輸技術(shù)(Body area network,BAN)解決了無線供電時(shí)線圈難對(duì)準(zhǔn)的問題,利用被試者的身體表面對(duì)采集到的信號(hào)以及能量進(jìn)行無線傳輸,適用于可穿戴的腦機(jī)接口場景。在提升系統(tǒng)集成度方面,目前已有將信號(hào)采集、存儲(chǔ)、以及基于 AI 的信號(hào)歸類識(shí)別等模塊集成在一起的腦機(jī)接口片上系統(tǒng),實(shí)現(xiàn)了較高的系統(tǒng)集成度。針對(duì)于高通量植入式腦機(jī)接口芯片,有些公司設(shè)計(jì)了帶有動(dòng)作電位識(shí)別的高集成度采集芯片,該芯片與數(shù)千個(gè)柔性電極相結(jié)合,實(shí)現(xiàn)了對(duì)高通量腦信號(hào)的采集。
2、刺激技術(shù)
腦深部電極刺激(Deep Brain Stimulation, DBS)一種非常具有代表性的植入式電極刺激技術(shù)。DBS 通過植入體內(nèi)的腦起搏器發(fā)放弱電脈沖,刺激癲癇、帕金森的病灶腦區(qū),抑制病灶區(qū)神經(jīng)元的異常無規(guī)則放電,進(jìn)而抑制相關(guān)癥狀,使患者恢復(fù)自如活動(dòng)和自理能力。
傳統(tǒng)的 DBS 調(diào)參需要基于微電極信號(hào)分析、刺激效果分析、影像定位、核磁分析等多技術(shù)手段選擇治療觸點(diǎn)。借助腦機(jī)接口技術(shù),腦內(nèi)電極不僅具有單向刺激功能,還可進(jìn)行周圍神經(jīng)元信號(hào)采集,以做到精準(zhǔn)觸點(diǎn)選擇。就技術(shù)發(fā)展進(jìn)度看,目前可以做到信號(hào)采集之后由醫(yī)生根據(jù)生物標(biāo)志物和與患者的交互反饋進(jìn)行觸點(diǎn)選擇,未來還將向自適應(yīng)角度發(fā)展,自適應(yīng)技術(shù)研發(fā)方向包括:
通過優(yōu)化的信號(hào)處理方法實(shí)現(xiàn)自適應(yīng)調(diào)控。如在機(jī)器學(xué)習(xí)、深度學(xué)習(xí)基礎(chǔ)上對(duì)患者腦電數(shù)據(jù)進(jìn)行預(yù)測分類,為醫(yī)生提供分類結(jié)果以助于診斷,提升觸點(diǎn)選擇的精準(zhǔn)度。另外,在患者體態(tài)姿勢(shì)發(fā)生變化導(dǎo)致電極與靶組織之間距離改變時(shí),例如咳嗽、打噴嚏、深呼吸時(shí),可根據(jù)誘發(fā)復(fù)合動(dòng)作電位調(diào)控刺激以避免發(fā)生瞬時(shí)過度刺激。
通過刺激參數(shù)空間拓展改善自適應(yīng)調(diào)控。刺激參數(shù)空間包括觸點(diǎn)、幅度、頻率、脈寬的選擇。目前在常用單極恒頻刺激的基礎(chǔ)上已開發(fā)交叉電脈沖模式、變頻刺激及多觸電不同頻刺激技術(shù),極大地拓寬了刺激參數(shù)空間,實(shí)現(xiàn)更好的癥狀調(diào)控。
依托多樣生物標(biāo)志物實(shí)現(xiàn)自適應(yīng)刺激調(diào)控。當(dāng)前國內(nèi)外知名 DBS廠商正在嘗試基于生物標(biāo)志物實(shí)現(xiàn)自適應(yīng)刺激調(diào)控,例如檢測神經(jīng)遞質(zhì)濃度,通過血清素、去甲腎上腺素、多巴胺脫氧血紅蛋白度、氧合血紅蛋白的濃度識(shí)別治療效果并作為依據(jù)來動(dòng)態(tài)調(diào)整刺激幅度。也有基于血流水平、范圍或預(yù)定血流值矩陣等血流信息調(diào)節(jié)刺激幅度、脈沖寬度、脈沖率和占空比等指標(biāo)。
通過磁共振相融 DBS 技術(shù)實(shí)現(xiàn)自適應(yīng)調(diào)控下的腦網(wǎng)絡(luò)探索。現(xiàn)有磁共振兼容 DBS 技術(shù)解決了在強(qiáng)磁場下電極發(fā)熱、移位及感應(yīng)電流等安全隱患,使植入 DBS 的患者能在 3.0T 磁共振下進(jìn)行長時(shí)間的同步刺激及掃描。在解決臨床需求的同時(shí),也使 DBS 成為探索刺激相關(guān)腦網(wǎng)絡(luò)變化的直接媒介,通過功能磁共振解析刺激相關(guān)局部及整體腦網(wǎng)絡(luò)改變,為新靶點(diǎn)的發(fā)現(xiàn)及適應(yīng)癥的拓展提供依據(jù)。
植入式視覺調(diào)控技術(shù)對(duì)盲人群體提高生活質(zhì)量具有重大意義,相關(guān)研究已經(jīng)開展。全球絕大多數(shù)研究團(tuán)隊(duì)在開環(huán)視覺重建的研究中,研究方向逐漸從視網(wǎng)膜刺激向皮層刺激轉(zhuǎn)移。目前主要集中在電刺激初級(jí)視覺皮層(V1)以獲得人工視覺感知。這就需要進(jìn)行刺激電極的植入。最新的實(shí)驗(yàn)已經(jīng)植入了超過 10 塊猶他陣列,通道數(shù)達(dá)到 1024。該系統(tǒng)還包括采集視頻的攝像頭,采集到的圖像信息通過信號(hào)處理獲得簡單的二維灰度圖像(目前還沒有具有色彩的植入式人工視知覺輸入),并據(jù)此刺激初級(jí)視覺皮層神經(jīng)元。受試者通過植入電極可以在有限的視野范圍內(nèi)看到一些灰度調(diào)制的低分辨率點(diǎn)陣圖像。
目前的研究結(jié)果表明,用小電流電刺激初級(jí)視覺皮層神經(jīng)元(V1 neurons)會(huì)激活直徑數(shù)百微米的皮層區(qū)域,從而獲得簡單的視覺知覺,稱為光幻視(phosphenes)。電刺激可以改變大腦皮層的信息流,影響到正常視覺觀測內(nèi)容。由于電刺激是相對(duì)粗糙的刺激方式,因此獲得的視覺感知也相對(duì)粗糙。目前研究致力于通過多個(gè)電極同時(shí)刺激,讓受試者感知到具體圖像或連貫動(dòng)作。2020 年發(fā)表在 Science 上的研究結(jié)果表明,通過植入大規(guī)模 1024 通道電極并進(jìn)行訓(xùn)練,可以使非人靈長類正確識(shí)別字母,辨識(shí)運(yùn)動(dòng)方向等。如何通過不同模式刺激增強(qiáng)受試者感知連貫形狀的能力,并最大限度向其傳遞視覺信息依然是未來研究重點(diǎn)。
目前的植入式視覺調(diào)控研究多為開環(huán)腦機(jī)接口系統(tǒng),開環(huán)腦機(jī)接口系統(tǒng)難以實(shí)現(xiàn)精確刺激模型,且電刺激也難以與真實(shí)的視覺刺激保持一致,因此存在不可控風(fēng)險(xiǎn)且難以實(shí)現(xiàn)精細(xì)視覺輸入。因此閉環(huán)視覺調(diào)控是未來重要的技術(shù)探索方向。
3、范式編碼技術(shù)
大腦的各種思維與響應(yīng)活動(dòng)千變?nèi)f化,且同時(shí)發(fā)生,因此很難直接從中準(zhǔn)確解碼特定類型的活動(dòng)。在腦機(jī)接口系統(tǒng)中,用范式來表征對(duì)預(yù)定義的大腦意圖的編碼方案。范式定義為:在編碼任務(wù)中,對(duì)希望識(shí)別的大腦意圖用可檢測、可區(qū)分、可采集的腦信號(hào)予以對(duì)應(yīng),從而實(shí)現(xiàn)對(duì)大腦意圖的可識(shí)別輸出。在過去的幾十年中,出現(xiàn)了許多腦機(jī)接口范式,常見典型的有運(yùn)動(dòng)想象范式、穩(wěn)態(tài)視覺誘發(fā)電位范式、P300 范式。這些范式往往根據(jù)是否有外部刺激和輔助而分為被動(dòng)式和主動(dòng)式范式。
視覺誘發(fā)電位刺激范式 P300 朝向界面布局優(yōu)化、人臉圖像拼寫和融合物理刺激方向發(fā)展。傳統(tǒng)的視覺 P300 電位刺激范式下,拼寫器允許受試者通過閃爍不同的行和列來選擇目標(biāo),但沒有考慮兩個(gè)相鄰符號(hào)連續(xù)閃爍對(duì)結(jié)果的影響。近年有大量研究針對(duì) P300 電位刺激范式的拼寫界面布局開展優(yōu)化工作,有效消除了相鄰符號(hào)閃爍帶來的影響。一些研究發(fā)現(xiàn)面部符號(hào)可以比傳統(tǒng) P300 字符拼寫范式誘導(dǎo)更高的 P300 電位。
因此許多研究嘗試用人臉圖像代替數(shù)字或字母符號(hào),使每個(gè)符號(hào)在以一定頻率閃爍時(shí)都會(huì)變成人臉圖像,而不是簡單的顏色或大小變化,實(shí)現(xiàn)了 P300 電位刺激范式的解碼性能提升。最近也有研究發(fā)現(xiàn),在視覺 P300 電位刺激范式中添加其他形式的物理刺激可以提高使用者的表現(xiàn),例如使用偏光鏡增強(qiáng)刺激、基于積極情緒的視聽組合刺激、引入聲音和視頻刺激等方式。因此將 P300 電位與其他物理刺激融合的范式研究也是近年的熱點(diǎn)。
穩(wěn)態(tài)視覺誘發(fā)電位(Steady-state visual evoked potentials,SSVEP)刺激范式朝向更高效、更舒適和更自然發(fā)展。SSVEP 范式腦機(jī)接口主要應(yīng)用方向包括:高速率腦機(jī)接口打字交互系統(tǒng)、特殊群體腦機(jī)報(bào)警系統(tǒng)、自然場景的腦機(jī)目標(biāo)選擇系統(tǒng)等。為支撐上述三大應(yīng)用場景,SSVEP 范式的主要發(fā)展趨勢(shì)包括:
更高效:SSVEP 范式編碼從最初 4 目標(biāo)編碼已發(fā)展至 160 目標(biāo)編碼,且編碼的識(shí)別響應(yīng)性能也在持續(xù)提升,因而實(shí)現(xiàn)的高速率SSVEP-BCI 系統(tǒng)的性能也在不斷提升。后續(xù) SSVEP 會(huì)持續(xù)研究更高效、可分性更好的范式編碼。
更舒適:SSVEP 范式刺激的最佳頻帶為 8~15Hz,該頻帶的多目標(biāo)閃爍刺激雖然實(shí)現(xiàn)的系統(tǒng)性能優(yōu)異,但也容易誘發(fā)視覺疲勞,因而在實(shí)際落地應(yīng)用中受到了一定的阻力。目前 SSVEP 舒適刺激的方式主要包括降低亮度變化率、提高刺激頻率、減小刺激目標(biāo)面積以及采用空間編碼(外周視野)刺激等。上述研究已取得了較大的進(jìn)展,并不斷繼續(xù)推進(jìn)中。
更自然:SSVEP 刺激范式的每個(gè)刺激塊需要按固定頻率進(jìn)行閃爍且具有一定的面積,因而在實(shí)際應(yīng)用過程中僅與腦機(jī)打字場景最為貼合,即將字符繪于對(duì)應(yīng)的閃爍目標(biāo)塊上即可。目前已有部分 SSVEP范式采用空間編碼的方式將中央視野區(qū)域空出,在視野外周進(jìn)行刺激編碼,進(jìn)而實(shí)現(xiàn)更貼近自然應(yīng)用場景的應(yīng)用。
也有適當(dāng)降低 SSVEP 閃爍塊面積并與生活場景結(jié)合的編碼思路,受限于刺激面積變小對(duì)響應(yīng)強(qiáng)度的影響,為保障系統(tǒng)的識(shí)別正確率與響應(yīng)速度,此類應(yīng)用的SSVEP 編碼目標(biāo)數(shù)較少。此外,SSVEP 的主要響應(yīng)腦區(qū)位于后腦枕葉,因而往往需要佩戴腦電帽,不利于生活自然場景使用。為解決該問題,部分研究采用時(shí)頻混合或時(shí)空頻融合的編碼方式,嘗試提升無毛發(fā)區(qū)的 SSVEP 響應(yīng)強(qiáng)度,取得了一定的進(jìn)展。為了 SSVEP 腦機(jī)接口在生活場景落地,上述研究仍在持續(xù)推進(jìn)中。
運(yùn)動(dòng)想象(Motor Imagery, MI)范式朝向更精細(xì)發(fā)展。運(yùn)動(dòng)想象是一種非常重要的主動(dòng)式腦機(jī)接口范式,用于識(shí)別大腦對(duì)四肢和舌頭的運(yùn)動(dòng)意圖。其無需外界條件刺激和明顯的動(dòng)作輸出就能誘發(fā)大腦感覺運(yùn)動(dòng)皮層的特定響應(yīng)?,F(xiàn)已廣泛應(yīng)用于基于腦機(jī)接口的假肢、機(jī)械臂和輪椅等設(shè)備控制、字符拼寫及臨床中風(fēng)康復(fù)治療等場景。
基于運(yùn)動(dòng)想象范式的腦機(jī)接口已經(jīng)發(fā)展多年,經(jīng)過數(shù)十年的研究,大肢體部位的 MI 控制已經(jīng)基本發(fā)展成熟,而對(duì)更細(xì)微運(yùn)動(dòng)做出想象并有效識(shí)別(例如不同手指的伸縮、握拳、不同手勢(shì)的運(yùn)動(dòng)想象等)是運(yùn)動(dòng)想象范式編碼的發(fā)展方向。
運(yùn)動(dòng)相關(guān)皮層電位范式朝向多肢體運(yùn)動(dòng)意圖解碼和連續(xù)運(yùn)動(dòng)解碼發(fā)展。運(yùn)動(dòng)相關(guān)皮層電位(Movement-related cortical potential, MRCP)是一種可以從低頻頭皮腦電中捕捉到的與運(yùn)動(dòng)規(guī)劃、執(zhí)行相關(guān)的神經(jīng)活動(dòng)信號(hào)。MRCP 主要由三部分組成,即與運(yùn)動(dòng)準(zhǔn)備相關(guān)的準(zhǔn)備電位(Readiness potential, RP)、與運(yùn)動(dòng)發(fā)生、起始相關(guān)的運(yùn)動(dòng)電位(Motorpotential, MP)以及與運(yùn)動(dòng)執(zhí)行、運(yùn)動(dòng)性能相關(guān)的運(yùn)動(dòng)監(jiān)測電位(Movement-monitoring potential,MMP)。
相較于 SSVEP 和 P300 等被動(dòng)式腦機(jī)接口范式,MRCP 和運(yùn)動(dòng)想象是不依賴于外部刺激的、由人體真實(shí)運(yùn)動(dòng)意圖誘發(fā)的主動(dòng)式腦機(jī)接口范式。而相較于運(yùn)動(dòng)想象,MRCP 不依賴于重復(fù)的運(yùn)動(dòng)想象。因此,MRCP 具有自然、真實(shí)、可以反映人的實(shí)際運(yùn)動(dòng)意圖等優(yōu)點(diǎn)。典型的 MRCP 范式包括點(diǎn)到點(diǎn)的上肢運(yùn)動(dòng)(如 center-out)、連續(xù)運(yùn)動(dòng)追蹤式的上肢運(yùn)動(dòng)(如 PTT)、指定動(dòng)作類型的上肢或下肢運(yùn)動(dòng)(如手腕內(nèi)旋/外旋)等。
由于 MRCP 具有可反映運(yùn)動(dòng)意圖的特性,其對(duì)發(fā)展與運(yùn)動(dòng)康復(fù)、運(yùn)動(dòng)功能診斷、日常生活輔助等相關(guān)的運(yùn)動(dòng)腦機(jī)接口具有重要價(jià)值。目前,MRCP 主要發(fā)展趨勢(shì)包括從單肢體到多肢體的運(yùn)動(dòng)意圖解碼、從離散分類問題到連續(xù)回歸問題的連續(xù)運(yùn)動(dòng)參數(shù)解析、與神經(jīng)假肢、外骨骼、機(jī)械臂等外設(shè)結(jié)合的人體運(yùn)動(dòng)增強(qiáng)和康復(fù)治療等。
4、解碼算法技術(shù)
卡爾曼濾波器成為當(dāng)前主流解碼方法。以運(yùn)動(dòng)控制為例,早期的植入式腦機(jī)接口解碼大都使用維納濾波器線性解碼系統(tǒng)。此類解碼系統(tǒng)不包含運(yùn)動(dòng)學(xué)過程模型,而是將群體神經(jīng)元的反應(yīng)作為輸入,將空間坐標(biāo)內(nèi)的運(yùn)動(dòng)速率作為輸出,通過最優(yōu)線性估計(jì)的方法進(jìn)行解碼。早期很多腦機(jī)接口實(shí)驗(yàn)室都用該方法進(jìn)行解碼。
后來,為滿足控制過程中的解碼連續(xù)性需求,需要有運(yùn)動(dòng)模型作參考以修正和優(yōu)化解碼器輸出,卡爾曼濾波器成為當(dāng)前的主流解碼方法,其在離線、實(shí)時(shí)以及臨床試驗(yàn)中都得到了廣泛的應(yīng)用??柭鼮V波的優(yōu)點(diǎn)是算法簡單,而且可以不需考慮神經(jīng)元具體編碼內(nèi)容即可解碼,因此可以實(shí)時(shí)快速解碼。其缺點(diǎn)在于解碼效果一般,且每次實(shí)驗(yàn)之前都需較長的校準(zhǔn)時(shí)間,另外,卡爾曼濾波解碼的系統(tǒng)魯棒性相對(duì)較差。為解決這些問題,國際上提出了很多方法,其中最具前景的方法主要包括類腦解碼器設(shè)計(jì)和神經(jīng)學(xué)習(xí)。
類腦解碼器成為新一代解碼方法。最近一些皮層神經(jīng)元群體編碼特性研究結(jié)果表明,雖然大量的神經(jīng)元被記錄并用于腦機(jī)接口的解碼,但因大腦神經(jīng)元的信息編碼相對(duì)于運(yùn)動(dòng)是冗余的,用于控制的神經(jīng)元群體反應(yīng)維度要低于神經(jīng)元數(shù)量。因此在理論上可以找到一個(gè)隱藏或潛在的低維狀態(tài)空間來描述在該控制條件下的有效神經(jīng)元群體反應(yīng),并將這個(gè)狀態(tài)空間中的潛變量映射到相關(guān)行為或運(yùn)動(dòng)控制變量用于運(yùn)動(dòng)控制。
將這些編碼特性應(yīng)用于解碼器設(shè)計(jì),得到類腦的解碼器可用于腦機(jī)接口控制。目前學(xué)術(shù)研究結(jié)果表明,此類穩(wěn)定子空間是存在的。此方法的優(yōu)勢(shì)是雖然記錄到的神經(jīng)元群體信號(hào)有高噪聲且會(huì)發(fā)生變化,但其在子空間上的動(dòng)力學(xué)過程一直穩(wěn)定,因此可以有效去除不穩(wěn)定記錄以及神經(jīng)元發(fā)放變化帶來的干擾,從而獲得更為魯棒的腦機(jī)接口系統(tǒng)。
神經(jīng)學(xué)習(xí)提供新的解碼思路。當(dāng)前還有一種前沿的腦機(jī)接口解碼方法是通過訓(xùn)練大腦進(jìn)行學(xué)習(xí)來使用腦機(jī)接口,即神經(jīng)學(xué)習(xí)(也稱腦機(jī)學(xué)習(xí))。腦機(jī)接口系統(tǒng)中存在兩個(gè)學(xué)習(xí)系統(tǒng),一個(gè)是解碼器的機(jī)器學(xué)習(xí),另外一個(gè)就是具有強(qiáng)大學(xué)習(xí)能力的神經(jīng)系統(tǒng)。腦機(jī)接口初期的實(shí)驗(yàn)都體現(xiàn)了大腦學(xué)習(xí)本身的重要意義,但如何讓大腦學(xué)會(huì)使用腦機(jī)接口的解決方案尚不完善。
腦機(jī)接口系統(tǒng)在使用過程中,閉環(huán)控制的練習(xí)可以導(dǎo)致神經(jīng)元為適應(yīng)用戶的運(yùn)動(dòng)系統(tǒng)而發(fā)生變化。因此,閉環(huán)過程中的解碼器與開環(huán)時(shí)的解碼器可能完全不同,結(jié)果表明提供快速的反饋比過濾錯(cuò)誤更為重要,因此誕生了改進(jìn)閉環(huán)性能的技術(shù),一般被稱為閉環(huán)解碼器適應(yīng)(Closed-Loop decoder Adaptation,CLDA)。此類方法根據(jù)閉環(huán)腦機(jī)接口使用期間記錄的數(shù)據(jù)實(shí)時(shí)改進(jìn)解碼器,讓解碼器根據(jù)用戶當(dāng)前神經(jīng)信號(hào)的性質(zhì)來決定解碼器的結(jié)構(gòu)。
此外,用戶的神經(jīng)系統(tǒng)也在實(shí)時(shí)學(xué)習(xí)如何應(yīng)用這個(gè)解碼器。兩者的相互結(jié)合以及相互促進(jìn)得到了一個(gè)“腦機(jī)雙學(xué)習(xí)”的融合式腦機(jī)接口系統(tǒng)。此系統(tǒng)可以在神經(jīng)信號(hào)不穩(wěn)定時(shí)依然輸出穩(wěn)定的表現(xiàn),且僅需少量校準(zhǔn)即可即插即用,同時(shí)魯棒性極高,在適應(yīng)新的應(yīng)用場景時(shí)有同時(shí)保留已學(xué)控制技巧并探索新控制方式的特性,因此極大的提高了腦機(jī)接口系統(tǒng)在實(shí)際應(yīng)用中的可能性。
分解算法是非植入式腦機(jī)接口系統(tǒng)的主流解碼算法。分解算法廣泛應(yīng)用于腦機(jī)接口系統(tǒng)的去噪與意圖解碼。分解算法通常使用矩陣分解或提取空間濾波器來增加不同類別意圖的解碼可分離性。大多數(shù)分解算法都是為特征提取而設(shè)計(jì)的,矩陣特征分解后通常需要連接到分類器。獨(dú)立成分分析(ICA)是使用廣泛的分解算法之一。ICA 一方面可對(duì)不同源信號(hào)進(jìn)行特征分析,另一方面還可用于去噪(例如去除眨眼成分、偽影信號(hào)等)。在解碼腦意圖時(shí),不同腦機(jī)接口范式的分解算法存在差異。運(yùn)動(dòng)想象范式解碼多采用通用空間模式(CSP)及衍生算法。
CSP 可最大化不同分布的方差信號(hào),例如對(duì)左右手運(yùn)動(dòng)想象進(jìn)行分類。在 CSP 基礎(chǔ)上逐漸衍生出濾波器組 CSP(FBCSP)、提議判別濾波器組 CSP(DFBCSP)、臨時(shí)約束的稀疏組空間模式(TSGSP)等。穩(wěn)態(tài)視覺誘發(fā)電位(SSVEP)解碼多采用典型相關(guān)分析(CCA)及衍生算法。CCA 算法有效解決了以往非空域分解算法難于處理的導(dǎo)聯(lián)挑選問題。近十年學(xué)者提出諸多 CCA 改進(jìn)算法,例如濾波器組CCA(FBCCA)、任務(wù)相關(guān)成分分析(TRCA)、集成 TRCA(eTRCA)、任務(wù)相關(guān)成分分析算法(mTRCA、TDCA 等)。視覺 P300 電位解碼算法依托 xDAWN 算法和 DCPM 算法。目前有增強(qiáng) P300 誘發(fā)電位的xDAWN 算法以及將空間模式提取和模式匹配結(jié)合的 DCPM 算法。
近十年以黎曼幾何為代表的流形算法在腦機(jī)接口系統(tǒng)中廣泛應(yīng)用。黎曼幾何算法通??梢杂糜趯?duì)稱正定(SPD)矩陣的空間上應(yīng)用運(yùn)算,進(jìn)而提供一個(gè)統(tǒng)一的框架來處理不同的腦機(jī)接口范式。例如基于最小均值距離(MDM)和帶有測地線濾波(FgMDM)算法對(duì) MI任務(wù)進(jìn)行分類。MDM 類似于使用歐式距離而不是黎曼距離的最近鄰算法。FgMDM 將協(xié)方差投影到切線空間,將線性判別分析(LDA)應(yīng)用于切線向量,然后將它們投影回帶有選定分量的 SPD 空間。黎曼框架由于具有擴(kuò)展性,因此易于多場景應(yīng)用并與機(jī)器學(xué)習(xí)方法結(jié)合。
深度學(xué)習(xí)算法在近年被引入腦機(jī)接口解碼研究?;?CNN 網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的 Shal-lowConvNet 和 DeepConvNet 模仿了 FBCSP 中的時(shí)間和空間濾波器,性能接近 FBCSP。進(jìn)一步利用深度可分離卷積代替普通卷積提出的 EEGNet 在 SSVEP 范式應(yīng)用中取得了很好的效果。CNN網(wǎng)絡(luò)模型具有的批處理歸一化功能也可用于視覺 P300 范式的解碼。進(jìn)一步還有諸多深度學(xué)習(xí)的改進(jìn)模型,例如 CNN-RNN 架構(gòu)、CNN-LSTM 架構(gòu)。還有一些研究側(cè)重于腦機(jī)接口的數(shù)據(jù)擴(kuò)增,進(jìn)而得到更多的訓(xùn)練數(shù)據(jù),提升解碼效果。典型的數(shù)據(jù)擴(kuò)增網(wǎng)絡(luò)模型包括循環(huán)的對(duì)抗網(wǎng)絡(luò)(RGAN)、增強(qiáng) MI 數(shù)據(jù)的 C-LSTM 模型等。
遷移學(xué)習(xí)算法的進(jìn)步是腦機(jī)接口走向應(yīng)用落地的關(guān)鍵。許多機(jī)器學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)來自相同的特征分布。此類算法在腦機(jī)接口應(yīng)用中,雖然面向單個(gè)被試在短時(shí)間內(nèi)可以取得良好性能,但在不同被試或相同被試不同時(shí)間的情況下性能則大幅下降。這些問題被稱為跨被試和跨時(shí)間的可變性問題。為了減輕這兩個(gè)問題的影響,通常需要一個(gè)校準(zhǔn)階段來在每個(gè)會(huì)話開始時(shí)收集足夠的訓(xùn)練數(shù)據(jù),但這會(huì)明顯增加系統(tǒng)使用的準(zhǔn)備時(shí)間。
遷移學(xué)習(xí)旨在利用源域中的先驗(yàn)信息改進(jìn)目標(biāo)域中預(yù)測函數(shù)的學(xué)習(xí)過程,解決跨會(huì)話和跨主體的可變性問題。腦機(jī)接口的早期遷移學(xué)習(xí)算法側(cè)重于分解算法的改進(jìn)。而后黎曼幾何法進(jìn)一步促進(jìn)了腦機(jī)接口的遷移學(xué)習(xí)算法進(jìn)步。近年來,深度學(xué)習(xí)算法也開始應(yīng)用于遷移學(xué)習(xí)領(lǐng)域。此外,其他領(lǐng)域的遷移學(xué)習(xí)方法也在腦機(jī)接口研究中有一定的借鑒,例如信息幾何(STIG)的光譜傳輸算法在快速序列視覺呈現(xiàn)范式(RSVP)的驗(yàn)證;融合轉(zhuǎn)移分量分析(TCA)和聯(lián)合分布適應(yīng)(JDA)提出的用于腦機(jī)接口的流形嵌入知識(shí)轉(zhuǎn)移(MEKT)方法。
智東西認(rèn)為,經(jīng)過數(shù)十年的科學(xué)探索與技術(shù)論證,腦機(jī)接口已從科幻成為科學(xué),并處于從科學(xué)研究到產(chǎn)業(yè)落地的關(guān)鍵時(shí)期。就腦機(jī)接口目前的發(fā)展情況,在今后一段時(shí)間,腦機(jī)接口的基礎(chǔ)學(xué)科研究和應(yīng)用落地都將得到長足發(fā)展,從而有望促進(jìn)腦機(jī)接口市場規(guī)模不斷擴(kuò)大。