一种基于显示帧回执与质量证据累积的单通道稳态视觉诱发意图解码及误触抑制方法与系统与流程

摘要: 本发明涉及脑机接口、脑电信号处理、视觉刺激呈现和异步人机交互,尤其涉及一种获取显示设备实际逐帧呈现回执,校正消费级显示器掉帧、可变刷新率和显示延迟所造成的刺激相...
一种基于显示帧回执与质量证据累积的单通道稳态视觉诱发意图解码及误触抑制方法与系统与流程

本发明涉及脑机接口、脑电信号处理、视觉刺激呈现和异步人机交互,尤其涉及一种获取显示设备实际逐帧呈现回执,校正消费级显示器掉帧、可变刷新率和显示延迟所造成的刺激相位偏差,在枕区单通道脑电条件下进行质量加权的序贯证据累积,并利用无控制状态、滞回和输出锁止抑制连续误触的方法、系统及电子设备。

背景技术:

1、稳态视觉诱发电位是用户注视周期性视觉刺激时,在枕叶视觉皮层产生的具有刺激基频及其谐波成分的脑电响应。ssvep具有训练负担较低、信息传输率较高和适合目标选择的优点,可用于ar菜单、aiot设备、数字化身和具身智能体的高层意图输入。

2、现有ssvep系统通常在显示器上按照名义频率生成多个闪烁目标,使用固定触发信号截取脑电窗口,再通过频谱、典型相关分析、滤波器组、模板匹配或神经网络识别用户注视目标。为提高实时性,一些方案采用置信度阈值、连续时间窗、控制与空闲状态识别或动态停止。

3、消费级产品与实验室设备存在明显差异。显示设备可能采用60hz、90hz、120hz或可变刷新率;操作系统图形合成、gpu负载、无线投屏和移动端节能会造成掉帧、延迟或刷新率切换。应用程序请求的刺激帧序列并不等同于用户实际看到的亮度变化。如果仍按照名义频率和理论相位生成参考信号,脑电窗口与参考之间会出现相位漂移,短窗口解码尤其容易受影响。

4、此外,显示设备和脑电采集设备通常具有独立时钟。只在试次开始时发送一次软件触发,不能反映持续运行中的时钟漂移和逐帧显示误差。若发生掉帧却仍把该窗口作为正常标签用于校准,还会把显示故障误当成用户神经响应差异。

5、单通道oz或邻近枕区设备缺少多通道空间滤波能力,对参考电极波动、接触阻抗、运动伪迹和工频干扰更敏感。固定窗口过短会增加误判,固定窗口过长又降低交互速度。仅在最大分类分数超过阈值时输出,也不能区分候选目标之间的分离度、相位一致性和当前信号质量。

6、连续交互还存在重复触发问题。用户选择目标后,视线和ssvep响应不会瞬时消失,滑动窗口可能连续多次输出同一命令。简单设置固定冷却时间会在响应仍然存在时过早恢复,或在用户已转移注意后造成不必要等待。

7、因此,需要一种把显示端实际帧轨迹、跨时钟同步、单通道质量评估、相位校正参考、序贯证据、无控制状态和输出锁止结合为完整闭环的技术方案。

技术实现思路

1、一、发明目的

2、本发明旨在解决消费级显示设备实际刺激轨迹与名义频率不一致、显示和采集时钟漂移、单通道信号质量变化、固定时间窗难以兼顾速度和可靠性以及持续注视造成重复输出的问题,从而提高单通道ssvep在自然环境和连续人机交互中的准确性、低误触性和可复现性。

3、二、技术方案

4、刺激呈现模块为每一视觉目标生成期望刺激序列,同时获取vsync、呈现完成、图形合成、帧编号、刷新率、掉帧或光电检测等逐帧回执。系统根据实际呈现时间和亮度状态重建有效刺激轨迹,不把未呈现或时间偏差过大的帧视为正常刺激。

5、跨时钟同步模块通过公共触发、gpio、网络报文、接收时间或光电事件建立显示时钟和脑电采集时钟之间的仿射映射,持续估计偏移和漂移,产生同步残差及同步质量等级。

6、解码模块按照映射后的实际刺激轨迹截取枕区单通道脑电窗口,计算接触、参考稳定性、信噪比、伪迹、工频、有效数据和同步残差等质量指标。系统根据有效刺激轨迹而非名义频率重建每一目标的参考波形和相位轨迹,再提取基频、谐波、相位锁定、相关或模板证据。

7、序贯证据累积器为每一视觉目标和无控制状态保存累积证据。每个新窗口只提供增量,增量由信号质量和同步质量调制;质量低或含不确定帧的时间片被降权或屏蔽。系统在证据不足时继续累积或延长窗口,在同步或质量不合格时暂停输出,在最高目标的证据、与次高目标分离度、相位一致性和连续稳定性同时满足时才输出意图。

8、输出后系统进入锁止状态。锁止期间持续监测目标证据和无控制证据,只有在原目标证据先低于退出阈值、无控制状态成立、刺激集合版本变化或收到新交互周期标识后才允许下一次输出。进入阈值高于退出阈值,形成滞回,避免阈值附近抖动。

9、三、有益效果

10、本发明能够发现和补偿掉帧、显示延迟和刷新率变化造成的参考相位错误;能够使脑电窗口和用户实际看到的刺激轨迹对齐;能够依据单通道质量和同步可靠性动态延长或停止解码;能够将无控制状态与多个刺激目标共同累积;能够阻止持续注视造成重复命令;能够隔离显示故障或同步错误窗口,避免污染跨用户和个体校准数据。

1.一种基于显示帧回执与质量证据累积的单通道稳态视觉诱发意图解码及误触抑制方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述逐帧显示回执包括垂直同步信号时间戳、图形接口呈现时间戳、显示合成完成时间戳、帧编号、刷新率、掉帧标记、可变刷新率状态、目标亮度状态或由光电检测器获得的亮度变化时间中的至少三项;当某一帧缺少显示回执、被标记为掉帧或实际呈现时间偏离期望呈现时间超过阈值时,在所述有效刺激轨迹中将对应帧标记为不确定帧或按照相邻有效帧重建实际亮度状态。

3.根据权利要求1所述的方法,其特征在于,建立所述时间映射关系包括:根据公共触发事件、网络时钟报文、显示回执与采集端接收时间、光电检测事件或周期相关峰值中的至少一种,估计显示时钟到采集时钟的偏移系数和漂移系数;将显示时间t_d映射为采集时间t_e=a t_d+b,其中a为时钟漂移系数,b为时钟偏移量;根据多个同步事件的映射残差生成刺激同步残差和同步质量等级,并在同步质量等级低于阈值时暂停视觉诱发意图输出。

4.根据权利要求1所述的方法,其特征在于,所述枕区单通道脑电信号由设置于oz、o1、o2、poz或其邻近区域的一个信号电极相对于参考电极获取;所述脑电信号质量向量包括接触阻抗、参考电极稳定性、饱和比例、基线漂移、工频能量、运动伪迹、目标频带信噪比、有效数据比例和刺激同步残差中的至少三项,并用于确定各谐波的权重、当前脑电窗口长度、证据增量上限或是否允许输出。

5.根据权利要求1所述的方法,其特征在于,生成所述相位校正参考包括:根据有效刺激轨迹中每一帧对应的实际亮度状态和实际呈现时间,针对各视觉刺激目标重建时域刺激波形;对所述时域刺激波形计算基频与一个或多个谐波的正交分量、相位轨迹或频谱模板;使用重建得到的正交分量、相位轨迹或频谱模板与所述脑电窗口进行相关、相干、相位锁定或模板匹配;当显示设备切换刷新率或累计掉帧比例超过阈值时,废弃基于名义刺激频率生成的参考并重新生成相位校正参考。

6.根据权利要求1所述的方法,其特征在于,所述序贯证据累积器针对每一视觉刺激目标和无控制状态分别保存累积对数似然、累积相关分数、累积后验概率或累积证据质量;每次更新时,根据脑电信号质量和同步质量对候选证据增量进行缩放,对不确定帧对应的时间片降权或屏蔽;当最高候选证据与次高候选证据的分离度不足时延长窗口,当总窗口长度达到最大长度仍不满足输出条件时输出无控制状态或拒绝输出。

7.根据权利要求1所述的方法,其特征在于,所述进入阈值高于所述退出阈值以形成滞回;连续稳定性根据同一目标在连续判定时刻的排名、相位偏差、证据增长方向和候选集合版本中的至少两项确定;在输出锁止状态期间,若目标仍持续占据最高候选但其证据未先下降至退出阈值以下,则不生成第二次有效意图;对于风险等级高于阈值的意图,还要求重复选择一致、用户确认或第二输入模态确认中的至少一种。

8.根据权利要求1所述的方法,其特征在于,还包括:记录视觉刺激集合版本、有效刺激轨迹版本、时间映射版本、脑电窗口标识、信号质量向量、候选证据、无控制证据、输出状态和任务回执;仅当逐帧显示回执完整度、同步质量、脑电信号质量以及任务回执可归因性满足训练样本条件时,将对应脑电窗口及视觉刺激目标标签加入校准缓存;当显示掉帧、同步误差、执行失败或用户否定反馈不能区分时,将对应窗口隔离而不用于更新解码参数。

9.一种基于显示帧回执与质量证据累积的单通道稳态视觉诱发意图解码及误触抑制系统,其特征在于,包括:刺激呈现与帧回执模块,用于生成多个视觉刺激目标的期望刺激序列并获取逐帧显示回执,构建有效刺激轨迹;跨时钟同步模块,用于建立显示时钟与单通道脑电采集时钟的时间映射并生成刺激同步残差;单通道质量评估模块,用于生成脑电信号质量向量;相位校正解码模块,用于根据有效刺激轨迹生成相位校正参考并提取基频、谐波和相位证据;序贯证据累积模块,用于累积各视觉刺激目标及无控制状态的证据并根据质量和同步残差调整窗口;可信输出模块,用于在证据、分离度、相位一致性、质量和连续稳定性满足进入条件时输出视觉诱发意图;锁止与恢复模块,用于在输出后阻止同一持续注视过程重复输出,直至满足退出或恢复条件。

10.一种电子设备,其特征在于,包括处理器、存储器、显示接口和神经信号采集接口,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使所述电子设备执行权利要求1至8任一项所述的方法。