腹腔镜手术动作识别方法装置设备及存储介质

本技术涉及医学图像处理,特别是涉及一种腹腔镜手术动作识别方法、装置、设备及存储介质。

背景技术:

技术实现思路

1、有鉴于此,本技术提供一种腹腔镜手术动作识别方法、装置、设备及存储介质,以解决现有手术动作识别方式识别准确性低、计算量大的问题。

2、为解决上述技术问题,本技术采用的一个技术方案是:提供一种腹腔镜手术动作识别方法,其包括:获取腹腔镜微创手术的手术视频,并输入至预先训练好的手术动作识别模型,手术动作识别模型包括第一子模型和第二子模型,第一子模型基于卷积神经网络构建,第一子模型采用参数完全微调的方式训练,第二子模型基于视觉自注意力模型构建,第二子模型采用参数高效微调的方式训练;利用第一子模型从手术视频中提取特征并进行预测,得到第一手术动作预测结果;利用第二子模型从手术视频中提取特征并进行预测,得到第二手术动作预测结果;将第一手术动作预测结果和第二手术动作预测结果进行加权融合,得到最终手术动作识别结果。

3、作为本技术的进一步改进,第一子模型包括第一骨干网络、空间聚合编码器、第一时序聚合编码器、第一器械分类模块、第一器官分类模块、第一动作分类模块和第一三元组分类模块。

4、作为本技术的进一步改进,利用第一子模型从手术视频中提取特征并进行预测,得到第一手术动作预测结果,包括:利用第一骨干网络从手术视频提取得到初始空间特征;利用空间聚合编码器对初始空间特征进行空间集成,得到第一全局空间特征;利用第一时序聚合编码器对第一全局空间特征进行时序集成,得到第一时空融合特征;将第一全局空间特征分别输入至第一器械分类模块和第一器官分类模块进行预测,得到第一器械预测结果和第一器官预测结果;将第一时空融合特征分别输入至第一动作分类模块和第一三元组分类模块进行预测,得到第一动作预测结果和第一三元组预测结果。

5、作为本技术的进一步改进,第二子模型包括第二骨干网络、第二时序聚合编码器、第二器械分类模块、第二器官分类模块、第二动作分类模块和第二三元组分类模块。

6、作为本技术的进一步改进,利用第二子模型从手术视频中提取特征并进行预测,得到第二手术动作预测结果,包括:利用第二骨干网络从手术视频提取得到第二全局空间特征;利用第二时序聚合编码器对第二全局空间特征进行时序集成,得到第二时空融合特征;将第二全局空间特征分别输入至第二器械分类模块和第二器官分类模块进行预测,得到第二器械预测结果和第二器官预测结果;将第二时空融合特征分别输入至第二动作分类模块和第二三元组分类模块进行预测,得到第二动作预测结果和第二三元组预测结果。

7、作为本技术的进一步改进,第二骨干网络预先划分为参数冻结模块、参数高效微调模块和参数完全微调模块,参数冻结模块、参数高效微调模块和参数完全微调模块所占网络层数的数量分别预先设定,参数高效微调模块包括预设数量个tranformer编码器单元,tranformer编码器单元的多头自注意力层串联有一个串行适配器,tranformer编码器单元的多层感知机层并联有一个并行适配器。

8、作为本技术的进一步改进,方法还包括预先训练手术动作识别模型,包括:获取预先打上标签的视频样本;将视频样本分别输入至第一子模型和第二子模型,得到由第一子模型输出的第一样本预测结果和由第二子模型输出的第二样本预测结果;对第一样本预测结果和第二样本预测结果进行加权融合,得到最终样本预测结果;根据最终样本预测结果、标签和预先设置的二元交叉熵损失函数对第一子模型和第二子模型进行训练,直至手术动作识别模型达到预设精度时为止,第一子模型基于参数完全微调的方式进行训练,参数冻结模块在进行模型训练时所有参数均不参与训练,参数高效微调模块在进行模型训练时多头自注意力层和多层感知机不参与训练且串行适配器和并行适配器参与训练,参数完全微调模块在进行模型训练时所有参数均参与训练。

9、作为本技术的进一步改进,获取预先打上标签的视频样本之后,还包括:将视频样本划分为多个视频样本片段;依次将相邻两个视频样本片段基于预设混合强度按像素进行混合叠加,得到混合增强后的视频样本,同时保留两个视频样本片段对应的所有标签。

10、为解决上述技术问题,本技术采用的再一个技术方案是:提供一种计算机设备,所述计算机设备包括处理器、与所述处理器耦接的存储器,所述存储器中存储有程序指令,所述程序指令被所述处理器执行时,使得所述处理器执行如上述任一项的腹腔镜手术动作识别方法的步骤。

11、为解决上述技术问题,本技术采用的再一个技术方案是:提供一种存储介质,存储有能够实现上述任一项的腹腔镜手术动作识别方法的程序指令。

12、本技术的有益效果是:本技术的腹腔镜手术动作识别方法通过将获取到的手术视频输入至预先构建好的手术动作识别模型,利用手术动作识别模型的第一子模型和第二子模型分别从手术视频中提取特征并进行预测,再将两者的预测结果进行融合,得到最终的手术动作识别结果,该第一子模型基于卷积神经网络构建,能够较好的提取到手术视频中的局部特征,第二子模型基于视觉自注意力模型构建,能够较好的提取到手术视频中的全局特征,与第一子模型提取的特征进行互补,通过将两者的预测结果进行融合,从而二者的预测结果在一定程度上存在互补性,两者的预测结果进行融合可使得手术动作识别结果更为精准,而第一子模型采用参数完全微调的方式进行训练,第二子模型采用参数高效微调的方式进行训练,两者所需训练的参数量均较少,两者联合使用的计算量也不会造成过大的计算负担。

THE END
1.腹腔镜手术设备工作原理与操作应用单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,腹腔镜手术设备,工作原理与操作应用,腹腔镜设备,摄像监视系统,CO2,气腹机系统,操作器械系统,摄像监视系统,腹腔镜,摄像系统,冷光源,腹腔镜,现在使用的腹http://m.zhuangpeitu.com/article/252578811.html
2.手术腹腔镜图片手术腹腔镜素材手术腹腔镜图片下载视觉中国为您找到1891个原创手术腹腔镜素材图片,包括手术腹腔镜图片,手术腹腔镜插画,手术腹腔镜模板,手术腹腔镜元素,手术腹腔镜图标等源文件下载服务,包含PSD、PNG、JPG、AI、CDR等格式素材,更多关于手术腹腔镜素材、图片、海报、背景、插画、配图、矢量、UI、PS、免https://www.vcg.com/creative-image/6972521
3.腹腔镜高频手术器械数十万医疗设备随时查! 快速报价 寰熙自营 签约保障 售后无忧 产品说明 注册证号 国械注准20193011941 适用范围 产品与高频设备配合使用,用于在腹腔镜手术中对人体组织进行常规切割和凝血。 结构及组成 手术器械由单极剥离钳、单极剪刀、双极电凝钳、单极电钩、单极电铲、单极电棒、单极电针和单极抓钳组成。 https://www.huanxiyl.com/show.asp?id=9041
4.腹腔镜设备主要技术要求.doc腹腔镜设备主要技术要求摄像系统;超级CCD:图象清晰度≥50万象素;光源: 光照强度3300流明,色温≥5700K,连续使用寿命≥600小时;图文工作站: 具有拍照,编辑,手术模块生成,统计等功能。 30升大流量气腹机: 1,压力设置范围:0~3.0Kpa或0~24mmHg;误差≤±10%; 2,最大气流量:30L/min 显示器: 1,19英寸液晶或...https://max.book118.com/html/2021/0115/8065105010003037.shtm
1.常见的医疗设备如何维修和保养1、腹腔镜 维护和保养 (1)器械宜轻取轻放,不得摩擦、相互碰撞及同时一手拿多样器械,保持轴节灵活尖端合拢良好、锐利器械刃而锋利。 (2)注意镜面的保护。 (3)导线清洁后存放时,不可拆迭,盘旋弯曲度应大于90度,以防止光纤折损,影响使用效果及缩短使用寿命。 https://www.yoojia.com/ask/17-12098689498713357047.html
2.郑州人民医院腹腔镜手术器械项目比选公告1.5比选内容:腹腔镜手术器械 1)设备技术参数详见比选文件技术要求。 2.供应商资格要求 供应商必须满足以下资格要求中的所有条款,并按照相关规定递交资格证明文件。 2.1必须是中华人民共和国境内注册,具有独立法人资格,企业财务状况良好,依法缴纳税收和社会保障资金,具备承担比选项目的能力; ...https://www.zzrmyy.com/m/content-9996.aspx
3.安乡县人民医院4K腹腔镜系统及辅助设备器械采购项目包名:安乡县人民医院4K腹腔镜系统及辅助设备、器械采购项目 , 金额:1790000元。 核心产品淘汰规则(详见采购法87号令第三十一条):提供相同品牌产品的不同投标人参加同一合同项下投标的,以其中通过资格审查、符合性审查且报价最低的参加评标;报价相同的,由采购人或者采购人委托评标委员会按照招标文件规定的方式确定一个...https://changd.ccgp-hunan.gov.cn/f/m/pkg_detail/pkg_42272
4.手术器械素材手术器械图片手术器械素材图片下载觅知网为您找到364个原创手术器械素材图片,包括手术器械图片,手术器械素材,手术器械海报,手术器械背景,手术器械模板源文件下载服务,包含PSD、PNG、JPG、AI、CDR等格式素材,更多关于手术器械素材、图片、海报、背景、插画、配图、矢量、UI、PS、免抠,模板、艺术字、Phttps://www.51miz.com/so-sucai/156396.html
5.医疗设备市场调研公告主要功能:此套设备集宫腔镜检查、取活检,电切、冷切于一身,采用世界最先进冷切技术,可使用3mm腹腔镜手术器械进行宫腔内手术,无热损伤,保护子宫内膜。 配置要求: 宫腔镜主镜体 宫腔镜外鞘 操作器械:单极剪刀、单极分离钳、单极抓钳、单极电钩、双极电凝钳、单极电棒 ...https://www.nwwch.com/info/1150/5680.htm
6.伊达器械设备品牌介绍→伊达手术器械伊达手术设备手术器械 品牌企业介绍 杭州桐庐医达器械设备有限公司于1990年注册于浙江桐庐,是国内较早专业研制、生产、销售腹腔镜手术器械的企业。产品涉及普外科、胸外科、妇科等领域,品种繁多、规格齐全、选料考究、款式新颖。公司生产的一次性腔镜成套手术器械产品已远销欧美、中东地区。 公司一贯秉承以人为本,与时俱进,不断...https://m.maigoo.com/brand/53009.html
7.重庆医科大学附属康复医院关于腹腔镜系统皮肤科设备需求调研的...9、设备运行状态语音智能提示,具有过压报警功能; 10、包括医用电刀一套、医用吸引器一套、开腹手术器械一套、腹腔镜器械一套至少包含: (1)5mm弯分离钳,长度33–36cm 1把; (2)5mm无损伤抓钳,长度33–36cm 2把; (3)5mm肠钳,长度33-36cm 1把; https://www.rhcqmu.com/wap/lists/detail/s/id/2733
8.华医网讲义开腹手术、阴式手术,以及腹腔镜手术都分别有哪些优缺点?在哪种情况下实施? 三、阴式手术的适应证 阴式手术是一个很古老的手术,但是实际上它的发展受到了一定的限制,现在它又重新发展起来,主要有两大变革:一个就是手术指征的拓展,另外一个就是手术方法和器械的改进和运用。 既往不能行阴式手术的指征包括无子...https://v8.91huayi.com/cme/201182911565/05/jiangyi/content.html
9.共享腹腔手术学发展简史心情驿站1991年2月,荀祖武医生独立完成我国大陆首例腹腔镜胆囊切除术后,目前我国的腹腔镜外科医生已能同国外同行一样完成几乎所有腹腔镜手术,腹腔镜手术设备已经普及到许多县级医院,我国的腹腔镜外科技术已在世界上占有重要地位。腹腔镜外科的出现是现代外科发展的一个标志。现在已经影响到普通外科的许多方面,不但变革了手术方式,...https://3g.dxy.cn/bbs/topic/26435561
10.拟采购设备公示(高清腹腔镜系统)9、具有广泛的兼容性,适合于任何内镜使用的高级照明设备。 10、可连接高清摄像头、电子腹腔镜、电子胃肠镜、软性电子镜。 11、通过CF一类认证,最高级别医用电气安全标准。 三、高清摄像头 1、内置3CCD高清摄像晶片,实现1080P图像质量及16:9图像比例。 https://www.yjhospital.com/Print.aspx?id=3145