腹腔镜手术动作识别方法装置设备及存储介质

本技术涉及医学图像处理,特别是涉及一种腹腔镜手术动作识别方法、装置、设备及存储介质。

背景技术:

技术实现思路

1、有鉴于此,本技术提供一种腹腔镜手术动作识别方法、装置、设备及存储介质,以解决现有手术动作识别方式识别准确性低、计算量大的问题。

2、为解决上述技术问题,本技术采用的一个技术方案是:提供一种腹腔镜手术动作识别方法,其包括:获取腹腔镜微创手术的手术视频,并输入至预先训练好的手术动作识别模型,手术动作识别模型包括第一子模型和第二子模型,第一子模型基于卷积神经网络构建,第一子模型采用参数完全微调的方式训练,第二子模型基于视觉自注意力模型构建,第二子模型采用参数高效微调的方式训练;利用第一子模型从手术视频中提取特征并进行预测,得到第一手术动作预测结果;利用第二子模型从手术视频中提取特征并进行预测,得到第二手术动作预测结果;将第一手术动作预测结果和第二手术动作预测结果进行加权融合,得到最终手术动作识别结果。

3、作为本技术的进一步改进,第一子模型包括第一骨干网络、空间聚合编码器、第一时序聚合编码器、第一器械分类模块、第一器官分类模块、第一动作分类模块和第一三元组分类模块。

4、作为本技术的进一步改进,利用第一子模型从手术视频中提取特征并进行预测,得到第一手术动作预测结果,包括:利用第一骨干网络从手术视频提取得到初始空间特征;利用空间聚合编码器对初始空间特征进行空间集成,得到第一全局空间特征;利用第一时序聚合编码器对第一全局空间特征进行时序集成,得到第一时空融合特征;将第一全局空间特征分别输入至第一器械分类模块和第一器官分类模块进行预测,得到第一器械预测结果和第一器官预测结果;将第一时空融合特征分别输入至第一动作分类模块和第一三元组分类模块进行预测,得到第一动作预测结果和第一三元组预测结果。

5、作为本技术的进一步改进,第二子模型包括第二骨干网络、第二时序聚合编码器、第二器械分类模块、第二器官分类模块、第二动作分类模块和第二三元组分类模块。

6、作为本技术的进一步改进,利用第二子模型从手术视频中提取特征并进行预测,得到第二手术动作预测结果,包括:利用第二骨干网络从手术视频提取得到第二全局空间特征;利用第二时序聚合编码器对第二全局空间特征进行时序集成,得到第二时空融合特征;将第二全局空间特征分别输入至第二器械分类模块和第二器官分类模块进行预测,得到第二器械预测结果和第二器官预测结果;将第二时空融合特征分别输入至第二动作分类模块和第二三元组分类模块进行预测,得到第二动作预测结果和第二三元组预测结果。

7、作为本技术的进一步改进,第二骨干网络预先划分为参数冻结模块、参数高效微调模块和参数完全微调模块,参数冻结模块、参数高效微调模块和参数完全微调模块所占网络层数的数量分别预先设定,参数高效微调模块包括预设数量个tranformer编码器单元,tranformer编码器单元的多头自注意力层串联有一个串行适配器,tranformer编码器单元的多层感知机层并联有一个并行适配器。

8、作为本技术的进一步改进,方法还包括预先训练手术动作识别模型,包括:获取预先打上标签的视频样本;将视频样本分别输入至第一子模型和第二子模型,得到由第一子模型输出的第一样本预测结果和由第二子模型输出的第二样本预测结果;对第一样本预测结果和第二样本预测结果进行加权融合,得到最终样本预测结果;根据最终样本预测结果、标签和预先设置的二元交叉熵损失函数对第一子模型和第二子模型进行训练,直至手术动作识别模型达到预设精度时为止,第一子模型基于参数完全微调的方式进行训练,参数冻结模块在进行模型训练时所有参数均不参与训练,参数高效微调模块在进行模型训练时多头自注意力层和多层感知机不参与训练且串行适配器和并行适配器参与训练,参数完全微调模块在进行模型训练时所有参数均参与训练。

9、作为本技术的进一步改进,获取预先打上标签的视频样本之后,还包括:将视频样本划分为多个视频样本片段;依次将相邻两个视频样本片段基于预设混合强度按像素进行混合叠加,得到混合增强后的视频样本,同时保留两个视频样本片段对应的所有标签。

10、为解决上述技术问题,本技术采用的再一个技术方案是:提供一种计算机设备,所述计算机设备包括处理器、与所述处理器耦接的存储器,所述存储器中存储有程序指令,所述程序指令被所述处理器执行时,使得所述处理器执行如上述任一项的腹腔镜手术动作识别方法的步骤。

11、为解决上述技术问题,本技术采用的再一个技术方案是:提供一种存储介质,存储有能够实现上述任一项的腹腔镜手术动作识别方法的程序指令。

12、本技术的有益效果是:本技术的腹腔镜手术动作识别方法通过将获取到的手术视频输入至预先构建好的手术动作识别模型,利用手术动作识别模型的第一子模型和第二子模型分别从手术视频中提取特征并进行预测,再将两者的预测结果进行融合,得到最终的手术动作识别结果,该第一子模型基于卷积神经网络构建,能够较好的提取到手术视频中的局部特征,第二子模型基于视觉自注意力模型构建,能够较好的提取到手术视频中的全局特征,与第一子模型提取的特征进行互补,通过将两者的预测结果进行融合,从而二者的预测结果在一定程度上存在互补性,两者的预测结果进行融合可使得手术动作识别结果更为精准,而第一子模型采用参数完全微调的方式进行训练,第二子模型采用参数高效微调的方式进行训练,两者所需训练的参数量均较少,两者联合使用的计算量也不会造成过大的计算负担。

THE END
1.高清宫腹腔镜及工作站手术录制视频在线播放学习下载视频 加群交流 保存到桌面 评论 上一讲 第1讲 / 共1讲 下一讲 本周教程点击排行 >卫生部医学视听教材——常见疾病211678 >卫生部妇科上环视频(宫内节育器放置术)126156 >国外医学英语:人体解剖学和生理学64346 >最新医师资格考试辅导教程52647 https://www.waitang.com/play/57344.html
2.手术示教的微课平台建设远程医疗与教学 Telemedicine and Teaching 王文辉① 袁紫旭② 摘 要 多媒体手术示教是手术教学的有效创新,解决了手术现场观摩所带来的种种问题,然而解决不了学员精力难长时间 集中,学习时段要求长的问题。微课以视频为主要载体,具有教学时间短、示教主题突出、资源容量小,方便随时随地学习 的特点。基于多媒体手术示教的...https://max.book118.com/html/2018/1019/5102331234001322.shtm
3.溧阳市人民医院荣誉医院2023年度表彰名单8.第十一届金陵国际胃癌诊治论坛——江苏省腹腔镜胃癌手术视频大赛三等奖 获奖者:朱初明 9.2023年中医药文化知识竞赛“第三名” 获奖者:王志强 陈麒阳 10.2023年溧阳市医疗急救职业技能竞赛医生组二等奖 获奖者:黄宇峰 11.常州市妇幼技能竞赛产安办类别三等奖 ...http://www.lyrmyy.com/default.php?mod=article&do=detail&tid=1109102
4.广东省医师协会现场来宾均表示“干货满满”,纵使会议接近饭点,仍然有许多观众不愿离席。本次大会所录制的视频均作为《腹腔镜胃肠手术笔记(第二版)》一书的书稿内容将会在近期内编辑出版,以饗更多胃肠外科医生,为本次年会增添多一层学术意义。 图5 8月4日,准备进行手术视频分享的中青年外科医生陆续进场。在李勇教授的带领下,一...http://www.gdmda.org/contents/82/1493.html
5.手术腹腔镜图片手术腹腔镜素材手术腹腔镜图片下载视觉中国为您找到1891个原创手术腹腔镜素材图片,包括手术腹腔镜图片,手术腹腔镜插画,手术腹腔镜模板,手术腹腔镜元素,手术腹腔镜图标等源文件下载服务,包含PSD、PNG、JPG、AI、CDR等格式素材,更多关于手术腹腔镜素材、图片、海报、背景、插画、配图、矢量、UI、PS、免https://www.vcg.com/creative-image/6972521
6.腹腔镜手术视频解读及OPD能力培训胃肠专题培训反馈问卷(华南专场)您刚刚完成腹腔镜手术视频解读及OPD能力培训胃肠专题,现邀请您填写以下反馈问卷。谢谢您的宝贵时间! *1. 请对以下说法与您的实际想法符合程度评分:强烈不同意=1 2 3 4 5=强烈同意 12345 我尽职尽责地全身心参与了培训项目。 我对培训内容有兴趣。 *2. ...https://www.wjx.cn/jq/87081779.aspx
1....人显示器带屏幕电池手术视频录像HD90外接存储设备+2块电池图片...九音九视HD90高清录制盒SDI/DVI/HDMI全接口腹腔镜胃镜消化内窥镜术野机器人显示器带屏幕电池手术视频录像 HD90 外接存储设备+2块电池图片、价格、品牌样样齐全!【京东正品行货,全国配送,心动不如行动,立即购买享受更多优惠哦!】https://item.jd.com/10085076060192.html
2.腹腔镜(精选8篇)1.继续推广腹腔镜手术,进一步扩大手术范围,更多地取代开放性手术。 2.不断加强年轻医师培训学习,提高腹腔镜手术技能,发展微创外科。 篇2:腹腔镜 申请报告 尊敬的院领导 目前世界腹腔镜技术和腹腔镜设备的发展、产品及腔镜技术越来越成熟。腹腔镜技术已经能够在外科做胆囊手术、阑尾手术、直肠吻合和淋巴结清扫、胃肠吻合...https://www.360wenmi.com/f/filesv59giqn.html
3.手术室腹腔镜手术的专业医疗设备mov格式视频下载摄图网为设计师提供正版视频素材:手术室腹腔镜手术的专业医疗设备视频素材,腹部,腹部,精度,关节镜,关节镜,artroscopia,正文,棕色,瘀伤,诊所,特写,离合器,职权范围,切,医生,紧急情况,内窥镜,内镜下,内镜检查,设备,钳,手套,健康,医院,切口,损伤,文书,腹腔镜,腹腔镜手术,腹腔镜https://xsj.699pic.com/shipin/01pewb.html
4.阳江市中医医院拟釆购设备调研论证公告(视频喉镜(气道管理系统...现予公示,公示期从公示之日起总共5个工作日,定于 2022年4月29日15时在阳江市江城区东风二路东怡花园8幢50号广东广招招标采购有限公司会议室(阳江市行政服务中心西侧仙踪路路口直入约50米)举行专家论证,主要从技术参数(40分)、配置(20分)、价格(40分)进行打分,论证结果作为阳江市中医医院设备招标参数、配置及...https://www.yjtcm.com/Item/1854.aspx
5.南京超然医院远程手术示教系统解决方案场景信号:主要包括全景摄像机、术野摄像机的视频信号 监护仪器信号:病人监护仪、麻醉机等; 医疗影像设备信号:按照成像原理,可分为六类:超声成像:A型、B型(B超)、C型、D型(彩超)、M型等;_线成像:_线机、CT、数字_线摄影(CR、DR、DSA.)等;内镜:腹腔镜、胸腔镜、胆道镜、胃镜、支气管镜、鼻窦镜等;手术显...https://m.66law.cn/contractmodel/5850793.aspx
6.丁香园浙B2-20070219(含BBS) | (浙) -经营性-2022-0030 | 浙公网备案 33010802004314 号 | 出版物经营许可证: 新出发滨字第0064号 网络文化经营许可证: 浙网文 [2018]11330-875 号 | 食品许可证: JY13301080010985 号 | 人力资源许可证编号: 330108202110270036 号 第二类医疗器械经营备案凭证:浙杭食药监械经营...https://3g.dxy.cn/bbs/topic/34180834
7.常文举医生获奖手术视频展示1近期,常文举医生代表复旦大学附属中山医院结直肠外科团队,参加第三届国际NOSES经典手术视频大赛,并获得华东华中赛区 一等奖。 常文举医生获奖证书 NOSES IV式 1. 什么是NOSES手术? 下面我们一起来认识被誉为“极致微创”的NOSES手术,NOSES手术是利用腹腔镜、机器人等微创器械和设备,完成直肠癌的根治术,经过人体的自然腔...https://www.haodf.com/neirong/wenzhang/9392168749.html