医学顾事红蓝融合 中华医学会理事 神经外科教授
在当今科技飞速发展的时代，AI 技术正逐渐渗透到各个领域，医疗领域也不例外。许多外科医生在手术过程中可能并未完全察觉到自己的失误，而如今 AI“黑匣子”的出现，为实时记录手术全过程和精准度提供了可能。其目的并非单纯为了挑错，而是旨在帮助医生看到哪些方面需要改进，以实现更精湛和完美的手术治疗。
由斯坦福大学外科专家研发的被称为“手术黑匣子”的 AI 系统，成为了这一领域的创新之举。他们运用全景摄像机、麦克风以及麻醉监视器等设备，全面记录手术室中的所有状况，再通过 AI 算法对这些数据进行分析，从而助力手术医生、麻醉师和护士不断提升手术操作水平和效果。该项目的负责人，这位知名外科专家，其灵感源自 25 年前观看自己手术录像时所产生的羞愧感，让他深刻认识到实时记录和分析手术细节的重要性。于是，他带领团队与 AI 专家携手合作，成功开发出了“手术黑匣子”AI 系统。
该 AI 系统的强大之处不仅在于它能够完整地捕获手术全过程，还能够详细记录手术室环境、对话以及开关门的次数等，为手术环境提供了真实而全面的数据分析。这无疑为手术的安全性和效率提升带来了巨大的助力。然而，正如任何新技术的出现都会伴随着一些挑战和争议一样，这一 AI 系统也不例外。虽然它有助于提高手术的安全性和效率，但同时也可能涉及到隐私和法律问题，从而引发了部分医护人员的“消极抵触”情绪。一些医护人员担心这些数据可能会被用于惩罚或法律诉讼。为了消除这些顾虑，研发人员采取了一系列措施，确保黑匣子记录的手术数据进行匿名化处理，并在 30 天内自动删除，以最大程度地保护医护人员的隐私和权益。
每年，约有 22000 名美国人因医院的严重医疗失误而死亡，其中许多是在手术台上。在有些医疗事故中，外科医生会将手术海绵留在患者体内，或者完全执行了错误的手术。
美国斯坦福大学外科教授特奥多·格兰恰罗夫（Teodor Grantcharov）认为，他已经找到了一种使手术更安全、最大限度地减少人为错误的工具。
他开发了一种在手术室中使用的人工智能“黑匣子”，其工作方式与飞机上的黑匣子类似。
这些设备由格兰恰罗夫的外科安全技术公司制造，通过全景摄像头、天花板上的麦克风和麻醉监视器记录手术室里的一切，然后使用人工智能帮助外科医生理解数据。
它们将手术室作为一个整体，捕捉的信息包括开门的次数，手术过程中发生的与病例无关的对话次数等等。
这些黑匣子在美国、加拿大和西欧的近 40 家机构中使用，从西奈山到杜克大学再到梅奥诊所。
但是，医院是处于一个新的安全时代的风口浪尖上，还是在创造一个混乱和奇怪的环境？
（来源：STEPHANIE ARNETT/MIT TECHNOLOGY REVIEW | ENVATO）
作为一个具有更广泛意义的故事，这引起了我的共鸣。各行各业的组织都在考虑如何采用人工智能，使工作变得更安全或更高效。医院的例子表明，真实应用情况并不总是很明朗，你需要避免很多陷阱。
以下是我从这个故事中学到的关于采用人工智能的三个教训：
隐私很重要，但并不总是能得到保证。格兰恰罗夫很快意识到，让外科医生使用黑匣子的唯一方法是让他们感到自己受到了保护，免受可能的影响。
他设计了一个系统来记录行动，但隐藏了患者和工作人员的身份，甚至是在 30 天内删除所有记录。他的观点是，任何人都不应该因为犯了错误而受到惩罚。
黑匣子录音中的每个人都是匿名的。他用了一种算法会扭曲人们的声音，模糊他们的脸，将他们变成阴影般的黑色人物。所以，即使你知道发生了什么，你也不能用它来针对一个人。
但这个过程并不完美。在 30 天前的记录被自动删除之前，医院管理员仍然可以看到手术室号码、手术时间和患者的病历号码，因此即使从技术上抹除了人员身份，他们也不是真正的匿名。
美国杜克大学医院临床运营副主任克里斯托弗·曼蒂（Christopher Mantyh）说，使用黑匣子的结果是一种“老大哥在监视你”的感觉。该医院在七个手术室里都装了黑匣子。
如果不首先获得人们的支持，就无法采用新技术。人们通常会找理由质疑新的工具，而该系统在隐私方面的缺陷也是工作人员一直不愿接受它的部分原因。许多医生和护士都在抵制新的监控工具。
在一家医院里，摄像头被人转向或故意拔掉插头，并遭到破坏。一些外科医生和工作人员拒绝在有摄像头的房间里工作。
在一些摄像头遭到破坏的医院，外科医生花了长达六个月的时间才适应它们。但一旦工作人员了解了这项技术的防护措施，事情就顺利多了。
在一对一的谈话中，管理者解释了数据是如何被自动识别和删除的，之后员工开始更加信任它。
更多的数据并不总是能带来解决方案。你不应该为了采用新技术而采用新技术，如果它们实际上没有用处的话。但要确定人工智能技术是否适合你，你需要回答一些棘手的问题。
一些医院根据黑匣子数据汇报了一些小的改进。杜克大学医院的医生利用这些数据来检查抗生素按时使用的频率，他们报告说，利用这些数据可以帮助减少手术室在两个病例轮换之间空置的时长。
但从一些医院获得支持一直很困难，因为还没有任何大规模的同行评审研究表明，黑匣子是如何帮助减少患者并发症和挽救生命的。
美国西奈山医院的普外主任西莉亚·迪维诺（Celia Divino）说，过多的数据可能会导致运转异常。她问道：“你怎么解读这些数据？你用它做什么？这始终是一个问题。”
目前，这一 AI 系统已经在 40 多家医院得到了应用，其中包括著名的梅奥诊所和杜克大学医院。这些医院在应用该系统后取得了显著的成效，例如减少了手术室的空置时间，同时提高了手术安全清单的遵守率。而未来，他们进一步的研究课题包括证明该 AI 系统对降低患者并发症和死亡率具有实际效果。业界专家对这一 AI 技术的应用和推广给予了高度评价，他们认为这将带动手术室从传统的经验主义模式向 AI 驱动的数据分析精准化模式转变，最终的目标是提高手术治疗效果和服务质量。
从更广泛的意义上来说，AI“黑匣子”监测系统的出现是医疗领域的一次重要变革。它不仅为医生提供了自我提升和改进的有力工具，也为患者的治疗效果和安全提供了更坚实的保障。通过对手术过程的全面监控和分析，医生可以更好地了解自己的操作情况，发现潜在的问题并及时加以改进。同时，这种数据分析也可以为医学研究提供宝贵的数据资源，推动医学技术的不断进步。
然而，我们也需要认识到，在推广和应用这一技术的过程中，需要充分考虑到隐私保护、法律规范以及医护人员的接受度等多方面的问题。只有在确保这些问题得到妥善解决的前提下，AI“黑匣子”监测系统才能真正发挥其应有的作用，为医疗事业的发展做出更大的贡献。
总之，AI“黑匣子”监测系统的出现为医生手术的安全和精准提供了新的途径和可能性。它代表了科技与医疗的完美结合，为未来医疗领域的发展指明了方向。我们期待着在不断的探索和实践中，这一技术能够不断完善和发展，为人类的健康事业带来更多的福祉。同时，我们也需要在技术发展的过程中保持理性和谨慎，确保科技的力量始终服务于人类的福祉和社会的进步。
