最新研究表明，AI 技术在提供医疗建议时，仍存在显著的安全隐患。
德国和比利时的研究人员测试了微软的 Bing Copilot，发现其在解答美国常见的医疗问题和药物相关问题时，生成的500个答案中，有24%不符合现有医学知识，3%的回答完全错误。
更为严重的是，42%的回答可能对患者造成中度或轻度伤害，22%的回答甚至可能导致严重伤害甚至死亡。仅有36%的回答是无害的。
此外，研究还揭示了 AI 答案的完整性和准确性问题。AI 提供的答案的平均完整性得分仅为77%，最差的答案完整性仅为23%。在准确性方面，26%的答案与医学参考数据不一致，超过3%的回答完全错误。
只有54%的答案与科学共识一致，而39%的答案与共识相悖。由此可见，尽管 AI 技术有着巨大的潜力。
但其在医疗领域的应用仍然不成熟，患者应优先咨询专业医生以获取更为可靠的建议。
与此同时，人工智能也在医疗领域展示了潜在的巨大成功案例。加拿大多伦多圣迈克尔医院自2020年开始使用的基于 AI 的 Chartwatch 预警系统，在实际应用中拯救了许多患者的生命。
Chartwatch 通过分析患者的生命体征和实验室结果，能够提前预测患者病情的恶化，及时发出警报，帮助护理团队尽早采取干预措施。
在一项为期一年半的研究中，Chartwatch 将住院患者的意外死亡率降低了26%。
该系统的成功展示了 AI 技术不仅在于算法的精度，还在于它与临床环境的有机结合。
通过动态监控患者的各项指标，Chartwatch 能及时发现问题，帮助医疗团队更早采取行动，显著提升了患者的生存几率。
这表明，AI 技术的成熟不仅仅依赖于模型的训练，还在于多维度思考其应用场景和实际操作中的表现。
然而，AI 技术在医疗设备中的应用也并非没有问题。多项研究表明，许多经美国食品药品监督管理局（FDA）批准的 AI 医疗设备，仍然缺乏充分的临床验证数据。
来自北卡罗来纳大学医学院等多家机构的研究团队指出，近一半获得 FDA 批准的 AI 工具没有公开的临床验证数据，无法完全保证其安全性和有效性。
这进一步引发了对于 AI 在医疗领域应用前景的担忧。
综上所述，AI 技术虽然展示了广泛的潜力，但仍需要在数据验证、应用场景适配和多维度思考方面进行改进。
随着技术的不断成熟，它有望为医疗领域带来革命性的变革，但这需要更严格的验证和谨慎的应用。
暂无评论内容