发展

你可能还记得一些律师曾试图在法庭上使用人工智能工具，但当聊天机器人搞砸了，有时甚至发明了听起来似乎合理但实际上不存在的案件时，他们随后感到尴尬和制裁。

所以考虑一下:如果你的医生做同样的事情，把你的症状输入一个人工智能系统来诊断你的问题，你会有什么感觉?

这是一个迫在眉睫的问题，在一个引人入胜的故事中报道，这正在给监管机构施加压力。而且它的紧迫性令人担忧，因为根据报告，医生是不受监管的，而且很少经过测试的人工智能工具来帮助诊断病人——所以这不是关于遥远未来的假设性对话，而是一个已经发生的现象，很可能只需要一起医疗事故诉讼，就会成为重大的医疗和监管丑闻。

“马车走在马前面太远了，我们怎么才能把它拉回来，而不把它拉下峡谷?”加州大学圣地亚哥分校公共卫生研究员约翰·艾尔斯问道。

显而易见的答案是，科技需要监管，这个概念得到了从白宫到OpenAI的每个利益相关者的名义支持。

当然，问题在于，这样做说起来容易做起来难。正如所指出的那样，一个关键问题是，大多数医疗产品——比如药品、手术设备或其他医疗器械——可以被批准一次，并且通常被认为可以无限期地保持同样的工作方式。

人工智能模型就不是这样了，随着它们的创造者对它们进行调整和添加更多的数据，人工智能模型不断变化，这意味着人工智能在某一天给出了完美的诊断，但在常规的改变之后，可能会给出一个糟糕的诊断。记住，机器学习系统的一个核心现实是，即使是它们的创造者也很难准确地解释它们是如何工作的。

他指出，像FDA这样的政府监管机构已经分散到了崩溃的边缘。要求他们创建和维护工作流程，以持续测试医疗人工智能系统，这在政治上是不可能的。那么，如果这些人工智能系统已经进入了常规的医疗实践，谁来监督它们呢?

据该媒体报道，其中一个想法是，医学院和学术健康中心可以创建实验室，不断审核人工智能医疗工具的性能。

但即使是这样的想法也需要一些手工操作。这些资源从何而来?在这些主要是城市和富裕的机构中，患者群体之间的互动能否准确反映人工智能在不同的、更具挑战性的社区中的工作方式?

从长远来看，人工智能有可能成为医疗系统的一大福音。技术领导者当然喜欢这种可能性;例如，OpenAI首席执行官萨姆·奥特曼曾公开表示，未来的人工智能可以为那些负担不起医生费用的人提供高质量的医疗建议。

然而，就目前而言，人工智能进入医疗系统的混乱局面突显出，这项技术的某些现实将是多么令人不安——即使是在生死攸关的环境中。