麻省理工学院团队教会人工智能模型认识它们尚不了解的事物。
人工智能（AI）的应用正在快速发展，并日益融入我们的日常生活以及医疗、 telecom 和能源等高风险行业。但能力越大，责任越大：AI系统有时会出错，或给出不确定的答案，而这些结果可能带来严重后果。
为什么这如此重要？
许多AI模型，即使是先进模型，有时也会出现所谓的“幻觉”——给出错误或缺乏依据的答案。在医疗诊断或自动驾驶等决策影响重大的领域，这可能造成灾难性后果。Themis AI开发了Capsa，这是一个应用不确定性量化的平台，能够以精细且可靠的方式测量并量化AI输出的不确定性。
它是如何运作的？
让模型具备不确定性感知能力后，它们就能为输出结果附加风险标签或可靠性标签。例如，自动驾驶汽车可以提示自己无法确定当前情况，并因此启动人工干预。这不仅能提高安全性，也能增强用户对AI系统的信任。
技术实施示例
- 与PyTorch集成时，可通过以下方式封装模型：
capsa_torch.wrapper()输出结果同时包含预测值和风险值：
对于TensorFlow模型，Capsa通过装饰器实现：
对企业和用户的影响
对于Fortis AI及其客户而言，这项技术代表着巨大的进步。我们能够提供不仅智能，而且更加安全、可预测性更高、出现幻觉可能性更低的AI应用。它有助于组织作出依据更充分的决策，并降低在企业关键型应用中引入AI时所面临的风险。
对于Fortis AI及其客户而言，这项技术代表着巨大的进步。我们能够提供不仅智能，而且更加安全、可预测性更高、出现幻觉可能性更低的AI应用。它有助于组织作出依据更充分的决策，并降低在企业关键型应用中引入AI时所面临的风险。
结论
麻省理工学院 团队 的研究表明，AI的未来不仅在于变得更聪明，更在于实现更安全、更公平的运行。在Fortis AI，我们相信，只有当AI能够透明地说明自身局限性时，它才真正具有价值。借助Capsa等先进的不确定性量化工具，您也可以将这一理念付诸实践。
