Gartner 最新10大战略性技术趋势及其对供应链的影响

全球领先的信息技术研究和顾问公司 Gartner 每年都会发布一份其认为未来一年及之后最重要的顶级战略技术趋势的清单【1】。2022 年 10 月发布了企业机构在 2023 年需要探索的 10 大重要战略科技趋势。Gartner 预计 2023 年的趋势将通过使组织能够解决四个关键优先事项来影响未来三年的企业战略：

• 优化弹性、运营和信任

• 扩展垂直解决方案、产品交付或无处不在的连接

• 开创性的客户参与、加速响应或机会

• 追求可持续的技术解决方案

Gartner 杰出副总裁分析师大卫·格罗姆里奇指出：许多商界领袖预计，到目前为止，他们将直接关注疫情后的增长。相反，大多数人现在都在关注经济衰退的威胁，管理持续通货膨胀的影响，以及应对供应链、能源采购和数字技能方面的危机。虽然未来不确定，但企业仍必须确定并致力于战略成果和计划。企业的目标或是节约成本，或是提高利润率，或是扩大转向重塑的商业模式，或是这些目标的组合。无论是什么，技术是关键，但企业必须知道技术趋势何时何地可能产生影响。为了提供帮助，Gartner 提供了一份关键技术趋势的年度清单，无论业务需要如何，业务领导者和技术专家都应在未来36 个月内利用这些趋势。这些当务之急构成了 2023 年十大战略性技术趋势，包括优化、扩展和开拓三个主题和可持续技术一条主线（或四个主题）【2】。

全文首先介绍和解读每个技术趋势，然后介绍关于它们的前景和企业如何利用其制定未来发展规划。

由于文章篇幅较长，我们按主题将整个文章分为四个部分进行展开介绍。

01 主题一：优化（章节1.1）

02 主题二：扩展（章节1.2）

03 主题三：开拓（章节1.3）

04 一条主线及技术趋势如何匹配企业战略目标（章节 1.4& 第2章）

本文将对第一部分——《主题一：优化》（即章节1.1）进行介绍，主要内容包括：

趋势1--数字免疫系统（Digital Immune System）

趋势2--应用可观察性（Applied Observability）

趋势3--人工智能信任、风险和安全管理 (AI Trust, Risk and Security Management=AI TRiSM)

- （第一部分）正文 -

01 Gartner 2023年十大战略性技术趋势

Gartner提供了一份关键技术趋势的年度清单，如图1所示，2023年十大战略性技术趋势，包括优化、扩展和开拓三个主题和可持续技术一条主线（或四个主题）【2】：

图1：Gartner 2023年10大战略性技术趋势（来源：Gartner【2】）

1.1 主题一：优化（Optimize）

优化主题构建：优化弹性、运营，和信任。通过优化IT系统以提高可靠性，改进数据驱动决策，并保持生产中AI系统的价值完整性

1.1.1 数字免疫系统（Digital Immune System）-- 优化弹性

1.1.1.1 产生背景，概念和重要性

在当今数字化时代，数字技术系统（其中也包括越来越复杂供应链的数字管理系统，如网络，平台，WMS，TMS，等）无处不在，并且变得越来越复杂【3】，它大大提高了各行业的业务能力和应对不确定世界的业务弹性（包括供应链弹性）。然而这些系统也面临着各种数字系统安全风险，如网络攻击，软件病毒，功能错误、安全漏洞和数据不一致等。以数字供应链为例，据欧盟网络安全机构（ENISA）对新兴供应链攻击的报告【4】发现，供应链安全攻击在增加，66% 的攻击集中在供应商的代码上。

图2：供应链攻击威胁态势（来源：ENISA【4】）

据【5】报告，光网络犯罪的总损失使其经济影响大于除美国和中国这两个国家之外的所有国家的 GDP。网络攻击中最昂贵的部分是信息丢失，平均损失590万美元。企业和组织正面临如何更有效地保证数字系统的安全与健康的挑战，于是一个数字免疫系统（DIS）的概念和技术趋势应运而生。

什么是数字免疫系统？根据Gartner 的说法【2】，数字免疫系统或简称 DIS 是指集成软件设计、开发、运营和分析的实践和技术组合，以降低业务风险的系统。

该技术的名字借用了医学上免疫的概念，意味着这个技术将具备自动保护和自动修复系统免遭攻击造成破坏的功能。在概念和技术上是一个创新，它可视为数字化企业和组织的一种新型的数字免疫能力。

为什么数字免疫比以往任何时候都重要？除了前面阐述的数字化企业和组织所面临的数字风险挑战，图3指出了当今的业多数字系统变得越来越智能和复杂，正向一个类智慧生物系统发展，极其需要类生物的免疫系统来维护类生物的数字系统的健康，以保证其正常运转。

广告

图3：为什么数字免疫比以往任何时候都重要（来源：Gartner【3】）

1.1.1.2 数字免疫系统的六个重要功能模块

如图4所示，DIS具有以下六个重要功能模块（六种做法和技术）【2】：

• 可观察性（Observability）使软件和系统能够被“看到”。在应用程序中构建可观察性提供了必要的信息，以减轻可靠性和弹性方面的问题，并通过观察用户行为来改善用户体验。

• 人工智能增强测试（AI-Augmented Testing）使组织能够使软件测试活动越来越独立于人为干预。它补充并扩展了传统的测试自动化，包括完全自动化的测试计划、创建、维护和分析。

• 混沌工程（Chaos Engineering）使用实验测试来发现复杂系统中的漏洞和弱点。如果在预生产环境中使用，团队可以以非侵入式和测试先行的方式安全地掌握实践——然后将吸取的教训应用到正常操作和生产强化中。

• 自动修复（Autoremediation）侧重于将上下文相关的监视功能和自动修复功能直接构建到应用程序中。它会自我监控并在检测到问题时自动纠正问题并恢复正常工作状态，而无需操作人员的参与。它还可以通过将可观察性与混沌工程结合使用来修复失败的用户体验，从而防止出现问题。

• 站点可靠性工程 (Site Reliability Engineering=SRE)是一组工程原则和实践，侧重于通过利用服务级别目标来管理服务管理来改善 CX 和保留。它平衡了对速度的需求与稳定性和风险，并减少了开发团队在补救和技术债务方面的工作，但允许更多地关注创建引人注目的用户体验。

• 软件供应链安全（Apps Supply Chain Security）解决了软件供应链攻击的风险。软件物料清单提高了软件供应链中专有和开源代码的可见性、透明度、安全性和完整性。强大的版本控制策略、对受信任内容使用工件存储库以及在整个交付生命周期中管理供应商风险可保护内部和外部代码的完整性。

图4：DIS具有六个要素（来源：Gartner【2】）

具有六个要素的DIS将产生巨大价值:

• 76%的数字团队对收入负责

• 停机时间减少80%

1.1.1.3 建立数字免疫系统的三大要素

在建立数字免疫力时，Gartner指出要从有助于协调组织和顺利实施的强有力的愿景声明开始，然后考虑图4中的重要功能模块。图5描绘了建立数字免疫系统的三大要素和它们的循环迭代持续改进。

1.  创造数字免疫的愿景

成功交付软件的清单越来越多。该要素表现在不再包括满足规范、具有弹性和提供更多功能，而是还应该专注于创新思维，除了缺陷计划外，还应专注于将质量构建到产品中。换句话说，这就是构建一个在各个方面都融合了高软件质量的产品，包括创建卓越的用户体验 (UX)，通过持续检查系统健康状况，不会因缺陷或系统故障而中断。

2. 建立数字免疫力

为了建立强大的数字免疫力，软件团队应该采用六项重要的实践和技术（详见1.1.1.2节和图4），包括：

• 软件可见性的可观察性，以改善用户体验。

• 人工智能增强测试，用于更独立的软件测试。

• 混沌工程涉及实验测试以检测复杂系统中的漏洞和弱点。

• 自动监控应用程序并修复问题的自动修复。

• 站点可靠性工程 (SRE)，其中包括与增强客户体验 (CX) 和保留相关的工程原则和实践。

• 解决软件供应链攻击风险的软件供应链安全。

3. 去除低效的测试实践

虽然测试在软件开发过程中必不可少，但它一直是实现 DevOps 团队设定目标的最大障碍。应对低效的测试实践进行评估，以确定将这些测试资产转换为越来越自主的自动化测试水平的最具建设性的方法。此外，可以并且应该利用各种类型的手动测试来支持自动化测试。

图5：建立数字免疫系统的三大要素（来源：Gartner【】）

1.1.1.4 商业价值【2】

数字免疫系统（DIS）结合了可观测性、人工智能（AI）增强测试、混沌工程、自动恢复、站点可靠性工程和软件供应链安全等实践和技术，以提高产品、服务和系统的弹性。

• 数字免疫系统如何优化弹性

DIS提供了一个模型，让您的组织做好准备，以减轻潜在风险，并将失败作为学习机会，以创建一个卓越的客户和用户体验，从而应对失败。

• 支持的业务战略示例

  1. 建立安全稳固的数字基础

  2. 加速数字化

  3. 保护和发展企业和组织的品牌

1.1.1.5 关键行动

Gartner在【2】中预测到2025年，投资建立数字免疫力的组织将通过减少80%的停机时间来提高客户满意度。并建议企业和组织采取以下的关键行动来实现数字免疫系统这个战略机会：

• 组建由高管赞助的团队，以制定和执行综合安全分遣队战略。首先评估哪些业务能力具有最高优先级或将从DIS投资中获益最多。

• 创建专门的实践社区（CoP），以分享经验教训、指导原则、可重用资产、标准、工具和任何基于AI的见解。确保DIS CoP由企业架构师领导，以便代表所有相关领域。

• 鼓励和奖励整个组织的弹性改善，特别是在DIS机会上的合作，让所有弹性相关举措的领导者对改善客户体验负有同等责任。

• 培养开发、安全和运营团队之间的协作文化，确保持续支持这些举措。

1.1.2 应用可观察性

1.1.2.1 概念和重要性

传统上，可观察性是一种信息系统的方法，它通常是企业架构的一部分，如监控日志，邮件，图象等，以更好地了解日志数据正在发生的事情。它帮助我们根据外部输出确定系统状态，并允许 IT 团队识别瓶颈，并预测内部 IT 系统和面向外部客户的网站、应用程序和系统问题，以便您可以缓解这些问题。但传统的应用可观察性对观察数据的分析是人工或半人工的，被动式的，不具备数据驱动决策的功能。它已不适应现代复杂的数字系统和不确定的环境。于是产生了应用可观测性战略趋势。应用可观察性是一种新的监控和故障排除方法，它通过收集与性能相关的指标和与性能无关的数据（例如跟踪、日志和事件）并使用这些数据提供更全面的理解，从而超越了传统的监控技术系统内正在发生的事情。它超越传统监控技术，超越传统，它旨在提供系统及其所有组件的全面视角，包括这些组件如何相互交互以及它们如何实时执行其功能。【2】指出：应用可观测性是指在业务功能、应用程序和I/O团队之间以高度协调和集成的方式应用可观测数据。通过对业务上下文的语义理解，对可观察数据进行编目、工程和分层，从而产生主动和被动元数据。这种元数据的架构化使用推动了更好、更快、更一致、更有效的业务和IT决策。

1.1.2.2 应用可观测性的四个层次

应用可观测性的基本原理是在决策前，人工智能分析来自系统内外的数据和背景，以推动更快、更准确的未来决策。它分为如图6所示的四个层次：

图6：应用可观察性（来源：Gartner【2】）

【6】指出：应用可观察性的出发点是可观察数据（Observable Data）。Gartner定义可观察数据为：可观察数据是数字化的工件（有时被称为足迹、痕迹或任何利益相关者采取任何行动时出现的“排气”）。可观察数据是指可以观察和直接测量的变量【6】。它具有以下特征：

• 观测数据的主要来源-通常来自一个或多个现有系统

• 可以与企业数据一起使用的外部数据源

• 目标是以零或更可能有限的边际成本增加数字客户价值

应用可观测性的最关键要素包括：

• 民主化的机会——每个组织都有大量数字化工件形式的可观测数据。

• 多个并发层–适用于组织的多个层：基础架构操作、中间件、应用程序、数据、功能工作流和业务流程层。

• 随着宏伟计划（蓝图）的增加——必须在整个组织内制定强有力的总体战略计划或蓝图。成功取决于贯穿职能业务部门的高度协调和集成的方法。

1.1.2.3 商业价值

应用可观测性是指在业务功能、应用程序、基础设施和运营（I&O）团队中以高度协调和集成的方式应用可观测数据，以实现从行动到反应的最短延迟，以及业务决策的主动规划。

• 应用可观测性如何优化操作

应用可观测性使企业能够更快、更准确地做出未来决策。通过系统地应用这一点，我们可以减少响应延迟并实时优化业务运营。

• 支持的业务战略示例

  1. 建立稳固的基础

  2. 加速数字化

1.1.2.4 关键行动

Gartner在【2】中预测到2026年，70%成功应用可观测性的组织将实现更短的决策延迟，从而为目标业务或IT流程带来竞争优势。并建议企业和组织采取以下的关键行动来实现可观察数据这个战略机会：

• 将您的可观察数据视为您最宝贵的货币化资产。专注于从主动和被动元数据中识别业务能力和用例，以获得竞争优势。这将为战略性地协调多个并发可观测性计划奠定早期基础。

• 通过将组织的重点从监控和反应转变为应用可观察性，以尽可能短的延迟推动主动决策。

• 为组织采用应用可观测性铺平道路。通过关注业务、应用程序和基础架构层的范围来做到这一点。

1.1.3 人工智能信任、风险和安全管理

1.1.3.1 产生背景、概念和重要性

• 世界正处于通过人工智能和数据分析彻底改变许多行业的风口浪尖。已经在金融、国家安全、医疗保健、刑事司法、交通和智慧城市中进行了重大部署，这些部署改变了决策制定、商业模式、风险缓解和系统性能。这些发展正在产生可观的经济和社会效益。本文作者曾在【7】中指出：“人工智能是重塑数字化供应链的战略性武器。它将引领供应链走向认知，和自主、自适应、自愈的供应链更高级阶段，从而帮助企业实现创新、持续增长，并且在不确定环境中规避风险，保持竞争优势。”，“人工智能供应链软件的市场规模约为7亿美元，预计到2025年将激增至100亿美元以上，相当于每年增长约45%。”

• 人工智能 (AI)被证明是一把双刃剑。虽然大多数新技术都可以这样说，但 AI 刀片的两面都更加锋利，而且两者都没有得到很好的理解。最近OpenAI发布了它的不同寻常的对话机器人ChatGPT，它的类人式的聪慧震撼了世界科技和工业界。正如埃隆•马斯克（曾是创始人之一）在阿联酋迪拜的2023年世界政府峰会上表示，ChatGPT证实了人工智能（AI）已经获得了令人难以置信的发展，但这已成为人类应该担心的一件事。马斯克在视频发言中强调，人工智能是未来人类文明最大的风险之一。他补充称，“它有积极的一面，也有消极的一面，有巨大的前景也有巨大的能力，但随之而来的危险也是巨大的。”“以核技术为例，我们有核能，但也有核弹。”

• 首先考虑AI积极的一面。AI技术开始以多种方式改善我们的生活，从简化我们的购物到增强我们的医疗保健体验。它们对企业的价值也变得不可否认：近 80% 正在部署 AI 的公司高管认为他们已经从中看到了AI的价值。尽管 AI 在商业中的广泛应用仍处于起步阶段，关于进展速度以及实现“通用智能”圣杯的可能性仍存在疑问，但潜力是巨大的。麦肯锡全球研究院的研究表明【8】，到 2030 年，人工智能每年可为全球带来 13 万亿美元的额外经济产出。

• 然而，即使人工智能为消费者带来利益和商业价值，它也带来了一系列不必要的、有时甚至是严重的后果。最明显的问题，包括侵犯隐私、歧视、事故和操纵政治制度，足以引起人们的警惕。更令人担忧的是尚未知晓或经历过的后果。灾难性的后果——包括人类生命的损失，如果人工智能医学算法出错，或者国家安全的妥协，如果对手向军事人工智能系统提供虚假信息——是可能的，对组织来说也是重大挑战。

• AI TRiSM的产生正是为了保护AI积极的一面，使其获得信任而造福于人类，同时是为了防止其具有潜在可能破坏性的一面，而降低AI的风险，保证其使用的安全性。

• AI TRiSM 是 AI (T)rust、(Ri)sk 和 (S)security (M) 管理的简写。用 Gartner 的话说，AI TRiSM “确保 AI 模型治理、可信度、公平性、可靠性、有效性、安全性和数据保护。这包括模型可解释性和可解释性、人工智能数据保护、模型操作和对抗性攻击抵抗的解决方案和技术。”

• 如图7所示，AI TRiSM将不可管理的AI风险转变可管理的风险，它在AI交付中建立信任、风险和安全管理，从而优化了AI的信任。AI TRiSM具有以下四个功能支柱：

• 可解释性/模型监控（Explainability/Model monitoring）

• 模型操作管理（ModelOps根据 Gartner 的定义，ModelOps“主要关注广泛的可操作人工智能和决策模型的治理和生命周期管理，包括机器学习、知识图谱、规则、优化、语言和基于代理的模型”。）

• AI应用安全（AI application security）

• 隐私（Privacy）

图7：人工智能信任、风险和安全管理（来源：Gartner【2】）

• 人工智能是一种强大的、多样化的工具，用于解决当今世界上无数的问题。Spotify 上的推荐歌曲人工智能。谷歌地图上的推荐路线人工智能。欺诈分析、数十亿美元的证券交易、自动驾驶汽车、接受或拒绝贷款申请和工作申请？你猜对了，人工智能。虽然显然很强大，但我们必须认识到，工具从成功中获得的好处通常与其失败的影响相当。就人工智能而言，失败可能意味着数百万的声誉、法律或经济损失。这就是 AI TRiSM 很重要的原因——防止此类错误。

1.1.3.2 AI TRiSM 的商业价值

• 人工智能需要传统控制无法提供的新形式的信任、风险和安全管理。新的AI TRiSM功能可确保模型的可靠性、可信度、安全性和隐私性。

• AI TRiSM如何优化信任

• AI TRiSM在AI采用、实现业务目标和用户接受度方面推动了更好的结果。

• 支持的业务战略示例

• 建立稳固的AI基础

• 最大化数据价值

• 保护和发展您的品牌

1.1.3.3 关键行动

• Gartner在【2】中预测到2026年，实施人工智能透明度、信任和安全的组织将看到其人工智能模型在采用率、业务目标和用户接受度方面实现50%的结果改善。并建议企业和组织采取以下的关键行动来实现AI TRiSM这个战略机会。

• 建立一个组织工作组或专门的单位来管理您的人工智能TRiSM工作。

• 实施集体人工智能隐私、安全和风险管理，以改善人工智能业务成果，而不仅仅是为了合规。

• 作为全面AI TRiSM计划的一部分，在您的组织中有效地管理最佳工具集。

• 通过使用开源工具或增加价值的供应商解决方案，使您的AI模型可解释或可解释。

• 实施保护AI模型使用的数据的解决方案，并准备针对不同的用例及其组件使用不同的数据保护方法。

• 通过使用确保模型和数据完整性的解决方案，将风险管理纳入模型运营，并不断验证其运行是否可靠。

1.1.3.4 市场指南

• 人工智能提出了传统控制无法解决的新的信任、风险和安全管理要求。Gartner 2021年就发布了AI TRiSM的市场指南【9】，该指南定义了数据和分析领导者必须具备的新功能，以确保模型的可靠性、可信度和安全性，并介绍了实现这些功能的代表性供应商。

• （1）市场定义

• AI 信任、风险和安全管理市场 (AI TRiSM) 包括多个确保 AI 模型的软件部分；治理、可信度、公平性、可靠性、有效性、安全性和数据保护。这些工具包括解决方案；模型可解释性和可解释性、AI数据保护、模型操作（ModelOps ）、数据异常检测和对抗性攻击抵抗。结合使用本市场指南中定义的五个类别的解决方案，可帮助企业实施特定于 AI 的信任、风险和安全管理措施。

• （2）市场描述

• AI TRiSM 市场包括管理 AI 引入的新风险和威胁所必需的多个部分。AI TRiSM 的核心功能在图8中按类别显示。没有一家平台供应商涵盖人工智能威胁和风险的所有领域和方面。因此，用户必须从本市场指南中提供的不同类别中选择供应商或开源工具，以实现自己的最佳选择。

• 除了选择 AI TRiSM 产品外，企业还必须确保实施 AI 前威胁缓解措施，并适当关注新的 AI 环境——包括支持数据和 AI 模型。例如，他们必须对 AI 培训和生产数据实施严格的访问控制。此外，组织必须采用特定于 AI 威胁缓解的新技术，如 Gartner 的安全MOST 框架的“措施”列所示【9】，该框架概述了 AI 前和 AI 后威胁缓解措施。

• （3）AI TRiSM五大支柱

• 图8描绘了AI TRiSM五大支柱，但其中不包括独立于 AI 存在的基本安全功能。可据此构建有效的人工智能安全解决方案：

• 可解释性（Explainability）：AI TRiSM 应该有清楚解释 AI 模型采用的信息。这有助于组织理解他们的 AI 模型解释及其 AI 模型在准确性、问责制和透明度方面的表现。

• 模型操作（ModelOps）：模型操作化 (ModelOps) 是 AI TRiSM 中的一项功能，专注于端到端生命周期管理和分析治理。人工智能和决策模型包括分析模型、基于机器学习的模型、知识图谱、语言学、规则等。

• 数据异常检测（Data Anomaly Detection）：在人工智能中，数据异常检测涉及漂移监控和异常、错误和困难的检测。AI TRiSM的这一支柱通过全面的 AI 数据可见性帮助组织提高绩效。

• 对抗性攻击抵抗（Adversarial Attack Resistance）：攻击是人工智能威胁，涉及欺骗性数据，以改变机器学习算法来破坏人工智能功能。AI TRiSM 旨在通过检测、防御、工件定位和对抗性学习来检测和防止对抗性攻击。

• 数据保护（Data Protection）：人工智能技术创造并使用大量数据。保护数据至关重要，因为数据泄露可能会造成重大损失。这种损害包括经济损失、声誉损害、安全和健康威胁。AI TRiSM 有助于治理和监管，例如通用数据保护条例 (GDPR)。

图8：AI 信任、风险和安全管理支柱（来源：Gartner【9】）

（4）AI TRiSM市场的未来方向

Gartner 的市场指南还指出了AI TRiSM未来发展的5个阶段（见图9）：

• 第 1 阶段——碎片化：当今的 AI TRiSM 市场高度分散。AI 供应商（本市场指南提供了 Gartner 对市场的初步报道，并侧重于市场定义、市场原理和市场动态。）并未提供有效和持续管理 AI 信任、风险和安全的所有必要功能。这使用户处于这样一种境地，他们可以从主要 AI TRiSM 类别中选择多个供应商来提供同类最佳产品来满足这些要求。

• 第 2 阶段—功能整合：AI TRiSM 功能将从目前的五个. ModelOps和数据保护将是解决 AI TRiSM 问题所需的主要两个供应商类别（一流的ModelOps解决方案，其中模型是控制所围绕的中心实体，将与现有的企业系统集成，例如 IAM、威胁情报和对抗性攻击抵抗解决方案。这样，企业可以全面了解其模型的风险，并使用相同的管理系统管理模型周围的访问和安全性。）。同时，AI 供应商将扩展自己封装的 TRiSM 功能。

• 第 3 阶段 — 解决方案集成：ModelOps警报和补救措施将集成到总体和现有的企业风险管理和安全编排系统中。企业使用的第三方模型将纳入ModelOps平台管理（超越企业第一方开发模型）。针对对抗性攻击和恶意交易的警报和补救措施将集成到现有的安全编排或 SIEM系统中。

• 第 4 阶段——市场整合：当今市场上大多数与模型和平台无关的ModelOps供应商将被更广泛的 AI 平台供应商或企业风险管理供应商收购，只剩下极少数纯粹的ModelOps供应商。这些整合平台将与创新解决方案共存，将功能扩展到复合 AI 和生成 AI。AI 模型数据的数据保护将继续从用于保护 AI 应用程序之外的数据的解决方案发展而来。

• 第5阶段——增强型 AI 管理的 TRiSM：将出现新的端到端完全管理的企业 AI TRiSM系统，它们本身使用 AI，以便 AI 系统可以在人类监督下自我纠正（见图9）。

图9：AI TRiSM市场的未来方向（来源：Gartner【9】）

Gartner预计市场将快速发展，部分原因是法规的增加和人工智能模型运行能力的增强。随着时间的推移，新一代的组合功能将会出现，【9】预计 AI TRiSM 市场将在2026年达到第 5 阶段。

（5）市场建议

管理 AI 信任、风险和安全对于确保 AI 模型满足业务需求并按预期和预期执行至关重要。如果没有强大的 AI TRiSM 程序，企业 AI 模型可能会对业务产生不利影响，从而导致不利的模型结果、严重的声誉损害和其他负面后果——所有这些都不为负责团队所知。

数据和分析领导者必须与负责AI TRiSM 的组织同行合作，以：

• 使用 Gartner 的 MOST 框架建立有凝聚力和重点的信任、风险和安全管理计划。

• 选择并有效管理最佳工具集，作为综合 AI TRiSM 计划的一部分，假设企业中已有的 AI 平台不支持所有必需的 AI TRiSM 功能。

• 使用此市场指南了解现有工具集的类别，根据需要评估不同的同类最佳解决方案，并利用这些解决方案实现全面的 AI TRiSM。

• 将信任、风险和安全管理纳入 AI 模型的持续开发和运营流程。

• 监控进度并就剩余风险和尚未达到理想成熟度的细分市场进行沟通。

• 通过仔细选择最合适的工具集，为组织的动态市场变化和整合做好准备。

（6）Gartner的MOST AI信任、风险和安全管理框架

图10描绘了MOST AI信任、风险和安全管理框架，该框架包括先前（前）的风险安全管理框架（兰色部分）和AI后的风险安全管理框架（红色部分）。它包括三个关键领域，每一列是一个领域：

• 威胁向量（Threat vector）

• 破坏类型（Types of damage）

• MOST风险管理措施（MOST Risk management measures）

【10】指出：组织采用Gartner 的 MOST 框架管理 AI 风险必须组建对 AI 结果有既得利益的跨职能团队，例如法律、合规、数据和分析、安全和隐私方面的团队，共同努力执行其 5 大优先事项：

1. 通过清点组织中使用的 AI 来捕获暴露程度，并确保适当的可解释性水平。

2. 通过领导正式的 AI 风险教育活动，提高整个组织的员工意识。

3. 通过采用数据保护和隐私计划来消除内部和共享 AI 数据的暴露。

4. 通过将风险管理纳入模型操作来支持模型的可靠性、可信度和安全性。

5. 针对对抗性攻击采取特定的 AI 安全措施，以确保抵抗力和弹性。

图10：MOST AI信任、风险和安全管理框架（来源：Gartner【9】）