企业内部几乎所有流程的数字化都在持续推进。人工智能（AI）和机器学习（ML）等新兴技术概念带来了新的可能性，同时也给企业及其员工带来了挑战。我们如何才能确保这些系统的实施和运行保持在可控范围内，扩大而不是限制个人和公司的能力？

公司及其员工都面临着新的数据驱动算法、系统和业务模式带来的挑战。因此，企业正在努力解决以下问题： 我们的企业是否拥有足够的技能来真正理解和掌握这些技术？当我们委托外部平台收集、分析和评估我们的数据（包括机器运行数据）时，我们会建立怎样的依赖关系？反之，我们必须采取哪些措施来尽可能多地控制这些数据的处理和分析？

员工在思考自己是否有能力以现有的技能和能力掌握这些新技术。此外，他们还质疑这些技能和能力在这种情况下的价值。他们如何能有信心应对自己并不完全了解其内部运作的技术？

没有一种神奇的公式可以全面解决所有这些问题。不过，已经存在许多单独的构件，可以根据具体的运行情况，采用合适的解决方案模式将其组合起来。可以说，在这些构件中，最关键的是系统性视角：技术解决方案、运营组织形式和流程以及员工个人能力必须协调一致，共同优化，才能取得实际成功。

在这一优化过程中，什么是最重要的？有三个关键标准：技术系统和组织结构的透明度和可解释性。鉴于人工智能系统固有的不透明性，甚至包括其开发人员，要实现这一点并不简单。不过，现有的技术解决方案可以帮助恢复可解释性，例如，通过流程图来近似算法行为。另外两个标准是行动的确定性和行动的自由度，前者确保与这些系统的交互能以很高的概率产生预期结果，后者则使用户能够从多种可能的行动中做出选择，而不是受制于系统。

为了确保公司内部的设计方案符合这些标准，柏林创新与技术研究所（iit）制定了一套循序渐进的程序，帮助公司找到合适的解决方案。该程序包括指导性问题和专家建议。具体来说，针对复杂的技术系统，柏林创新与技术研究所的安妮莉-彭滕里德尔（Annelie Pentenrieder）及其同事设计了一种方法，让用户能够产生具体的、可视化的人机交互界面想法。

不同用户群体的不同观点 谁需要什么解释 // © iit Visiual Facilitators

有关组织和资质的问题往往是相互关联的。对于寻求自信地引入和运行算法或人工智能系统的用户公司来说，角色概念具有重要意义。这一概念决定了由谁来协调整个引入过程、拥有全面的 IT 和数据科学专业知识、掌握领域知识以决定合适的 IT 方法，以及从管理层面监督这一举措。每个角色都有具体的任务、责任和能力要求。勒内-沃斯曼（René Wöstmann）与多特蒙德工业大学（TU Dortmund University）和 RIF 研究与转让研究所（RIF Institute for Research and Transfer）的同事合作，提出了一个角色概念，其中包含所有必要的资格模块，专门为中小企业量身定制。

跨学科团队中的角色 确定必要的参与者 // © Deuse et al 2021

所有这些概念和方法都可以在 Springer-Verlag 出版的一本免费在线书籍《新数字工作--工作场所的数字主权》中找到。此外，该书还涉及其他主题，包括

- 人工智能将如何影响工作和劳动力市场？

- 数字化为教育和培训带来了哪些新机遇？

- 如何量化算法中的预测不确定性以促进准确分类？

- 身临其境的人机界面意味着什么，如何提高工作质量？

作者：恩斯特-安德烈亚斯-哈特曼博士教授

创新与技术研究所（iit）

负责人