深度简报

  • TeamViewer于本周三发布的报告指出，员工对AI使用的舒适度和信心低于其管理者，且AI决策者与被迫使用技术的员工之间的权力动态可能加剧这一趋势。该远程访问软件公司与Sapio Research合作，于今年春季对全球4200名管理者和员工进行了调查。
  • 尽管四分之三的受访者（包括员工和管理者）表示每天至少使用一次AI，但61%的人更希望AI不具备独立行动能力。超过半数的受访者经常或总是验证AI输出，而约相同比例的人表示并不总能判断何时该信任AI、何时该验证。
  • TeamViewer首席执行官Oliver Steil在新闻稿中表示，企业必须致力于实现AI系统的可信自主，而非全面自动化。他说：“AI已在改变人们的工作方式，但下一阶段将由信任来定义。”

深度洞察

尽管管理者和员工在工作中使用AI的舒适度都在提升，但主导采用工作的领导者通常比一线员工对AI感觉更好，也更愿意将工作委托给AI。员工报告称，由于缺乏对AI部署方式和时机的控制，他们感受到来自自主系统的更大个人风险。

TeamViewer首席产品与技术官Mei Dent在新闻稿中表示，软件传统上围绕人们指示其执行的任务来设计，但AI系统和智能体改变了这一模式。

对AI输出的不安全感并未导致员工完全回避该技术，但可能限制了其使用范围。调查发现，AI最常被每天使用一两次，通常用于帮助用户理解信息、生成起点或完成常规任务——这些输出在使用前可被审查。

仅有11%的受访者表示对AI自主工作（即未经审查和批准而采取行动）感到舒适。

尽管对AI系统的信任滞后，企业仍在推进赋予其自主权。Kyndryl于6月发布的一项调查显示，四分之一的企业和技术领导者表示完全信任其AI系统，但超过五分之四的人预计自主AI智能体将在未来一年内做出具有重大业务影响的决策。

Steil表示，在信任方面挣扎的组织往往缺乏AI输出所需的治理和问责框架。受访者担心AI系统可能泄露敏感信息、可能无法理解信息上下文以生成正确输出，以及AI可能超出预期范围行动。约五分之一的受访者担心自己将为AI的错误承担责任。

Steil说：“（组织）将通过构建在明确护栏内安全、透明且负责任地运行的系统来取得成功。真正的机会是利用AI和自动化来预防中断、改善数字体验，并让人们专注于更高价值的工作。”

Steil表示，组织必须让员工确信自主系统是安全、可解释、可逆且由人治理的。

一个好的起点是确定哪些行动是低风险且可预先批准由AI自主完成，哪些需要人工审查。员工应参与确定自主性的过程，以理解系统拥有的权限以及错误责任归属。

组织还应努力确保自主系统的风险在不同工作群体间公平分配，而非由某个团队或个人承担。

Dent表示：“当组织能在特定可信用例中证明自主性有效时，自主性才会规模化，然后才能自信地扩展。”