本报记者 杜丽娟 北京报道
机器是否能够思考？这是哲学家经常争议的一个话题，伴随生成式AI的出现，这一问题正在变得不再有意义。
“由于计算能力的增强以及代码的优化，生成式AI技术可以在许多方面模仿人类的认知能力。无论它在哲学意义上是否具备智能，从实际意义上来说，它确实具备了这种能力。”德勤中国管理咨询合伙人韩光辉在回应《中国经营报》记者时说。
近年来，从ChatGPT到国产AI大模型Kimi的爆火，生成式机器正在应用于我们生活的各个方面。然而，生成式AI究竟开启了什么样的商业世界，目前仍有不同观点。
韩光辉认为，在工业环境中，生成式AI可以实现生产力和生产效率的大幅提升。由于机器可以像人类一样行动，理解和叙述，这种能力从更广泛的意义上看，将不断影响商业环境和我们生活的世界。
“随着AI工具的大量涌现，通过网络进行假冒与欺诈变得非常简单，目前许多人正在使用深度伪造技术绕过基于声音和面部识别的访问控制，或进行网络钓鱼的方式对企业进行攻击，这使互联网的安全风险不断增加。”4月10日，在《技术趋势2024》中德勤做出了这样的预判。
调研显示，AI生成的内容使攻击者能够以更少的时间、更低的成本投入来创造这种个人化的联系。与此同时，通过冒充可信来源来突破安全漏洞的问题，也变得愈演愈烈。
德勤中国管理咨询企业技术与绩效事业群总裁周令坤表示，目前AI在创造逼真内容方面的能力，大大超过了人们识别它的能力。“我们的调研显示，大多数人表示他们能够区分AI生成的内容和人类生成的内容，但还有20%的人对此持不确定的观点。”周令坤说。
事实上，从现实情况看，第一组人可能过于自信。
根据德勤的调研，很少有人能够准确地区分AI生成和人类生成的内容，因为AI内容生成器是基于人类创造的内容进行训练的，AI只是尽可能地复制它。“人们可能期望AI生成的内容在某种程度上看起来或听起来像机器人生成的，但现实是它更像人类的作品。”周令坤说。
也是基于这种现实，AI生成的内容不可避免地成为了部分人群互相攻击的一把“利器”。在这样的背景下，如何通过制度改革、策略优化来识别有害内容，并提高员工的风险意识，成为互联网时代企业的一门必修课。
《技术趋势2024》指出，伴随生成式AI的快速发展，企业也在积极采取措施来应对。比如，对在线通信持怀疑态度，验证与您进行通信的人的身份，并要求提供多种身份验证以访问敏感资产等，这些都是企业防范这种新攻击的方法。
相关数据显示，到2025年，有90%的在线内容将由AI合成生成，其中大部分将用于合法目的，比如营销和客户互动，但不可忽视的是，网络犯罪分子可能会利用生成工具谋取不法利益，这使企业识别员工所接触内容的真实性变得异常重要。
德勤中国管理咨询事业群总裁孟晓凡认为，生成式AI的真正价值可能在于组织能够利用它来进行业务转型，并在降低成本、重塑产品、提高服务和创新周期等方面实现流程效率的提高。
为了实现这一目标，企业应该考虑更多地采用渐进式方法来制定企业数据和技术战略的安全防护墙。其中一个重要的探索是，为企业的特定需求制定一个量身定制的训练模型。
根据德勤的调研，目前有超过三分之一的企业已经计划在未来为其业务需求训练和定制私有的语言模型。
报告认为，对企业来说，私有的语言模型是生成式AI的真正潜力所在。这些模型由专业组织开发和维护，底层代码对公众保密。“这些模型针对特定的目的被开发且被安全地托管，再基于私有数据进行训练，它们可以为组织提供巨大的竞争优势，这也是生成式AI发展的下一波浪潮。”周令坤预测。
（编辑：孟庆伟 审核：郝成 校对：颜京宁）
