产品中心

  在当前人工智能（AI）科技蒸蒸日上的舞台上，DeepSeek的崛起无疑是一个关键的节点。尤其是在2023年春节期间，这一基座模型展现出强大的市场竞争力。然而，随着其在企业及用户群体中的广泛应用，安全风险隐患也逐渐浮出水面，提及的诸如幻觉和提示注入攻击等问题，成为亟待解决的安全风险。

  在全国政协会议期间，360集团创始人周鸿祎提出了“以模制模”的安全防范建议，强调需要具备专业安全与AI知识的企业引领，并推动大模型在安全技术上的创新进展。他认为，虽然DeepSeek等大模型已经跨越了“不可用”到“能用”的过程，但在这个加快速度进行发展的过程中，抵御可能的安全威胁，将是所有行业较大且必须面对的挑战。

  周鸿祎的观点并不无道理。在短短时间内，DeepSeek已经获得了慢慢的变多用户的认可、采纳，然而伴随而来的安全风险隐患持续加剧。周鸿祎分析，人工智能的安全问题能分为四个主要层面：智能体的安全、知识数据的安全、客户端的安全以及基座模型的安全。这些层层叠叠的风险构成了一个复杂的AI安全新领域，传统的网络安全措施难以一一应对。

  针对这一情况，周鸿祎呼吁应当通过安全大模型来实现“以模制模”的理念，以构建针对大模型所面临的多重风险的全方位防护。360早已浏览自身数字安全与AI双向能力，开始积极投入解决安全风险的研发技术耕耘。通过大模型安全解决方案，360着重于攻克系统安全、数据安全、内容安全、幻觉问题与行为失控等五大安全挑战，为DeepSeek的训练、推理及运营全流程建立起一套更加严密的安全防护网。

  例如，为保障大模型系统的安全性，360智鉴基于全链路监测与动态进化能力相融合的优势，从数据清洗、模型训练到推理和上线等整个生命周期做综合检测。周鸿祎精确指出，安全行业的现状表明，很多厂商在面对客户的真实需求时，只是一味推销硬件与软件，而未能提供真正可用的安全服务，反而导致客户与厂商之间双输的局面。在这一背景下，周鸿祎提到国外的SaaS支付形式的安全服务显得很重要，能够帮助企业在减少相关成本的同时，提升安全保障。

  周鸿祎同时注意到，虽然大模型的幻觉问题是大家关注的焦点，但更大的不安全反而在于不发展。他强调不能因为幻觉或其带来的潜在风险而停止或放弃对大模型的探索和应用。作为新生事物，大模型在发展过程中不可避免地会出现一些既往不可预见的问题，但幻觉现象不应被简单化处理。只要我们也可以保持开放包容的态度，就能在某一些程度上调动大模型的创造力，为各个行业的技术创新打开新的思路与可能性。周鸿祎进一步提到，幻觉不仅可能会产生误解，也能在科学研究、文艺创作等领域生成新灵感。例如，通过大模型的幻觉，科研人员可能开辟出创新分子，并在文学作品中构建出迷人的情节。在这一点上，确保发展的同时也允许一定的缺陷存在，正是大模型推进创新过程的关键。

  为了实现这一目标，周鸿祎建议通过柔性监管的方式对待大模型发展中的幻觉问题，尤其是在国家层面应当更加包容与审慎。以往的“避风港原则”曾为互联网的快速的提升提供了巨大动力，周鸿祎认为，现今对待大模型技术也应从这一实践中汲取经验，适度容忍和激励企业在创新过程中的每一次探索与尝试，帮他们在面对幻觉带来的误解时，给予自我纠正的空间与时间。如此一来，不但可以释放企业的潜能，还能为大模型的发展创造更加友好的环境。

  据此，周鸿祎指出360推出的‘360智搜’工具，结合多模态信息检索与语义理解，将为公司可以提供精准的支持，使得知识数据的提炼与总结更为高效与可信。未来，随着大模型技术的逐渐完备与应用普及，理应在各行业中形成一套行之有效的风险防范机制。

  综上所述，在周鸿祎看来，尽管大模型技术在持续不断的发展与扩展，但安全问题绝对不应被忽视。通过创新的防范策略与柔性的管理政策，我们既能够在保障安全的同时，确保大模型在推动科学技术进步和社会创新中发挥出其最大潜力。返回搜狐，查看更加多