AI越来越聪明,为什么更需要可信数据和安全底座?

AI越来越聪明,为什么更需要可信数据和安全底座?

 

近日,中国人民银行等九部门联合印发《关于加强科技金融领域数据开发利用的通知》,明确提出开展科技金融可信数据空间创新发展试点,推动科技金融领域数据资源开放共享和融合利用。

AI越来越聪明,为什么更需要可信数据和安全底座?

 

《通知》提出,围绕企业名单、科创属性、经营、研发投入、知识产权、创新能力评价等数据指标,加强公共数据、产业数据等资源归集共享,探索数据授权利用、联合建模等模式。

这意味着,数据价值释放正在进入新的阶段。

随着人工智能从模型能力展示走向真实业务应用,企业关注的问题也正在发生变化。AI进入产业场景后,需要处理更加复杂的业务数据,连接更多业务流程,同时满足安全、可靠和可管理等要求。

AI能力持续提升,可信数据和安全运行环境正在成为推动人工智能规模化应用的重要基础。

过去几年,大模型快速发展,AI的理解、生成和推理能力不断提升。

在真实应用中,AI不仅需要理解通用知识,还需要结合企业自身数据和业务经验完成具体任务。

但企业数据通常分散在不同系统和业务环节中,涉及经营信息、客户数据和内部知识。随着Agent开始调用工具、访问数据并执行任务,AI应用面临的新问题也逐渐显现。

近期AI安全事件中,黑客利用大模型能力和权限管理漏洞完成攻击,再次说明:

AI越接近真实业务,可信运行能力越重要。

企业部署AI,关注的不只是模型效果,还需要解决数据使用边界、训练验证环境以及应用安全治理等问题。

这也是可信数据空间受到重视的原因。

可信数据空间,让数据价值安全释放

可信数据空间正是在这一背景下受到关注。

通过授权管理、安全机制和可信流通方式,可信数据空间能够推动不同主体之间的数据资源协同利用,在保障数据安全的同时释放数据价值。

此次九部门推动科技金融可信数据空间创新发展试点,正是希望进一步促进公共数据、产业数据和企业数据融合利用,提高科技金融服务能力。

对于人工智能而言,可信数据空间能够为模型训练、业务分析和智能体应用提供更加可靠的数据基础。

数据价值释放,需要建立在安全可信的流通机制之上。

AI时代,安全能力成为重要基础

随着Agent逐渐进入企业流程,人工智能正在承担越来越多实际任务。

相比传统问答应用,Agent需要调用工具、连接业务系统,并根据目标完成连续任务。

近期GPT侵入等AI安全事件也提醒行业,当人工智能具备更强执行能力后,安全治理需要同步完善。

企业在应用AI过程中,需要关注数据使用边界、模型运行风险以及任务执行过程中的安全控制。

AI越深入业务核心,对可信运行能力的要求越高。

云从科技:构建AI可信运行基础设施

对于云从科技而言,可信数据空间的发展方向,与公司长期围绕人工智能基础设施的布局高度契合。

过去十多年,云从科技持续积累人工智能核心技术能力,从计算机视觉、多模态理解,到大模型和智能体系统,推动AI能力从感知理解走向任务执行。

随着AI进入更多产业场景,企业需要的不只是模型能力,还需要支撑AI持续运行的数据、训练和安全体系。

围绕这一方向,云从科技持续推进相关能力建设。

在数据层面,公司探索可信数据空间建设,推动数据资源在授权、安全和可追溯条件下流通利用。

AI越来越聪明,为什么更需要可信数据和安全底座?

 

在训练验证层面,公司依托武汉国家网安基地训推一体化中心,打造面向大模型和智能体的可控训练环境,让模型和Agent在进入真实业务前完成测试和优化。

同时,公司布局内容审核大模型等安全能力,为AI生成内容和智能应用提供风险识别、安全检测和治理支撑。

这些能力共同构成AI从数据利用、训练验证到业务应用的重要支撑。

从可信数据,到可信Agent

AI真正进入企业,需要经过从数据基础到业务应用的完整过程。

可信数据为空间提供可靠输入,可控训练环境帮助模型和Agent提升稳定性,安全治理能力保障应用过程。

在此基础上,经过训练验证的Agent才能进入具体业务流程。

云从科技围绕行云智能体操作系统和魔方Agent Lab,探索企业级Agent应用。

AI越来越聪明,为什么更需要可信数据和安全底座?

 

行云负责AI团队的组织、调度和运行,让Agent能够围绕目标协同工作;魔方沉淀行业知识、岗位技能和业务流程,帮助Agent适应具体场景。

人工智能的发展正在进入新的阶段。

模型能力决定AI能够完成什么任务,而数据、训练、安全和运行体系决定AI能否真正进入产业。

云从科技将持续围绕AI基础设施、智能体系统和行业应用推进布局,推动人工智能在金融、制造、营销、城市治理等更多场景中落地。

让数据更好流通,让AI更加可靠,让智能真正服务业务。

人工智能正在从“会思考”,走向“可信工作”。

声明:该文观点仅代表作者本人,IT手机资讯系信息发布平台,仅提供信息存储空间服务。
原创

体验“上帝视角”却不知从何下手?这篇无人机指南给你明路

2021-1-27 21:31:47

原创

体验“上帝视角”却不知从何下手?这篇无人机指南给你明路

2021-1-27 21:31:47

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索