十几年前,还在美国佛罗里达大学做教授的李晓林,做了一款名为“H-Trust”的算法,用于评估研究人员学术产出质量与水平,从而解决人的信任问题。

自主决策的ai安全分析(同盾科技李晓林)(1)

如今,这一前沿理念已经在同盾科技落地生根,而身为美国公立常春藤名校佛罗里达大学终身教授的李晓林,也转变了一个身份——同盾科技的合伙人及人工智能研究院院长。

在与笔者交流中,李晓林认为,知识联邦可以成为可信人工智能时代构建新型生产关系的基石。作为一种安全的数据和知识交换框架体系,知识联邦技术保证在数据安全的前提下实现知识的提炼与共享,赋能基于数据驱动的公共服务、商业活动与学术研究,充分发挥数据要素的效益倍增作用。

李晓林坦言,知识联邦通过支撑数据新型生产资料在时空上的安全流通、转换、交易来实现其价值,助力中国在全球率先突破下一代可信人工智能。

但在这个宏愿目标之下,在以终为始的倒推中,看似咫尺却任重道远,中间途径的将是一段漫长且复杂的探索和布局,在算力智库与李晓林的对话中,他直言不讳,向我们分享了同盾科技的渊源、攻坚和未来规划。

自主决策的ai安全分析(同盾科技李晓林)(2)

以实现客户业务价值为导向不为隐私计算而隐私计算

算力智库:

当下我们说的隐私计算技术服务商或隐私计算行业,大部分团队和企业是因隐私计算风口而生的,天然就专注于隐私计算,但同盾科技是以决策智能起家,既是老大哥,也是独角兽。在此背景下,同盾科技投身隐私计算是基于怎样的定位,是风口机会,还是内生需求?

李晓林:

同盾科技成立了8年多,在金融风险、安全、政企数字化都做了比较久的积累,对数据安全的理解还是比较深刻。在做业务的过程中,我们发现数据隐私保护在全球受到关注,因此在国内我们是比较早关注到这个领域的,而不是它成了风口之后才进去。我们很早就看到数据安全将会成为未来刚需,于是2018年,我们就做了去标识、脱敏等技术工作。2019年,则开始探索做联邦学习、MPC等技术。后来我们成立了AI研究院,对此进行了更前瞻性的探索。

另外,我们还具备做隐私计算天然的场景,同盾成立至今已有超过1万家的客户资源,覆盖金融、政企、互联网等多领域,结合最新的数据合规要求,同盾在为各行业客户做分析决策服务的过程中,能够迅速将隐私计算技术接入到客户风控模型等底层平台中。

另一方面,我们不是为了隐私计算而做隐私计算,不追求短平快的方式,而是对行业有长期的准备。数据隐私虽然是风口,但全面爆发还需要时间,我们按照既定的计划,有节奏地做短中长期的规划。

算力智库:

以同盾的行业经验来看,隐私计算技术所代表的数据价值究竟给金融业带来了哪些业务价值?是否能分享一个同盾的相关案例?在金融业之外,同盾在其他行业有哪些落地应用?

李晓林:

现在隐私计算确实是风口,但也会带来一些不切实际的期望,而我们希望可以给客户带来一些实实在在的业务价值。结合客户案例看,也的确做到了这一点,以银保营销的场景为例,利用具有精准人群标签作为种子用户,通过一定的算法评估模型,在保障安全的前提下,利用某银行、某保险公司的特征互为补充,找到更多潜在关联的相似人群,构建多维、准确、及时的全息用户画像。针对每类人群标签,选取不同的样本和标签定义,基于知识联邦进行联邦建模,为银行保险代理人提供用户的精准人群标签。成功被转化的用户,可作为优质客户,优化和丰富种子用户,进而不断完善用户画像。该方案对保险公司自销渠道预测效果提升了近300%。这是给客户带来了真正的业务价值,让客户看到了效果,增加了客户粘性,我们的营收也会有可持续性。

在金融业之外,我们的隐私计算技术在数字政务、中小微企业金融服务平台、互联网反欺诈判断等方面都有很多有价值的应用。

自主决策的ai安全分析(同盾科技李晓林)(3)

拥抱云原生,知识联邦构建可信AI地基

算力智库:

知识联邦迭代已有几个版本,主要包括哪些方面的升级,未来主要还将顺应哪些需求选定哪些迭代方向?

李晓林:

我们从2019年开始推出1.0版,到2020年推出2.1~2.4版本,2021年推到了3.0版本。第一个版本我们实现了一些主要功能,第二版把性能大幅度提升了,比如支持高并发、兼容上10亿的数据量级。3.0版本则实现了全面云原生,同时支持各种如私有云、公有云、混合云等轻量级的部署。

如果是简单的标品,现在云原生可以达到一键部署,以后可以大规模的在客户侧实施。未来4.0可能会向可信AI开放操作系统“天启”发力。

算力智库:

知识联邦有自己的数据要素市场“智邦iData”,您认为智邦iData与近年来各地层出不穷的数据交易所或者未来更广义的数据要素市场有什么不同,是否存在竞争或竞合的关系?

李晓林:

智邦iData数据要素市场是在2020规划,2021年推出的。智邦iData定位比较有前瞻性、独特性,跟国家层面的数据交易所以合作为主,不存在竞争。

第一,我们希望辅助它们,提供一些参考、技术输出、平台输出。未来,我们会跟包括北数所、上数所等诸多数据交易所合作。

第二,我们定位是做客户之间的、相对规模较小的市场。既有的客户可以在上面使用数据。智邦与iData是紧密结合的,是可插拔的。智邦的客户有需求,我们可以天然地打通,让它们对接更多的数据。

自主决策的ai安全分析(同盾科技李晓林)(4)

可信AI标准建设是当务之急先把蛋糕做大,而不是分蛋糕

算力智库:

大部分业内企业都把隐私计算与数据流通或数据要素市场紧密关联,有些也提出了更宏观的大基础设施体系,但同盾基于隐私计算技术不仅构建了知识联邦的系统,还上升到可信 AI的高度,请问同盾语境下的可信AI生态系统与一般意义上的可信AI或负责任的AI有哪些交叉和并行关系?

李晓林:

同盾希望,考虑问题要相对长远一些。知识联邦在业内有一定独特性,是融合了层次化的统一平台。我们从2019年开始就做知识联邦,为了下一代AI,接下来我们将提出可信AI的开放操作系统——天启平台。一方面为了面向下一代AI,另一方面要提供一个可信赖的、可靠的、安全的平台。

这个落地还是有难度的。我们现在正在不断推进的过程中,现在说的可信AI,是数据安全隐私保护、可监管,属于狭义的可信AI,这是我们目前的重点。但我们不会停留在这个地方,等做完之后,我们还会做更多功能的可信AI,包括可靠性、AI伦理等等。

我们目前的重点还是以数据合规、数据安全、隐私保护、监管科技为主。

自主决策的ai安全分析(同盾科技李晓林)(5)

2020年,我们开源了数据安全交换协议FLEX,有效利用多个参与方的协议标准,真正实现数据可用不可见,知识共创和共享;在此基础上,我们又打造了全面互联互通参考模型FIRM模型,这是一个多层次的互联互通参考模型,把互联互通分为五个层次,包括平台层、通信层、数据交换层、算法层、应用层;有了互联互通,有了智邦平台的支撑,有了知识联邦的理论框架,我们就可以进一步打通数据流通。基于合规的互联互通,我们进一步打造出数据的要素市场,即智邦iData。

算力智库:

构建可信AI至少包括侠义的数据和算法两大方面,广义还可包括AI机构可信度甚至公众的AI认同等多方面,基于知识联邦的可信AI理念是否主要聚焦于数据方面,您对于推动构建可信AI其他方面的发展有什么建议?

李晓林:

我们的系统是开放的,每个人都能在上面评论,像社交网络一样。在这使用了别人的算法、数据,就可以给其打分。打分打得久了,算法的可信度、精度、性能等都会有了评分。那这个其实就像淘宝上你开个店。你的商品卖得比较好,大家可以打高分,这个对公众参与AI建设及可信度的提升是有帮助的,也有一定的教育意义。

算力智库:

同盾一直积极投身隐私计算行业标准的建设,在您看来标准对于技术、企业和行业发展的主要价值有哪些?另外我国在可信AI领域的标准制定尚远落后于国际,那么隐私计算相关标准与可信AI相关标准是否有可以协同之处?

李晓林:

同盾一直致力于建立标准,标准对行业发展是非常重要的,我们一直在积极参与。标准制定过程,也是同行不断沟通创新的过程,对技术提升也有帮助,现在行业远没到竞争的时候,当前主要工作是把蛋糕做大,而不是分蛋糕。

隐私保护、数据保护、算法安全都在可信AI范畴内,可信AI标准建立起来难度还是比较大,是一揽子的标准,要实现全方位测评。同盾近年来也一直在积极参与人民银行金标委、信安标委、中国信通院等多个数据安全相关标准的制定,从自身实践中来,到行业发展中去,希望为行业的健康良性发展贡献力量。

,