南洋理工大学与美国公司Zero Gravity将投入500万元,联合成立研究中心,推动区块链人工智能技术,应对中央系统可能存在的安全漏洞。

南大与去中心化人工智能设施公司Zero Gravity(简称0G),星期一(11月10日)在南大为新研究中心主持推介会。

这是0G首次与海外大学合设研究中心。中心将资助多个项目,推动去中心化人工智能技术训练与区块链整合模式。

根据双方的联合文告,新中心旨在促进学术研究与开放式人工智能系统的可扩展基础设施发展,这有别于由私营公司掌控的传统人工智能系统。一般人工智能系统使用的是封闭服务器,开放式系统则利用区块链技术,使流程中从模型训练到内容产出的每一步,都可被记录和验证。

这个四年的合作计划包括举办工作坊、黑客马拉松和开源项目,并提供研究生奖学金。

延伸阅读

南大和阿里巴巴设联合实验室 致力开发健康与节能AI技术
南大和阿里巴巴设联合实验室 致力开发健康与节能AI技术
南大商学课程延长至四年 强调科技与跨学科训练
南大商学课程延长至四年 强调科技与跨学科训练

新中心目前还没有实体地点,会利用南大的计算机与数据科学院,以及计算金融研究中心的研究设施。

南大副校长(创新与创业)彭树捷教授指出,开放与可靠的人工智能系统须建立在涵盖问责和去中心化的基础上。南大在区块链系统、密码学和计算领域已建立了高素质专长,如今希望通过与0G合作,研发新一代创新的人工智能堆栈(AI stack)。人工智能堆栈是技术、框架和基础设施组件的集合,涵盖从数据处理和机器学习框架,到云服务和硬件基础设施的所有方面,有助于创建和扩展AI解决方案。

0G总裁:盼建立开放生态系统 突破中央式人工智能系统垄断

0G将在本地设办事处。0G总裁、联合创始人孟科(Michael Heinrich)接受《联合早报》访问时说,选择在新加坡设点,是因为新加坡重视人工智能的发展与投资。此外,新加坡地理位置优越,可连接亚洲其他核心市场如中国、韩国和日本。

“公司的使命是让人工智能成为公共产品,我们希望通过与南大合作,建立一个开放的生态系统,突破中央式人工智能系统的垄断……我们须有一个透明、可验证且安全的系统,这对于物流、治理等关键系统尤其重要。”

双方的协作将由南大协理副教务长(研究生教育)兼研究生院院长文勇刚教授,与0G联合创始人、首席科技官伍鸣博士领导。

伍鸣指出,团队的研究显示,现有人工智能模型训练方法存有安全漏洞,可能遭受“后门攻击”,在训练过程中掺入恶意数据,模型就可能做出错误判断。这样的模型一旦被使用,例如用于自动驾驶技术,将对生活和安全造成影响。区块链技术则可以是透明、不可窜改的,在训练模型过程中把关键信息记录在区块链。这就是去中心化人工智能技术的主要好处。

南大现在有四名研究生获奖学金,参与研究工作。合作项目的主导研究员、南大计算机与数据科学院副教授张天威说,校方希望通过这个项目为学生扩大学习机会,包括区块链理学硕士生。

他指出,人工智能模型目前在一些特定任务的表现仍待改进,尤其是安全与审核等方面,团队也在研发新颖的高效算法,让大模型发挥更大的效能。