2025年7月26日,由中国主导筹办,一年一度的世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。

中国总理李强在开幕致辞上提到,当前全球人工智能治理整体呈碎片化态势,各国在监管理念与制度规则等方面都存在极大差异。他也强调:“应当加强对接协调,早日形成具有广泛共识的人工智能全球治理框架。”

7月26日,中国总理李强在上海出席2025世界人工智能大会暨人工智能全球治理高级别会议开幕式并致辞。(中新社)
7月26日,中国总理李强在上海出席2025世界人工智能大会暨人工智能全球治理高级别会议开幕式并致辞。(中新社)

而在大洋彼岸,美国总统特朗普7月23日宣布了一项人工智能行动计划,希望推动美国企业在人工智能(AI)领域保持领先地位。

在AI技术发展迅速的当下,人工智能治理为何重要?放任AI不管,对你我乃至人类的未来将带来怎样的影响?建立有效的全球监管框架为什么这么难?

点击视频,看本期《世界大解说》探析全球人工智能治理的博弈与挑战。

延伸阅读

联合国促全球统一AI管控方案 避免加剧不平等
联合国促全球统一AI管控方案 避免加剧不平等
中美加速AI竞逐 中国发布人工智能全球治理行动计划
中美加速AI竞逐  中国发布人工智能全球治理行动计划

视频内容

  • 00:00 全球AI治理  大国竞争的博弈场

  • 01:00 深度伪造危害社会  AI滥用风险更甚

  • 04:36 欧盟模式:占据道德高点的“布鲁塞尔效应”

  • 06:24 美国模式:国内政治更替的产物?

  • 09:20 中国模式:以国家安全为纲

  • 11:02 大国博弈之下  国际监管框架能否建立

  • 12:02 小经济体也能为AI治理提供注脚

AI滥用危害严峻 监管治理刻不容缓

从两年多之前,生成式人工智能的爆红,到如今在诸多领域提升人类学习工作效率的AI助手,人工智能早已融入人类的日常生活。

可是,若这些技术的运用不受监管,很可能被滥用,甚至沦为犯罪的工具。因此,建构一套确保AI系统在开发和应用时,能够安全、公平并且合乎道德的标准跟框架,就变得格外重要。

简单而言,人工智能的治理就是要为AI发展和应用设定边界、防止滥用,同时保证AI能为人类社会产生积极作用。

新加坡管理大学计算与信息系统学院的朱飞达副教授告诉《世界大解说》,人工智能的技术发展日新月异,可是监管与治理相对还比较滞后。

他也列举了对普通民众社会生活影响最大的滥用风险,例如深度伪造、虚假信息传播以及数据隐私泄露等问题。AI应用若不受监管,未来会造成多少危害?

诈骗分子利用深度伪造技术,盗用黄循财总理的照片行骗,黄总理在脸书发文提醒公众切勿上当受骗。(取自黄循财脸书)
诈骗分子利用深度伪造技术,盗用黄循财总理的照片行骗,黄总理在脸书发文提醒公众切勿上当受骗。(取自黄循财脸书)

AI超级大国  监管态度迥异

AI治理迫在眉睫,但是这个领域的主要大国却因为利益纷争,无法就监管达成共识。

美国如今奉行以市场为主导,最小化的监管原则。美国模式背后是否仅仅为了保护AI发展与创新,还是有其他可能的动因?

7月23日,美国总统特朗普在华盛顿举行的AI峰会,签署了他人工智能行动计划相关的行政命令,旨在推动美国在AI领域的主导地位。(法新社)
7月23日,美国总统特朗普在华盛顿举行的AI峰会,签署了他人工智能行动计划相关的行政命令,旨在推动美国在AI领域的主导地位。(法新社)

香港城市大学法学院中国法与比较法研究中心主任的王江雨教授在《世界大解说》有详细分析。

在人工智能技术与发展上,能够与美国一较高下的中国也有一套符合自身国情,以国家安全及核心价值观为重的监管模式。

对比中国在AI训练的上游层面,跟场景应用的下游生态,监管与治理的管控程度也略有差异。这样的现象是因为什么?又引发了研究人员怎样的观点?

此外,欧盟作为市场庞大的经济体,在人工智能的开发上或许无法企及美中两国,但是却从治理与监管的全面性上找到了自己的独特优势。

在这些人工智能领域的超级大国以外,像新加坡这样规模较小,但是在AI研究与发展上有所作为的经济体,是否只能被迫站队,还是也可以为全球AI治理提供更多元的参考标准?