两大日企警告 放任生成式AI或致社会秩序崩塌

生成式AI正在迅速发展并走进人们的生活,图为中国科技公司科大讯飞合肥总部的AI标志。这家公司是中国AI领域的主要参与者,也是最先公开展示所开发的生成式AI平台的企业之一。(彭博社)
生成式AI正在迅速发展并走进人们的生活,图为中国科技公司科大讯飞合肥总部的AI标志。这家公司是中国AI领域的主要参与者,也是最先公开展示所开发的生成式AI平台的企业之一。(彭博社)

字体大小:

(东京讯)日本最大电信公司和最大报章星期一(4月8日)发表联合宣言警告,若放任生成式人工智能(generative AI)不受控制地发展,在最坏情况下,民主和社会秩序可能会崩塌,从而导致战争。宣言呼吁日本政府尽快立法限制这种技术。

日本电信电话(NTT)和《读卖新闻》在这份宣言中指出,生成式AI虽给人类带来了一些好处,但AI工具已开始损害人类的尊严,因为这些工具有时会不顾道德或准确性,只为吸引用户的注意力而设计。

宣言警告,若任由生成式AI肆意发展,整个社会的信任可能会受到损害,随着人们失去确保信息真实和可靠的动力,他们将变得互相不信任。在最糟糕的情况下,民主和社会秩序可能崩塌并引发战争。

NTT和《读卖新闻》主张,日本政府必须立即采取应对措施,使选举和国家安全不会因生成式AI的滥用而遭到破坏。这些措施包括制定法律,尤其是限制这种技术在选举和安全领域的使用、保障健康的讨论空间、与时俱进地优化版权法等。

《华尔街日报》指出,这份宣言与欧洲议会今年3月通过限制AI用途的法律表明,美国盟友对美国公司一直处于开发前沿的AI项目越来越担忧。

目前,美国、英国和日本都成立了由政府领导的AI安全机构,协助制定AI指南。欧盟的新法要求最强大的AI模型制造商对这些模型进行安全评估,并向监管机构通报严重事故,同时禁止在学校和工作场所使用情绪识别AI工具。

美国拜登政府也规定大型AI公司须在开发可能对国家安全构成严重威胁的系统时告通知政府。然而,要如何在遵守宪法与保障言论自由的情况下,对AI驱动的言论进行监管是一大难题。

NTT和《读卖新闻》称,发表联合宣言是出于对公共言论的担忧。NTT正积极研究AI技术,并向企业客户提供生成式AI产品。《读卖新闻》的新闻和社论经常强调对AI的担忧。

这两家公司对日本政策的影响力都位居前列。NTT曾是政府控制的电话垄断企业,如今政府仍持有公司约三分之一的股份。《读卖新闻》则是日本读者最多的报纸,早报发行量约为600万份。

宣言说,两家公司将继续研究生成式AI的问题并做出建议,庆应义塾大学的网络文明研究中心将在这方面提供支持。

LIKE我们的官方脸书网页以获取更多新信息