正当各界在加速研发人工智能（AI）所带出的各类应用之际，ChatGPT在2022年11月30日的横空出世，开启AI新纪元。类似的以大语言模型为基础的人工智能科技突飞猛进地发展，才短短一年多后，以生成式人工智能（Generative AI，以下简称Gen AI）开展的应用、工具和产品已充斥市场。
现在，几乎谁都可以轻易地用Gen AI生成文本、影像、音频和视频影片。不法之徒则更加先进，早已用这些工具来诈骗，制造假信息假新闻，写色情小说甚至伪造色情视频等不法勾当，威胁恐吓敲诈受害者。Gen AI就如过去许多新科技发明后的历程一样，在未发挥造福人类的初衷原旨之前，已先被滥用来破坏人类的生活。
我国近日引入新版法律网LawNet AI，用人工智能撰写新加坡法律摘要，帮助律师提高工作效率。不久前又有乐龄护理中心用Gen AI“回忆走廊”（MemoryLane），为年长者编撰人生回忆录。这些听起来都是相当正面的运用，都无可厚非，不过细读一篇在今年8月8日，由麻省理工学院发表的实验报告后，不禁对Gen AI被普遍应用的现象产生隐忧。那不是危言耸听，而是目前应用Gen AI要关注的大问题。
