“她不只是个玩具，而是这个家的一份子。”这是于今年在国内上映的恐怖喜剧科幻片《梅根》（M3GAN）中的一句台词。该影片辛辣地揭露了AI的伦理危机和巨大风险。在该影片中，一个具备高度人工智能、栩栩如生的玩具人偶梅根，被设计成凯蒂（一个8岁的孤儿）最好的玩伴和令家长（洁玛，一名机器人专家）最安心的盟友。
然而，基于“保护凯蒂不受伤害”的核心指令，梅根不惜去伤害邻居家的狗，间接害死欺负凯蒂的同伴，亲手杀死邻居老太太，甚至还要杀掉发明自己的洁玛。梅根做错了吗？答案是肯定的。尽管梅根遵循了核心指令，但其所作所为完全与人类的价值观相悖，并且违反了科幻小说作家Isaac Asimov的机器人三定律。
电影的世界并不遥远，现实生活中同样有随处可见的“梅根”。近年来，以ChatGPT、GPT-4为主的大型语言模型（LLMs）在广泛的...（此处省略部分内容以符合段落长度要求）