今⽇值得关注的⼈⼯智能新动态：OpenAI、⾕歌等联合成⽴前沿模型论坛，确保AI模型安全。该论坛将前沿模型定义为⼤规模机器学习模型，其能⼒超出了⽬前最先进的现有模型，并且可以执⾏各种任务。为⽀持前沿AI模型的安全和负责任的发展，论坛将重点关注三个关键领域：确定最佳实践、推进AI安全研究以及促进公司和政府之间的信息共享。
Stability AI发布SDXL 1.0模型：⾰新图像⽣成。当地时间周三，Stability AI推出了新的稳定扩散基础模型Stable Diffusion XL (SDXL) 1.0，该模型可显著提⾼图像质量。该公司声称该模型可以⽣成更鲜艳的⾊彩、照明和对⽐度。SDXL 1.0还引⼊了微调功能，⽤户仅通过⽂本提示即可⽣成⾼度详细的图像。
亚⻢逊推出Agents for Bedrock：AI应⽤⾃动执⾏任务。周三在纽约举⾏的AWS峰会上，亚⻢逊推出了Agents for Bedrock，这将使公司能够构建可以⾃动执⾏⾃⼰任务的AI应⽤程序，例如为⽤户预订餐厅，⽽不是仅仅提供去哪⾥吃饭的建议。
⼜⼀暗⿊版ChatGPT：新型⽹络犯罪⽣成式AI⼯具。追随WormGPT的脚步，另⼀种名为FraudGPT的⽹络犯罪⽣成式AI⼯具出现。
Netenrich安全研究员Rakesh Krishnan表示：“这是⼀个AI机器⼈，专⻔⽤于攻击，例如制作⻥叉式⽹络钓⻥电⼦邮件、创建破解⼯具和梳理（carding）等。另外，该⼯具可⽤于编写恶意代码、创建⽆法检测的恶意软件和查找漏洞。⽬前尚不清楚⽤于开发该系统的确切⼤型语⾔模型。”
亚⻢逊云推出强劲Amazon EC2 P5，搭载英伟达H100 GPU。据英伟达官⽹公告，亚⻢逊云近⽇宣布推出全新的Amazon Elastic Compute Cloud（EC2）P5实例，采⽤英伟达H100 Tensor Core GPU驱动。这⼀全新服务允许⽤户通过浏览器轻松拓展⽣成式AI、⾼性能计算（HPC）及其他应⽤。
WavJourney：充满故事的AI⾳乐家。
该研究旨在通过⽂本指令创建包含语⾳、⾳乐和⾳效的故事情节的⾳频内容，提出了⼀个利⽤LLMs连接各种⾳频模型以⽣成⾳频内容的系统——WavJourney。
据介绍，只需给定⼀个听觉场景的⽂本描述，WavJourney就会⾸先提示LLMs⽣成⼀个结构化的⾳频故事脚本；随后，把⾳频脚本输⼊脚本编译器中，转换成计算机程序，程序的每⼀⾏都会调⽤特定任务的⾳频⽣成模型或计算操作功能（如串联、混合）；最后执⾏计算机程序，获得⼀个充满故事情节的⾳频内容。
揭示ChatGPT的安全、隐私和道德问题。近⽇，加拿⼤⼥王⼤学的⼀篇论⽂探讨了GPT-1到GPT-4升级过程中模型的特点、局限性和潜在应⽤，从⽽揭示将ChatGPT融⼊我们⽇常⽣活中可能⾯临的潜在⻛险。研究重点关注安全、隐私和伦理问题，并强调这些问题对⼴泛采⽤ChatGPT的挑战。
FacTool：检测⼤型语⾔模型⽣成⽂本中事实错误的不可知框架。
为应对⽣成式预训练模型在⽣成⽂本中识别事实错误的挑战，上海交通⼤学、卡内基梅隆⼤学、⾹港城市⼤学、纽约⼤学、Meta AI、⾹港科技⼤学、上海⼈⼯智能实验室共同提出了⼀个任务和领域不可知的框架——FacTool，从⽽检测⼤型语⾔模型（如ChatGPT）⽣成的⽂本中的事实错误，该研究在四个不同任务（基于知识的问答、代码⽣成、数学推理和科学⽂献综述）上的实验表明了所提⽅法的有效性。