AI日报|警惕!ChatGPT插件存在安全风险

来源: 学术头条

发布日期: 2023-07-26 16:31:43

本文讨论了多个与AI相关的重要话题,包括ChatGPT插件的安全风险、英伟达推出的DGX Cloud服务、ChatGPT安卓版的发布、AI新闻播报员的出现、AI可能带来的安全威胁、谷歌的Brain2Music研究、AI在生物武器制造中的潜在应用、以及大型语言模型与人类对齐的研究。

他发明了第一个聊天机器人,如今却反对AI。第一个聊天机器人的发明者Joseph Weizenbaum认为AI潜伏着某种危险,其在博客文章中表示,没有一台计算机能够完全理解人类,但是将计算机视为人类会导致人们认为计算机拥有判断力、是值得可信的。

警惕!ChatGPT插件存在安全风险。自从OpenAI三月份推出ChatGPT插件以来,目前插件商店上已经有100多个页面的插件。然而,安全研究人员表示,插件的运行方式可能会使人们的数据面临风险或被恶意黑客滥用。Electronic Arts的红队主管和安全研究员Johann Rehberger的记录显示,ChatGPT插件可以被用来窃取聊天记录、获取个人信息以及允许在个人计算机上远程执行代码。

英伟达推出DGX Cloud:用浏览器接入AI超级计算机。英伟达宣布,其基于云的AI超级计算服务DGX Cloud已经全面开放。该服务允许用户在Oracle云基础设施(OCI)上访问数千个虚拟Nvidia GPU(目前可在美国和英国使用)。英伟达称,DGX Cloud可让生成式AI开发人员将大量工作负载并行分配到多个计算节点,从而将训练速度提高两到三倍,超越传统云计算。

企业现在可以利用DGX Cloud打造自己的“AI超级计算机”,同时进行多个AI项目。

ChatGPT安卓版正式上线。当地时间周二,OpenAI宣布安卓版ChatGPT已经全面上线。目前,美国、印度、孟加拉国和巴西的安卓用户可以在谷歌Play商店下载使用,预计在下周将覆盖更多地区。

“永不疲倦”的AI新闻播报员。在过去三个月内,印度两大新闻网络纷纷推出两个多语言聊天机器人作为电视新闻主持人。这些AI新闻播报员具备多种语言功能,不仅节省成本,而且似乎“永不疲倦”。然而,此类技术的快速崛起也引发了人们对就业保障问题、故事缺乏细微差别以及机器人缺乏人为因素的担忧。

AI的“奥本海默”时刻?电影《奥本海默》讲述了核弹发明,激发了新一代对旧威胁的恐惧。专家警告,AI会带来最新的毁灭性打击。然而,牛津大学安全技术专家Martin表示,过度恐慌是错误的,需要平衡考虑。他提醒政府和企业解决潜在问题,如美国科技公司与白宫的水印协议,我们应该关注来自有组织的网络犯罪分子的威胁,而不是过度担忧AI的厄运。

谷歌新研究:根据大脑活动生成音乐。谷歌新的AI模型Brain2Music可以根据功能磁共振成像(fMRI)数据所看到的大脑活动来重建音乐。从本质上讲,该模型可以读取参与者的大脑模式,从而产生与参与者所听音乐相似的音乐。据介绍,该模型生成的音乐在流派、乐器、情绪等特征上与参与者最初听到的音乐刺激相似,音乐类型包括布鲁斯、古典、乡村、迪斯科、嘻哈、爵士、金属、流行、雷鬼和摇滚。

警告:AI可用于制造生物武器。日前,AI初创公司Anthropic首席执行官Dario Amodei在美国国会听证会上警告,AI可能导致恐怖分子使用技术制造生物武器,并于其他在场专家一起呼吁国际合作来控制AI的发展,制定类似于核技术的国际规则。

数据集:织物的视觉语言。萨拉戈萨大学和Adobe Research共同提出了text2fabric数据集,该数据集可以将自由文本描述与织物材料相关联。通过分析数据集,研究人员找到了关键词汇、属性和结构,准确理解人们如何描述织物,为泛化到其他材料提供指导。另外,他们还展示了该数据集可以让CLIP等大型视觉-语言模型专门化,显著改进细粒度材料检索和自动字幕等应用。

综述:将大型语言模型与人类对齐。大规模语言模型(LLMs)是自然语言处理任务的主要解决方案。尽管表现出色,但这些模型容易出现误解指令、生成偏见内容或虚构信息等限制。因此,将LLMs与人类期望对齐成为研究的焦点。华为诺亚方舟实验室发表的一篇综述全面介绍了对齐技术,其中包括数据收集、训练方法和模型评估。该综述对于了解和推进LLMs对齐,从而更好地满足人类导向任务和期望具有重要价值。

学习照片与草图之间的密集对应关系。加州大学圣迭戈分校和斯坦福大学的研究人员共同探讨了人类对草图与现实物体的连接理解能力。研究人员引入了PSC6k数据集,包含150K个草图-照片对的细粒度对应关系,补充了现有Sketchy数据集。另外,他们还提出了一种自监督方法,用于学习草图-照片对之间的密集对应关系。

UUID: bb226bb9-4fbd-47cc-b156-d5d9bd8f26ac

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2023年/学术头条_2023-07-26_AI日报|警惕!ChatGPT插件存在安全风险;他发明了第一个聊天机器人,如今却反对AI.txt

是否为广告: 否

处理费用: 0.0049 元