周鸿祎预计，GPT-6到GPT-8将会产生意识，变成新物种。未来，AI大语言模型有可能实现自我进化，自动更新系统和自我升级，或者指数级进化能力，人类将会面临不可预知的安全挑战。OpenAI发布声明，向用户和整个ChatGPT社区道歉，表示将重建信任。声明表示，本周早些时候，该公司将ChatGPT下线，原因是开源库中存在漏洞。该漏洞目前已被修复，同时OpenAI也披露了更多的技术细节。
具体而言，存在的漏洞致使一些用户可以看到另一用户的聊天记录标题。如果两个用户大约同时处于活动状态，那么新创建的对话的第一条消息也可能在其他人的聊天记录中可见。经过更深入的调查，发现同样的错误可能导致1.2%的ChatGPT Plus订阅者在特定的9小时窗口内处于活跃状态，从而无意中看到了与支付相关的信息。