FTC:ChatGPT爆重大漏洞:可能泄露1.2%用户数据 AI安全引人震惊_ANC

美国时间3月25日,OpenAI官方发布了3月20日ChatGPT临时中断服务的调查报告,并表示有1.2%的ChatGPTPlus用户可能数据被泄露。

根据OpenAI官网公告表示,3月20日以前,一个名为Redis-py的开源库中的错误造成了缓存问题,该问题会导致用户可能看到其他人聊天记录的片段,甚至会向一些活跃用户显示其他用户信用卡的最后四位数字、到期日期、姓名、电子邮件地址和付款地址。

本来可能还只是零星的用户出现该类BUG,但令人神经大条的是,在20号早上,OpenAI在对服务器进行更改的时候出现失误,导致Redis请求取消激增,问题进一步的加剧,所以出现了这个“1.2%”的可能。

Ultiverse、TaskON等BNB Chain项目将集成zkBAB进行隐私身份验证:5月25日消息,Ultiverse、TaskON、ReadON、Yuliverse、Web3Go、zkPass 和 LetsMeme 等 BNB Chain 项目宣布采用 Web3 隐私保护协议 Manta Network 推出的 zkBAB 进行隐私身份验证,将集成 zkBAB 私有身份凭证。通过利用 zkBAB,可减少机器人程序利用和女巫攻击,此外用户可通过使用证明密钥连接应用程序,以无缝和无钱包的方式验证所有权。[2023/5/25 10:38:51]

根据OpenAI官方的说法,有两种可能会使这些信息被暴露:

1.在特定时间内的付款确认邮件,可能会发给了一些错误的用户,这些邮件上包含信用卡的后四位数字。

2.在特定时间内,点击“我的账户”-“管理我的订阅”,可能会导致另一个活跃用户的姓名、电子邮箱、付款地址、信用卡后四位被泄露。

Cosmostation公布2023年路线图,计划将Mintscan发展为跨链分析和仪表盘应用程序:1月5日消息,Cosmos网络区块浏览器服务商Cosmostation公布其2023年路线图。其表示,2023年将致力于构建协议基础设施,将其基于Cosmos-SDK网络的区块浏览器Mintscan发展成为跨链分析和仪表盘应用程序,并添加如下新功能:跨链安全、链间安全、跨链及其他领域的综合API/RPC服务、为Interchain及其他领域提供动力、专注于智能合约和DApp可访问性等。[2023/1/5 10:23:20]

OpenAI表示,目前已经联系了这些可能已经泄露信息的用户。

网址:https://openai.com/blog/march-20-chatgpt-outage

Riot Blockchain预计2022年总算力将达8.6EH/s:11月3日消息,Riot Blockchain预计2022年总算力将达8.6EH/s,较此前预计的7.7EH/s上调了11.7%。此外,Riot Blockchain称其10月份通过挖矿获得了464枚比特币,同比增长433%,截至10月底,Riot今年通过挖矿获得的比特币数量为2921枚。Riot表示,其目前的算力为2.8EH/s,约占11月2日比特币全网算力170.9EH/s的1.6%。[2021/11/4 21:22:59]

为了防止此类事情再次发生,OpenAI也在博文里说明了他们已经采取的行动:添加“冗余检查”以确保提供的数据与用户匹配;改进修复了其Redis集群在高负载下吐出错误的可能性......而且还强调他们的Redis开源维护者一直是出色的合作者。

动态 | RChain董事会成员一致认为破产不是目前的最佳选择:根据RChain QQ群,RChain董事会于3月5日开会讨论合作社破产清算的问题,董事会判断,继续经营合作社是目前最有可能实现预期企业价值最大化的途径。合作社目前仍处于困境,但董事会成员一致认为,破产不是目前的最佳选择。会后董事markpui表示:如果Coop无法处理2019年4月到期的大额纳税义务,并且无法获得新的融资,那么Coop将会破产。如果Coop筹集足够的资金或减少/延迟纳税义务,那么Coop将继续前进。(华尔街见闻)[2019/3/6]

虽然问题已经解决,但还是有大量的网民们依旧质疑OpenAI的安全性,还有网民询问,为什么不能用GPT4检查代码上的错误。

Blockchain CEO:中央银行将于2018年开始持有比特币和以太坊:Blockchain blockchain彼得·史密斯是Coinbase背后使用次数最多的加密货币钱包,他表示中央银行将于2018年开始持有比特币和以太坊等主要数字货币。他认为今年将是央行开始将数字货币作为资产负债表一部分的第一年。史密斯表示,比特币已经是供应量排在前30位的货币,而这种趋势以及数字货币作为储备的一部分的压力只会随着价格的上涨而加速。据报道,保加利亚政府2017年12月在其账户中拥有超过30亿美元的比特币,主要来自执法调查期间查获的资金以及打击暗网商店经营者。[2018/1/13]

可能是为了安抚ChatGPT用户的心绪,OpenAICEOSamAltman在当天立刻接受了媒体专访。虽然只字未提此次用户数据泄露事件,却多次强调“AI安全”。

他提到了以下四点:

1.人工智能语言模型的开发和改进需要一个包含公众反馈的迭代过程,专注于解决偏见,并考虑AI安全性和一致性。

2.人工智能的进步,特别是GPT技术的进步,正在改变编程的性质,需要仔细考虑人工智能的安全性、语言输出的监控和解决偏见。

3.人工智能的发展,特别是神经网络,有可能超越人类智能,大大提高生活质量,但也带来了重大的风险和挑战,必须通过不断研究和开发人工智能安全性和一致性来解决。

4.OpenAI是一家营利性公司,致力于强大的AI技术,同时对安全问题保持透明。

OpenAICTOMiraMurati也在其官网上发出自己的观点,“人工智能系统正在成为日常生活的一部分。关键是要确保这些机器符合人类的意图和价值观。”而如今,他们一手创造的ChatGPT正在挑战着他们所给到公众的承诺。

随着人类工作生活使用人工智能的频次越来越高,AI安全问题也应该成为我们在当下及未来相当长一段时间应该重视的问题,AI技术不能只考虑跑得快,还要考虑不翻车。

根据openAI官方解释,这是由于缓存问题导致用户信息泄漏,然而这种错误,在互联网行业中,并不是第一起。

早在2015年的圣诞节,Steam也因为缓存问题,使34000名左右用户的个人信息被泄露。OpenAI投入巨量的精力和金钱在AI的潜在安全的研究上,却被一个常见的老问题给绊倒。虽说“成大事者,不拘小节”,但“天下难事,必作于易;天下大事,必作于细。”希望未来OpenAI不会再出现此类的问题了。

我们询问了GPT-4,AI安全问题应该如何解决,它回答道:

在人工智能领域,确保安全性是至关重要的。以下是一些建议和方法,以解决AI安全问题:

可解释性和透明度:AI系统的设计应具备可解释性,以便研究人员、用户和监管机构理解其决策过程。提高透明度有助于确保AI系统的行为符合预期,便于发现潜在的安全隐患。

数据安全和隐私:AI系统通常需要大量数据进行训练。保护这些数据的隐私和安全至关重要。采用加密、数据脱敏和差分隐私等技术,以确保数据在处理、传输和存储过程中得到保护。

鲁棒性和抗攻击能力:AI系统应具备对抗对手的能力,包括识别和抵御对抗性攻击、性输入等。研究鲁棒性训练方法,提高系统的抗干扰能力。

可审计性:建立可审计的AI系统,以记录关键决策过程。这将有助于追踪潜在问题、确保合规性,并为未来纠正错误和不当行为提供依据。

伦理与法规遵循:确保AI系统符合伦理原则和法律法规,遵循公平、透明、可解释等原则。研究AI伦理,制定相应的政策和指导方针。

持续监控和更新:随着技术的进步和新的安全威胁的出现,需要不断监控和更新AI系统,以确保其安全性和有效性。

多学科合作:鼓励不同领域的研究人员、政策制定者、企业家和公众共同参与AI安全问题的讨论。跨学科合作将有助于制定更全面的安全策略。

开放研究和分享:开展开放、合作的研究,分享AI安全相关的知识、技术和最佳实践。这将有助于整个AI领域在安全问题上取得进展。

通过积极采纳这些措施和方法,我们可以降低AI领域的安全风险,推动人工智能的健康、可持续发展。

希望OpenAI在内的人工智能公司,都能为保障AI安全而多上心、多出力,AI行业才能够更加健康地发展。

作者:鹿人蒹葭ChatGPT排版:鹿人

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

区块博客

[0:0ms0-5:278ms