人工智能:ChatGPT爆重大漏洞:可能泄露1.2%用户数据 AI安全引人震惊_DeFi Firefly

美国时间3月25日,OpenAI官方发布了3月20日ChatGPT临时中断服务的调查报告,并表示有1.2%的ChatGPT Plus用户可能数据被泄露。

根据OpenAI官网公告表示,3月20日以前,一个名为Redis-py的开源库中的错误造成了缓存问题,该问题会导致用户可能看到其他人聊天记录的片段,甚至会向一些活跃用户显示其他用户信用卡的最后四位数字、到期日期、姓名、电子邮件地址和付款地址。

本来可能还只是零星的用户出现该类BUG,但令人神经大条的是,在20号早上,OpenAI在对服务器进行更改的时候出现失误,导致Redis请求取消激增,问题进一步的加剧,所以出现了这个“1.2%”的可能。

根据OpenAI官方的说法,有两种可能会使这些信息被暴露:

金色财经挖矿数据播报 BTC今日全网算力下跌0.81%:金色财经报道,据蜘蛛矿池数据显示:

BTC全网算力145.719EH/s,挖矿难度25.05T,目前区块高度684845,理论收益0.00000563/T/天。

ETH全网算力606.599TH/s,挖矿难度7796.41T,目前区块高度12500754,理论收益0.00333223/100MH/天。

BSV全网算力0.707EH/s,挖矿难度0.10T,目前区块高度688686,理论收益0.00127275/T/天。

BCH全网算力4.477 EH/s,挖矿难度0.43T,目前区块高度689347,理论收益0.00020102/T/天。[2021/5/25 22:41:32]

1. 在特定时间内的付款确认邮件,可能会发给了一些错误的用户,这些邮件上包含信用卡的后四位数字。

2. 在特定时间内,点击“我的账户”-“管理我的订阅”,可能会导致另一个活跃用户的姓名、电子邮箱、付款地址、信用卡后四位被泄露。

金色晨讯 | 10月31日隔夜重要动态一览:21:00-7:00关键词:以太坊、德国央行、美国

1.德国央行在去中心化网络项目中启用Ocean Protocol协议

2.浙江移动与浙大二院将携手引入区块链等新科技

3.意大利男子利用机场计算机非法挖掘ETH而被捕

4.美国国会图书馆补充加密货币法律资源

5.美国电信巨头Verizon利用区块链确保新闻透明度

6.Deribit比特币期权日交易量创历史新高

7.以太坊柏林硬分叉或于明年1月进行

8.中国电子技术标准化研究院发布三项区块链标准化成果

9.天津市市场监管委运用区块链等对进口冷藏冷冻肉类及水产品开展追溯管理[2020/10/31 11:17:25]

OpenAI表示,目前已经联系了这些可能已经泄露信息的用户。

金色晨讯 | 10月30日隔夜重要动态一览:21:00-7:00关键词:币安、比特币交易费、EIF、USDT

1.比特币交易费升至28个月高点。

2.福布斯:美国联邦调查局和国税局或正在调查币安。

3.欧盟下属基金EIF在区块链和AI领域投资8亿美元。

4.Uniswap计划增加空投地址的治理提案引发争议。

5.CME比特币期货10月合约收涨2.5%。

6.美股三大股指收盘均上涨 区块链概念股涨多跌少。

7.近半年新铸USDT的97.9% 从Tether官方账户直接转入交易所。

8.比特币持续上涨,日内最低报13388.89美元,最高报13635美元。[2020/10/30]

网址:https://openai.com/blog/march-20-chatgpt-outage(网页自动翻译,或不准确)

为了防止此类事情再次发生,OpenAI也在博文里说明了他们已经采取的行动:添加“冗余检查”以确保提供的数据与用户匹配;改进修复了其Redis集群在高负载下吐出错误的可能性......而且还强调他们的Redis开源维护者一直是出色的合作者。

EarnDefi与Channels.finance达成全面战略合作伙伴:EarnDefi与Channels.finance联合宣布,双方已经达成全面战略合作伙伴,将在宣发、社区、产品和技术等各方面展开深度交流合作。EDC(Earn DeFi Coin)是一个充满无限想象力的社会实验,EarnDefi是一站式DEFI协议,专挖头矿,具有聚合器、理财、跨链等功能。

Channels是完全去中心化的Heco借贷平台。[2021/1/22 16:47:54]

虽然问题已经解决,但还是有大量的网民们依旧质疑OpenAI的安全性,还有网民询问,为什么不能用GPT4检查代码上的错误。

动态 | AnChain.ai 完成由 SIG 海纳亚洲领投的 430 万美元 Pre-A 轮融资:区块链安全公司 AnChain.ai 完成由 SIG 海纳亚洲及 AMINO Capital 领投的 430 万美元 Pre-A 轮融资,该轮融资投资者还包括 Sand Hill Angels。AnChain.ai 致力于 AI 驱动来维护区块链生态安全,由大数据及人工智能专家 Victor Fang 博士和 Ben Wu 联合创立。 链闻此前报道,AnChain.ai 于 2018 年 10 月完成数百万美元种子轮融资,投资方为吴军博士等创办的硅谷知名风险投资机构丰元创投 Amino Capital 、华尔街对冲基金背景的风险投资机构华岩资本 CRCM Ventures 等,并于 2018 年 11 月完成 SIG 海纳亚洲、Brain Robotics Capital、明道未来资本的一轮融资。[2020/2/15]

可能是为了安抚ChatGPT用户的心绪,OpenAI CEO Sam Altman在当天立刻接受了媒体专访。虽然只字未提此次用户数据泄露事件,却多次强调“AI安全”。

他提到了以下四点:

1.人工智能语言模型(如 GPT)的开发和改进需要一个包含公众反馈的迭代过程,专注于解决偏见,并考虑 AI 安全性和一致性。

2.人工智能的进步,特别是GPT技术的进步,正在改变编程的性质,需要仔细考虑人工智能的安全性、语言输出的监控和解决偏见。

3.人工智能的发展,特别是神经网络,有可能超越人类智能,大大提高生活质量,但也带来了重大的风险和挑战,必须通过不断研究和开发人工智能安全性和一致性来解决。

4.OpenAI是一家营利性公司,致力于强大的AI技术,同时对安全问题保持透明。

OpenAI CTO Mira Murati也在其官网上发出自己的观点,“人工智能系统正在成为日常生活的一部分。关键是要确保这些机器符合人类的意图和价值观。”而如今,他们一手创造的ChatGPT正在挑战着他们所给到公众的承诺。

随着人类工作生活使用人工智能的频次越来越高,AI安全问题也应该成为我们在当下及未来相当长一段时间应该重视的问题,AI技术不能只考虑跑得快,还要考虑不翻车。

根据openAI官方解释,这是由于缓存问题导致用户信息泄漏,然而这种错误,在互联网行业中,并不是第一起。

早在2015年的圣诞节,Steam也因为缓存问题,使34000名左右用户的个人信息被泄露。OpenAI投入巨量的精力和金钱在AI的潜在安全的研究上,却被一个常见的老问题给绊倒。虽说“成大事者,不拘小节”,但“天下难事,必作于易;天下大事,必作于细。”希望未来OpenAI不会再出现此类的问题了。

我们询问了GPT-4,AI安全问题应该如何解决,它回答道:

在人工智能(AI)领域,确保安全性是至关重要的。以下是一些建议和方法,以解决AI安全问题:

可解释性和透明度:AI系统的设计应具备可解释性,以便研究人员、用户和监管机构理解其决策过程。提高透明度有助于确保AI系统的行为符合预期,便于发现潜在的安全隐患。

数据安全和隐私:AI系统通常需要大量数据进行训练。保护这些数据的隐私和安全至关重要。采用加密、数据脱敏和差分隐私等技术,以确保数据在处理、传输和存储过程中得到保护。

鲁棒性和抗攻击能力:AI系统应具备对抗对手的能力,包括识别和抵御对抗性攻击、性输入等。研究鲁棒性训练方法,提高系统的抗干扰能力。

可审计性:建立可审计的AI系统,以记录关键决策过程。这将有助于追踪潜在问题、确保合规性,并为未来纠正错误和不当行为提供依据。

伦理与法规遵循:确保AI系统符合伦理原则和法律法规,遵循公平、透明、可解释等原则。研究AI伦理,制定相应的政策和指导方针。

持续监控和更新:随着技术的进步和新的安全威胁的出现,需要不断监控和更新AI系统,以确保其安全性和有效性。

多学科合作:鼓励不同领域的研究人员、政策制定者、企业家和公众共同参与AI安全问题的讨论。跨学科合作将有助于制定更全面的安全策略。

开放研究和分享:开展开放、合作的研究,分享AI安全相关的知识、技术和最佳实践。这将有助于整个AI领域在安全问题上取得进展。

通过积极采纳这些措施和方法,我们可以降低AI领域的安全风险,推动人工智能的健康、可持续发展。

希望OpenAI在内的人工智能公司,都能为保障AI安全而多上心、多出力,AI行业才能够更加健康地发展。

作者:鹿人 蒹葭 ChatGPT 排版:鹿人

金色财经 善欧巴

金色早8点

白话区块链

Odaily星球日报

深潮TechFlow

欧科云链

Arcane Labs

MarsBit

BTCStudy

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

区块博客

[0:0ms0-7:520ms