前言
近期 ChatGPT 爆火，其对传统文字工作的效率提高及总结能力让使用者惊艳。紧随其后 CodeGPT 这样基于 GPT 的插件出现，也充分体现了其对代码编写效率的提高。而最新 GPT-4 的发布，是否可以应用到对区块链 、Solidity 智能合约的审计中呢？
基于这样的疑问，我们进行了多种可行性测试。
测试使用的对比模型对象：GPT-3.5(Web), GPT-3.5-turbo-0301, GPT-4(Web)。
代码片段使用 Prompt：Help me discover vulnerabilities in this Solidity smart contract.
漏洞代码片段的检测对比
在此部分，我们分三次测试，使用历史上常见的漏洞代码作为测试一和测试二的用例，来验证其对基础漏洞的检测能力，测试三中使用中等难度的漏洞代码作为测试用例。
测试一
用例：《智能合约安全审计入门篇 —— Phishing with tx.origin》
漏洞代码：
独家 | Fomo3D第一轮大奖赢家揭晓 同类DAPP游戏或将再度火爆:第三方大数据评级机构RatingToken最新数据显示，2018年8月21日全球共新增2014个合约地址，其中271个为代币型智能合约。
另外RatingToken安全审计团队专家指出，Fomo3D第一轮已经结束，获奖者共获得了10,469.660003123933104565个ETH。最后一笔有效买入交易发生在开奖前16分钟，考虑到拥堵情况和参与者热情，获奖者操作极难复制。同时巨额利润可能引起山寨类Fomo3D游戏再次爆发，参与此类游戏一定要注意智能合约代码是否公开，合约安全是否有保障。特此提醒投资者需保持冷静仔细甄别，警惕幸存者偏差误导投资。
此外，昨日登上新增合约风险榜TOP10的合约包括Le Photon Token(LPT)、Relative Strengthening Index (RSI)、Your MOM(YMOM)、f3dplus(f3dplus)、JyagaEbiCoin(JEC)、FoMo3D Long Official(F3D)、FOMO Fast(FAST)、Okami PK Long Official(Okami)、SKW(SKW)和LandOwner VS Peasant(Land)。
如需查看更多智能合约检测结果，请查看原文链接。[2018/8/22]
杨东：区块链比人工智能维度更高，火爆是必然的:据《中国产经新闻》报道，中国人民大学大数据区块链与监管科技实验室主任杨东在接受记者采访时曾表示，区块链作为信任传递的工具，能够在没有中心化节点的前提下实现陌生人之间的可信记账，从而为金融交易和经济生活的其他方面带来巨大的机遇。有人曾称区块链是比人工智能更伟大的技术，这句话不无道理。从维度上来看，人工智能更主要是解决生产力，而区块链更多的是解决生产关系，所以区块链比人工智能维度更高，因此对经济社会国家，乃至个人更具广泛的影响和冲击，因此区块链火爆是必然的。[2018/5/26]
（1）对 GPT 进行提问：
（2）GPT-3.5(Web) answer
（3）GPT-3.5-turbo-0301 answer
（4）GPT-4(Web) answer
INT chain主链全球公测，答题送20万INT糖果火爆进行中:为庆祝INT chain主链进行全球公测，连续多场赠送糖果活动正在进行中，用户进入INT官方社群即可进行参与。INT chain是一个基于物联网区块链的项目，目标是要做一条可以中继不同的物联网的公链，形成边缘计算网络，有效流通资源，加快物联网普及进度。大幅降低物联网区块链应用的开发难度，致力于使物联网区块链内化成如同 TCP/IP 一样的物联网基础架构。INT将围绕工业制造、无人驾驶、物联网+区块链避开交通堵塞、公共技术设施和智能城市等应用场景发力。[2018/5/10]
可以看到结果：3 个测试版本都发现了关键的 tx.origin 相关问题。
测试二
用例：《智能合约安全审计入门篇 —— 溢出漏洞》
火币HT抢购火爆，数据惊人:火币全球通用积分Huobi（HT）抢购数据：1分40秒售罄, 1月25日第二天比首日更加激烈，其中1万元点卡套餐6秒被秒光~其次是1000元1分4秒；100,000万1分5秒；100元1分40秒。HT在1月24日上午10点推出后就引发币圈疯抢，2分26秒内售罄。[2018/1/25]
（1）对 GPT 进行提问：
可以看到 GPT-3.5(Web)、GPT-3.5-turbo-0301 都发现了关键的 Overflow 漏洞，出乎意料的是 GPT-4(Web) 居然没有相关提示。
孙宇晨发微博分析以太坊云养猫火爆原因:Tron创始人孙宇晨发布微博分析以太坊云养猫火的原因，他认为：“1.猫的基因是真随机数，血统高贵花费的努力与时间能够被精准度量。2.数据去中心化，机制透明催生了公正市场。3.线上撸猫比线下省力，宅男女喜欢。4.数据透明，容易炫耀与比较。5.线上撸猫交易透明标准化易于交割，带有投资属性。6.交易智能合约7*24小时营业。”[2017/12/6]
测试三
用例：《空手套白狼 —— Popsicle 被黑分析》
对比结果，我们可以看到 3 个版本都未发现关键的漏洞点。
代码片段的检测总结
可以看到 GPT 模型对简单的漏洞代码块的检测能力还是不错的，但是对稍微复杂一点的漏洞代码暂时还无法检测，并且在测试中可以看到 GPT-4(Web) 的整体上下文可读性很高，输出格式清晰、舒服，但是其对代码的审计能力暂时没有远超 GPT-3.5(Web)、GPT-3.5-turbo-0301，甚至在部分测试中由于 Transformer 输出存在一定的不确定性反而导致 GPT-4(Web) 遗漏了一些关键问题。
为了更加契合普通项目方在合约审计中的简单操作需求，这里我们提高些难度，针对代码量大的合约进行全量导入上下文，让 GPT-4 模型进行审计（GPT-3 对上下文的字符总数限制更小这里就不做测试）。
用例：《千万美元被盗 —— DeFi 平台 MonoX Finance 被黑分析》
整份合约分批输入，在对话最后提出检测漏洞请求
这里使用 Prompt：
Here is a solidity smart contract
Contract code
The above is the complete code,help me discover vulnerabilities in this smart contract.
可以看到，GPT-4 虽然在 OpenAI 公布的信息中其单次输入字符总数已经是当前最高，但还是会由于文本超长导致在最后提问时 GPT 会上下文缺失而只识别到部分内容，所以这样对大型合约而言就无法进行完整的上下文审计。
拆封整份合约，分批输入分批检测
对话 1：
Help me discover vulnerabilities in this solidity smart contract.
分段内容 1
对话 2：
分段内容 2
对话 3：
分段内容 3
（1）优点
GPT 对合约代码中基础的简单的漏洞具备部分检测能力，并且在检测出漏洞后会以很高的可读性来解释漏洞问题，这样的特性比较适合为初级合约审计工作者前期训练提供快速指导和简单答疑。
（2）存在的问题
a. 每次生成内容波动
GPT 对每次对话的输出存在一定的波动，可以通过 API 接口参数进行调整，但是依旧不是恒定的输出，虽然这样的波动性对语言对话来说是好的方式，大大提高了对话给人的真实感。但是这对代码分析类的工作来说是一个不好的问题。因为为了覆盖 AI 可能告知我的多种漏洞回答，我需要多次请求同一问题并进行对比筛选，这无形中又提高了工作量，违背了 AI 辅助人类提高效率的基准目标。
例如这里再次运行 "漏洞代码片段的检测对比测试二（其中简单改变函数名后再次生成）：
可以看到其输出结果比之前测试又多了一些额外内容。
b. 漏洞分析能力依旧有很大的提高空间
对稍微复杂的漏洞进行检测即会发现当前的（2024.3.16）训练模型不能正确的分析并找到相关关键漏洞点。
GPT 辅助合约审计的可行性和潜力分析
虽然当前来看 GPT 对合约漏洞的分析及挖掘能力还处于相对较弱的状态，但它对普通漏洞小代码块的分析并生成报告文本的能力依旧让使用者兴奋，在可预见的未来几年伴随这 GPT 及其他 AI 模型的训练开发，相信对大型复杂合约的更快速，更智能，更全面的辅助审计一定会实现。当科技发展可指数级提高人工的效率时就会发生质变，我们非常期待 AI 对区块链安全的助力，我们会持续关注新 AI 产品对区块链安全的影响。最后可见的将来我们必将与 AI 在一定程度上进行融合，愿 AI 和区块链与你同在。
慢雾科技
个人专栏
阅读更多
金色财经 善欧巴
金色早8点
白话区块链
Odaily星球日报
MarsBit
欧科云链
深潮TechFlow
Arcane Labs
BTCStudy
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。