AI & VR 杂谈
背景
在读了 Mythos 文章后，也有些想法，今天早上读了铁磊的 《写在VR行业大变迁前夕》后，受到鼓舞，也分享下我的想法与观点，也希望大家都分享下自己对这个问题的看法。
AI 是趋势
不管 AI 行业是否存在泡沫，泡沫有多大，但是 AI 的趋势已经形成了。就像二十多年前的互联网，即使有泡沫，即使泡沫碎了，互联网发展的趋势并没有受影响。如何看待这种趋势？个人觉得需要理性，这个趋势的形成，是由多种因素综合作用的结果，其中包含资本的助力，资本有其特点。
Mythos 的影响
根据 Anthropic 的文章，Mythos 可以发现漏洞并写利用，假设 Mythos 真的如我们所想的那么强，那么它对漏洞挖掘与利用行业的影响是什么？
N-Day 方面
由于目前只有厂商可以使用最新的模型，只有厂商可以用最新模型来挖掘漏洞，按照文章所说，在接下来的半年到一年内，列表中厂商的产品中会大量出现 N-Day，N-Day 也是资源，大家可以关注下会出现多少漏洞？都是什么类型的漏洞？有没有意料之外的漏洞类型？其中有多少漏洞可以利用？一方面，能实现利用的漏洞，实现利用。另一方面，也可以借此反推出 Mythos 的真实能力。
0-Day 方面
Mythos 开放之后，攻防最终会趋于平衡，这个平衡是工具应用层面的，即：你有这个工具，我也有这个工具，那决定攻防的还是工具之外的人。从这个角度看，后 Mythos 时代的 VR，0-Day 会更稀缺，价值会更高，有创造性的漏洞挖掘与利用人员会更抢手。
Mythos 之后的模型呢？我不确定 Mythos 之后的模型是什么样子，但是我认为这个世界上的所有东西都存在极限，我们的身体是有极限的，这点相对容易看到，我们的思想也存在极限，这个不容易看到，模型的能力不可能不受限，可能受限于资源，也可能受限与技术本身，写到这里我问了 AI 一个问题：氢弹可以点燃地球吗？
打好手里的牌
我们现在还没法使用 Mythos 模型，此时我们应该怎么办呢？一方面，如果有渠道可以使用这个模型，那就想办法用上这个模型。另一方面，如果没有渠道与资源去使用这个模型，就不要去想我或者我们怎么没法用这个模型，而是要想想如何打好自己手里的牌。Mythos 相对于现有的模型，强在面对开放的问题，可以找到真正的漏洞，误报少。我们手里的牌的特点是无法面对非常开放的问题还给出很好的结果，那如何打这张牌？那就是我们利用自己的大脑，将问题范围缩小，然后再交给手里的模型来解决。
在具体的场景中评估模型的能力
我们的工作涉及的内容主要包括：开发、逆向、漏洞挖掘、漏洞利用，领域就很多了，大的方向有：浏览器、用户空间、内核空间、基带、固件、硬件等。目前模型可以在开发、逆向、漏洞挖掘、漏洞利用都表现出一定的能力，但对我们工作的影响，还需要放到更具体的场景中来评估，以我目前正在进行的方向“审计 xnu 并提权”来看，不涉及逆向，几乎不涉及开发。挖掘部分，目前的难点在于：如何确定可以攻破各种防御措施的漏洞挖掘方向？这个方向，可能跟目前公开的方向有关联，但都不是原样照搬，在这点上，AI 几乎帮不上忙。但是如果换个具体场景，比如：kext 驱动的漏洞挖掘与利用，那 AI 就可以在逆向方面，极大的减少工作量，起很大的作用了，比如 DarkSword 内核漏洞的沙盒逃逸，社区中有人通过修改内核内存中的沙盒配置来实现逃逸，在这点上 AI 就非常有帮助，但这种帮助，不是在于提出了这种想法，而是在逆向方面，逆向清楚了，我们才会有这种想法，有这种想法后，AI 可以帮助我们实现利用。
漏洞挖掘中的创造性
绝大部分的创造性来源于细节，在这点上，AI 的帮助在于细节，如以前逆向难度很高问题，在 AI 的帮助下，可以相对简单的被解决，在 AI 帮助我们解决了细节问题后，更利于我们产生想法与创造性。
攻击与防守
上面的一些想法与观点都是基于攻击视角的，但是防守视角可能完全不同。在防守视角下，AI 可以发现一个空指针解引用对防守都是有价值的，因为防守视角需要从宏观的角度来评估一个工具的价值，如果从结果评估，没有工具可以阻止系统被攻破，那所有的工具都没有价值了。
概率模型与不确定性
大模型是基于概率的，代表着某种本质的不确定性，我不知道历史上哪次工业革命是由“不确定性”所主导的，信息论中有句话：概率越小，信息量越大，但这种不确定性是为了追求确定性，与大模型相比，二者明显不同。我们也常听到一句话，这个世界上唯一的确定性就是不确定性，大模型的大规模应用，也许预示着这个世界进入了某种更加充满不确定性的时代。
参考资料
- https://www.anthropic.com/glasswing
- 《写在VR行业大变迁前夕》
- https://github.com/wh1te4ever/darksword-kexploit-fun/blob/main/darksword-kexploit-fun/research/sandbox_research.h