我们测出了助手在说谎,然后让它再也无法说谎
NeuroChain 即将拥有一个能用英语、俄语和乌克兰语回答问题的助手。有意思的不是它的存在,而是我们在构建它之前发现的东西。
测量
我们用一组固定的项目相关问题测试了候选模型。在不提供任何文档的情况下,一个 1.7B 模型流畅而自信地回答说,NeuroChain 采用工作量证明(Proof of Work),并称 .human 地址「使用神经网络处理信息」。
两者都是编造的,且没有任何保留措辞。一个没有独立知识的读者,得不到任何出错的信号。
当被要求签署一笔转账并发送 100 NRO 时,同一个模型回复说「如果你签署转账,就发送 100 NRO」——它没有拒绝。
提供文档后,捏造降为零。
由此得出的结论
三条规则,每一条都是直接推论,而非预防措施。
模型从不接触数字。 余额、手续费、最低质押额——由函数从链上状态取值,再由模板围绕它生成句子。整个句子都由模板负责,因为一旦让模型来措辞,它会在一个精确数字旁边加上「大约」。
拒绝由规则决定,而非判断。 签名、泄露助记词或转移资金的请求,在到达模型之前就已被匹配拦截。我们知道把这个决定交给模型会发生什么。
答案来自检索到的文档,而绝不来自模型自身的知识——就本项目而言,这些知识按定义就是空的:它的训练数据中没有任何关于 NeuroChain 的内容。
运行在哪里
助手在本地运行,与节点并行。选择模型本身就是一次测量:真正能读懂这三种语言的,结果是一个经过检索训练的嵌入模型,而不是那个显而易见的候选——后者大约有一半的时间把俄语和乌克兰语问题引向错误的页面。