Geo创始人Yaniv Tal近日指出，当前AI答案的不可靠性根源在于互联网信息本身的结构性缺陷，而非模型设计问题。他归纳出四大信息缺陷：丢失溯源、扁平化权威、隐藏分歧以及重复模型生成错误。Tal认为，通过人类验证与社区治理，可以在不删除竞争观点的情况下，对可信推理进行排序，从而提升AI回答的可靠性。
Tal在接受采访时表示，互联网最初的设计目标是高效分发信息，而非保留信息的权威性、来源或问责机制。当网站不断抓取和转载内容时，关键上下文逐渐丢失，声明在多次传播后无法回溯至原始出处。同时，研究论文、公司公告与匿名论坛帖子以相同文本形式进入训练数据，模型难以区分不同证据标准，导致权威性扁平化。此外，语言模型常将冲突观点压缩为单一答案，隐藏了专家间的真实分歧，而AI生成的内容循环进入后续模型训练集，则使错误不断放大。2024年《自然》杂志的一项研究已证实，重复训练合成材料会导致“模型崩溃”，系统逐渐丧失原始数据分布信息。
为了解决上述问题，Tal领导的Geo项目提出了一套基于社区治理的知识网络方案。Geo将声明、来源和支持证据分离，在独立社区（Spaces）内建立结构化知识图谱。每个Space由编辑和成员共同治理，编辑通过投票获得权威，成员贡献信息。Tal指出，这种机制允许保留多个有竞争力的观点，并按评估强度排序，而非将所有内容混为一谈。“多元不意味着噪音，”Tal说，“几个结构良好的竞争视角往往更接近真相。”Geo基于Aragon OSx治理框架，并采用GRC-20标准将结构化知识上链，供子图检索。Tal强调，人类判断正成为稀缺输入，因为机器生成的内容远超人类处理能力，且几乎无人对其真实性负责。
然而，社区治理面临身份验证挑战。Sybil攻击可能让单一用户创建多个身份操纵投票或排名。Geo计划依赖贡献记录和领域特定社区，而非匿名内容。编辑需通过Spaces申请，成员参与管理。Tal认为，没有财务利益的“利益相关”能提升人们对自己署名内容的负责程度。独立Spaces的设计也防止单一机构控制所有领域，但如何选择编辑、应对协调攻击仍是待解问题。
Geo将加密领域列为首个应用Space，因为区块链活动天然具备可验证性。链上数据可确认交易是否发生，而围绕交易的声明、项目描述、预测等则需额外标注来源和贡献者。Tal表示，一个可信的知识层应区分可验证事实与主观声明，避免将两者混为一谈。美国国家标准与技术研究院（NIST）在2024年7月发布的生成式AI指南中，也建议记录训练数据来源、监控生成内容来源，并引入领域专家和人类评审。同时，内容来源真实性联盟（C2PA）的加密签名凭证可追溯数字资产来源，但标准本身不验证声明真伪，仅确保链接完整且未被篡改。