离开零下42度故乡的小镇做题家 回国创业专治AI说谎、出幻觉

四月的杭州，芳菲满天。

韩蒙却无暇赏春。这位80年代末出生在东北边陲小镇的创业者，正带领他的“君同未来”埋头做一件少有人做、却越来越重要的事：专治AI说谎、出幻觉，让AI更可靠地“干活”。

听起来或许有些抽象，不妨看两个真实案例：一是“当大模型成为生鲜电商的敌人”，一些消费者在网上买了水果，然后用AI工具生成以假乱真的“坏果图”去申请“仅退款”；二是近日登上热搜的“小龙虾”桌面智能体不断出现自作主张删除本机文件并把密码发送给服务器的情况。

韩蒙公司的产品，能检测和识别图像、视频、音频、文本等多种形态的生成内容，帮助企业判断：这张“坏果图”到底是不是AI生成的？那个本应来帮我们干活的“小龙虾”有没有批量删除文件、传输密码的风险意图或行为？

凭借这样的刚需，“君同未来”刚成立就获得了数千万元的融资，不到两年已实现盈利，服务客户包括工信部、公安部下属机构，以及字节跳动、海康威视、蚂蚁集团、太平洋保险等头部企业，在AI风险评测与可信增强这条赛道上填补了国内工具链的空白。

而这一切的起点，得从北纬50度的极寒记忆说起。

从边陲小镇出发

韩蒙出生于大兴安岭，中国最北端的一个小镇，名字还有点拗口：加格达奇。在这里，一年之始是漫长的冬季，气温常低至零下42摄氏度。小时候父母经常对他说的一句话是：“别（biè）出去，不然一下子就冻透了”。

韩蒙的母亲是老师，父亲是公务员，他是典型的小镇做题家。高中就读于省重点中学，大学考上了黑龙江大学计算机学院与软件学院共建的拔尖实验班，硕士师从国内海量数据计算领域的泰斗级人物李建中教授。

硕士毕业后，他远渡重洋，先后在佐治亚州立大学和佐治亚理工学院深造，最终获得计算机科学博士学位与工商管理学硕士学位。

2017年，而立之年的韩蒙选择到肯尼索州立大学任教，并组建了自己的研究组。那一年，人工智能灰暗的前景因为AlphaGo的出现照进了一缕阳光。在乌镇，世界排名第一的中国棋手柯洁被AlphaGo“斩落”马下，留下遗憾的泪水。

与此同时，一篇名为《愚弄深度神经网络的单像素攻击》（《Onepixelattackforfoolingdeepneuralnetworks》）的论文也抓住了韩蒙等该领域研究者的内心，“它核心讲的是模型的认知可能会因为一个像素这样微小的变化得出与人类认知完全相反的结果。”

韩蒙判断，随着AI能力的进一步提升，这种“牵一发动全身”的风险会越来越大。AI出错对应的正是能提供对应产品公司的机会。

几回魂梦与君同

2020年前后，韩蒙的人生迎来了家庭和事业的双丰收，孩子出生并随后获得了终身教职。但没过多久，他就决定回国。

这一决定和当年出现的关键变量有关。那年，还名不见经传的OpenAI发布了GPT-3，它拥有1750亿参数，已经展现出AI进行通用推理的巨大潜力。

“当时太兴奋了，几乎每节课都在给学生讲。”韩蒙这样形容当时的心情。随后，一颗想要自己做点什么的火苗在他心中升起，超越于互联网时代的智能化时代就在眼前，“那种‘不想缺席’的感觉越来越强烈——想要参与进去，做点什么。”

回国后，韩蒙与另一位国内的学者林昶廷正式合伙创业，林昶廷是浙江大学计算机科学与技术博士、网络空间安全博士后。

2024年6月，公司正式注册成立。名字出自宋代知名词人晏几道的《鹧鸪天》：“从别后，忆相逢，几回魂梦与君同。”在美国10多年，韩蒙的乡愁与日俱增，“有几次做梦也梦到回家。‘君同’两个字就这么来了。”

英文名GenTel则是一语双关：既是“绅士的”（Gentle），也是GeneratedIntelligence（生成智能）的简写。“像给孩子起名一样认真。”韩蒙笑着说。

做AI的“好医生”

关于“君同未来”做什么，其实牵扯到人工智能发展的两大流派。

当前主流大模型基于连接主义，在感知与生成能力上取得突破，本质仍是基于数据驱动的概率系统。但连接主义面临着一个核心问题：它只是“看起来对”，不可解释，也不能确定，无法保证逻辑一致性（典型就是幻觉）。

相比之下，符号主义天然支持因果推理、规则推理、规划，这两者结合可以让模型从“像人说话”升级为“像人思考”，从而可以支撑金融、医疗、法律的复杂且不容有错的严肃决策。

“我们做的，就是用符号学派的工具给AI做评测和校正，推着它从概率智能，一步步走向可验证、可解释、可信赖的智能系统。”韩蒙说。

从韩蒙团队这些年的客户来看，即便是国内头部的大模型，在使用过程中也会面临各种风险，最常见的是合规、幻觉、侵权等。

所以，他们研发了面向企业生产应用级的AI信任体系，在大模型风险评测、可信增强与防护管控领域，攻克了形式化难、意图识别以及幻觉缓解等相关的多个关键难题。

两套系统“君合”与“君盾”，通俗点来说，它们是AI的“体检医生”，还能针对性地开方治病，甚至治未病，让大家更好地使用AI。“就像医生一样，提前发现身体的疾病信号。”

• 1
• 2
• 下一页
• 全文阅读