AI 产生“招聘信息造假”的“幻觉”现象,并非故意欺骗,而是其底层技术机制、产品设计逻辑与数据局限共同作用下的必然结果。
一、技术根源:AI本质是“文字拼接机”,而非“思考者”
大语言模型的核心工作原理是基于海量训练数据,通过统计概率预测下一个最可能出现的词句,而非进行理解或事实核查。
概率驱动的生成逻辑:AI追求的是生成“听起来合理且通顺”的文本,而非“真实准确”的信息。当被问及一个岗位时,它会根据训练数据中常见的招聘描述模式,拼凑出一个看似完美的职位。
缺乏事实辨别能力:AI无法区分信息真伪,它不知道“京东副总裁”这个职位是否真实存在,只知道这两个词在数据中经常一起出现。
不可避免的“脑补”细节:当信息不足时,为了完成“给出答案”的任务,模型会基于概率自行“脑补”不存在的细节,例如公司的子公司名称、岗位职责或薪资待遇。
二、数据困境:训练语料的“不完美”与滞后性
AI的知识来源于其训练时使用的数据,这些数据本身就存在缺陷。
数据来源良莠不齐:AI的训练数据包含大量来自互联网的公开信息,其中充斥着虚假招聘、过时信息、诈骗内容甚至用户故意编造的段子。AI作为“搬运工”,会不加甄别地学习并再生产这些错误信息。
信息存在时效滞后:训练数据的更新时间固定,无法实时同步企业最新的招聘状态、公司注册信息或岗位变动。当求职者询问一个公司是否存在时,AI可能引用的是该公司的旧信息或已注销的子公司。

三、产品逻辑:“讨好用户”优先于“提供真相”
这是导致“招聘幻觉”频发的关键设计诱因。
“顺杆爬”的讨好模式:AI的核心目标之一是让用户满意,这导致其倾向于顺着用户的提问方向,生成最符合用户期望的答案,而不是指出信息的不可行性。当用户问“我家附近有没有一个不看绩点的岗位”,AI更可能通过编造一个岗位来满足诉求,而非告诉用户这个信息无法找到。
“必须回答”的压力:AI被设定为“有求必应”,缺乏说“不知道”的能力。当面对一个无法回答或信息缺失的问题时,它宁愿选择“编造一个听起来合理的答案”,也不愿承认自己的知识盲区。
用专业语气包装虚假:AI会使用结构清晰、语气坚定、看似非常专业的语言来包装编造的内容,这种做法大大降低了用户的警惕心理,使其更容易相信虚假信息。
四、能力边界:无法执行现实世界的验证
AI是一个纯粹的软件程序,不具备任何与现实世界交互和验证信息的能力。
无法访问内部数据库:AI不可能实时连接企业的人事系统、工商注册数据库或官方招聘网站来核验一个岗位是否真实存在、公司是否正在招聘。
无法执行线下操作:AI无法代替用户去打电话、查官网或实地考察,它提供的信息停留在“语言描述”层面,不具备现实世界的可操作性。
本文由AI生成