当黑灰产用上AI，金融反欺诈面临哪些新挑战？

8月11日，《中国中小微企业信贷黑灰产乱象与AI防控研究报告》发布会暨圆桌论坛在清华大学经济管理学院举行。

活动由清华大学经济管理学院中国金融研究中心、四川省反诈中心、新网银行、新华财经联合主办，同步线上直播。

清华大学经济管理学院教授陆瑶、四川省反诈中心副主任罗彦加、清华经管学院中国金融研究中心副主任庞家任、新网银行风险架构师陈少磊参与报告发布与圆桌讨论，围绕“当黑灰产用上AI：金融反欺诈面临哪些新挑战？”展开交流。

中小微企业信贷安全关乎普惠金融可持续

报告由上述四方共同编制，聚焦中小微企业信贷领域黑灰产乱象及AI防控应用。中小微企业是国民经济的重要组成部分，也是普惠金融重点服务对象。当前，职业背债、不法贷款中介、虚开发票骗贷、材料包装欺诈、关联企业骗贷五类手法较为典型，对金融市场秩序和中小微企业合法权益产生影响。

报告指出，随着AI技术门槛降低，黑灰产手法从单一诈骗向技术驱动的链条化模式演进，金融机构资产质量与普惠金融可持续发展均面临考验。

“黑灰产已从作坊式走向工业化，从单点攻击走向全链条协同。”陆瑶强调，金融行业必须加快从被动防御向主动治理转型。

技术门槛降低，治理面临新挑战

圆桌讨论中，专家认为生成式AI降低了造假成本，提升了虚假材料的仿真度，使传统反诈手段承压。

从一线办案实践看，当前AI深度参与电信网络诈骗的案例占比仍然较低，但涉及AI的新型手段已给取证、固证和跨区域协作带来实际困难。公安部今年推行的打击犯罪新机制——由案发地协调嫌疑人所在地同行完成调证、抓捕——在一定程度上缓解了跨区域办案压力。

庞家任分析，黑灰产产业化体现在组织和技术两个维度：组织上已形成流量获取、材料包装、贷款申请、资金转移等完整分工链条；技术上AI可低成本、大规模生成虚假文本、图片、音视频，甚至模拟真实经营场景。这意味着当前面对的已不是孤立案件，而是一个持续演化的生态系统，单点打击难以根治问题。从银行风控角度看，安全本质是成本问题——攻击成本降低，防御压力随之上升。

“大模型+小模型”协同，以AI对抗AI

中小微企业信贷场景下，AI防控面临数据时效不足、来源非标、碎片化等挑战，行业普遍存在“识人难、识团伙更难”的困境。报告提出构建“大模型为瞭望塔、小模型为压舱石”的防控体系，辅以人工复核，形成“技术+制度+生态”治理格局。

专家解释，大模型擅长处理非结构化数据，但成本高且有“幻觉”风险；小模型成本低、结果可控，二者结合可优势互补。在实践层面，已有银行探索两种结合模式：一是小模型精准判断、大模型补充；二是借助大模型优化工作流程，辅助风险经理自动构建指标、调整阈值。

针对中小银行资源有限的问题，专家建议将重点放在放贷员培训上，使用轻量化工具识别AI虚假材料，并通过警银协作共享信息。跨机构协同被视为AI反欺诈的关键突破口——模型决定技术水平，数据共享和协同机制决定体系高度。业内呼吁监管部门推动建立统一的风险信息基础设施，在保护隐私前提下实现智能化风险共享，不只停留在黑名单层面，而是通过AI发现潜在风险关系，提升识别精准度。

博弈趋势：短期承压，长期向好

对于AI是否加大反诈难度，专家普遍认为短期技术迭代快、打击压力增加，但长期治理机制和反制技术同样会迭代升级。无论技术如何变化，追查人员、资金和网络仍是核心手段。随着身份认证等基础机制逐步完善，黑灰产隐匿空间将进一步压缩。

嘉宾提醒普通群众，需持续了解新手法，警惕低风险高收益诱惑，注意识别“法务协商”“债务优化”等名义的欺诈行为。

与会嘉宾认为，面对黑灰产组织化、产业化和智能化趋势，金融反欺诈需进一步加强协同联动、数据共享和人机结合，推动风险治理从单点被动应对向系统主动防御转型。