青平：AI大模型产品既要“用起来”又要“管起来”

8月31日，包括商汤科技“商量”、百度“文心一言”、智谱AI“智谱清言”等在内的首批国产大模型产品获批面向用户开放服务，用户不需要内测邀请码即可直接体验相关服务。早前“只闻其声，不见其物”的国产大模型产品成功“飞入寻常百姓家”，这不仅标志着我国取得了在大模型和生成式AI方面的技术突破，更是拉开了国产大模型产品在应用层面的竞争序幕。而在庆祝国产大模型全民随时“用起来”之时，全面及时“管起来”也应成为这一阶段发展国产大模型产品的重中之重。

今年2月，美国“开放人工智能研发中心”研发的聊天机器人程序ChatGPT几乎在一夜之间就刷爆了网络：它可以和人聊天，能够辅助写论文、创造诗歌、制作商业方案甚至是写代码等。ChatGPT在仅推出两个月后，用户就已达到1个亿。

随着以ChatGPT为代表的AI大模型产品的火爆，本应只是“辅助工具”的大模型产品却变成了“写手”和“作弊工具”，而高等教育领域更成为利用大模型产品“作弊”的重灾区。大批高校学生使用大模型产品完成课程作业、期末作业甚至直接用其生成毕业论文，让人瞠目结舌。虽然长期使用AI大模型会降低人的思考能力、增加使用者思考惰性的论断还有待探讨，但利用大模型产品“偷懒”，完成作业、代写论文完成“弯道超车”却会导致学术不公平现象的产生，也与高校的教育初衷相违背。8月28日，学位法草案提请十四届全国人大常委会第五次会议初审，草案对学位获得者利用人工智能代写学位论文等行为明确了相应的法律责任。面对高歌猛进、势不可挡的人工智能技术，学位法草案明确滥用人工智能代写论文等行为的不正当性，及时规避AI大模型产品产生的负面风险。

在互联网+诊疗领域，也出现了利用AI大模型产品自动生成处方的乱象。在8月21日，北京市卫健委日前牵头组织制定了《北京市互联网诊疗监管实施办法（试行）》，要求医疗机构开展互联网诊疗活动要加强药品管理，严禁使用人工智能等自动生成处方，严禁在处方开具前向患者提供药品。《办法》指出，医疗机构应当对开展互联网诊疗活动的医务人员进行实名认证，确保医务人员具备合法资质。医师接诊前需进行实名认证，确保由本人提供诊疗服务。其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。

在8月15日起实施的《生成式人工智能服务管理暂行办法》中可以看到，企业利用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。这种备案制的方式将有助于加强对AI大模型的技术监管与数据治理，保障数据安全和隐私保护，防范潜在的风险或问题。它不仅释放出了积极营造AI大模型产品发展空间的积极信号，也是监管部门对人工智能技术及时监管的体现。

AI大模型技术代表着未来社会的无限可能，它将为社会各界创造出巨大社会价值毋庸置疑。而如何使大模型产品用到实处、真正服务于用户，不仅要要求大模型技术公司在技术层面上实现突破，更需要有关部门和大模型技术公司关注它本身所具有的局限性问题，以及不规范使用后会引发的社会危害。让管理和规范紧跟“用起来”的步伐，才能让AI大模型产品健康发展。