光明网评论员：这条“禁令”深意何在 

【阅读提示】中小学人工智能通识教育有了指南

光明网评论员：近日，教育部基础教育教学指导委员会正式发布《中小学生成式人工智能使用指南（2025年版）》。《使用指南》提出，小学阶段禁止学生独自使用开放式内容生成功能，教师不得将生成式人工智能作为替代性教学主体。

在人工智能应用越来越普遍的当下，禁止小学生独自使用开放式内容生成功能这样的表述，在互联网上引发热议。开放式内容生成功能的使用门槛早已降低，如今许多人都在使用相关功能来提升日常工作效率，其中也包括中小学生，很多人在学习中用它来答疑解惑。

只不过，当前开放式内容生成功能存在诸多问题待解。《使用指南》的禁止性建议，不仅仅旨在防范学生因过度依赖生成式人工智能而弱化独立思考能力，还有更深层的考量。

值得关注的现象是，开放式内容生成功能目前饱受诟病，最核心的问题在于，人工智能所生成的内容并非百分之百准确。编撰臆造、断章取义乃至虚构新闻、杜撰文献和法律条文等情形的出现，使得人们通过人工智能获取到的结果未必都是真实的。“一本正经地胡说八道”，是许多人对当前开放式内容生成功能的观感和评价。面对人工智能提供的五花八门的生成内容，一部分成年人固然能够通过社会经验或行业经历来判断其可靠性，但小学生群体并不具备这样的能力。因此，教育部发布政策性指南文件，有其现实必要性。

开放式内容生成功能依托的是机器学习、深度学习等人工智能算法，对于信息内容来者不拒，这让一部分使用者可以通过大量灌输无意义内容，训练人工智能生成难以判断真假的信息，并“污染”其他用户的正常使用结果。譬如，一些社会机构开始盯上人工智能生成工具，生成虚假文章上传到多个网络平台，实现流量变现，以此进行牟利。报道称，最高峰一天能生成4000—7000篇。上述情形所制造的大量“信息垃圾”，不仅中小学生难以辨别，许多成年人同样招架不住，一定程度上造成了互联网内容更加鱼龙混杂。尽管“AI污染”是人工智能发展初期所必须经历的问题，但这也提醒我们，在人工智能适用人群足够广泛的当下，保护好认知能力尚弱的中小学生，尤为必要。

长远看，《使用指南》的发布，也对开放式生成内容行业提出了更高要求。《互联网信息服务深度合成管理规定》要求，智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。如何让生成式人工智能更具信息辨识能力，如何让开放式内容生成功能尽快走出“AI污染”的发展阶段，需要包括研发主体、使用主体在内的全社会一道，共同发力解决。