标题
  • 标题
  • 作者
  • 关键词

教育领域通用大模型应用伦理风险的表征、成因与治理

2024-04-20分类号:G434

【作者】吴河江   吴砥
【部门】华中师范大学教育部教育信息化战略研究基地﹝华中﹞  
【摘要】通用大模型具备“能理解会创作”的能力,将可能给教育实践带来更为颠覆性的变革,但也可能加剧传统伦理问题并产生新的伦理风险。这些伦理风险的类型主要包括:技术风险、内容风险、数据风险与算法风险。依据通用大模型的技术基础与教育应用伦理风险的表现,教育领域通用大模型应用伦理风险具有客观性与主观性并存、价值性与风险性并存、可控性与不确定性并存等特征。这些伦理风险的形成既有技术因素,也有人的因素。技术因素主要包括:模型能力的涌现性可能导致应用失控、功能的泛化性可能导致人的异化、输入数据的海量性与无序性可能导致对人的侵犯、内容的生成性可能导致教育失序等。人的因素主要包括:因技术水平有限导致我国缺少自主知识产权的教育大模型、对通用大模型技术认知不足、商业竞争导致技术缺陷、通用大模型技术伦理规范与监管落后等。依据教育领域通用大模型应用伦理风险表征与成因分析,可从加快开发我国自主知识产权的教育专用大模型、筑牢通用大模型开发与应用的监管体系、构建通用大模型相适配的教育新形态、扶持弱势群体以缩小“数字鸿沟”、加强对通用大模型的理论研究与知识普及等方面进行伦理风险治理。
【关键词】通用大模型  技术伦理  ChatGPT  教育理论  未来教育
【基金】2022年度教育部哲学社会科学研究重大课题攻关项目“教育数字化转型的国际比较研究”(22JZD045)
【所属期刊栏目】清华大学教育研究
文献传递