摘 要：人工智能教育治理是世界各国教育面临的共同议题。厘清人工智能给教育带来的潜在风险，制定国际人工智能教育治理的政策规划，探明推动人工智能教育治理国际合作的创新路径，有助于促进人工智能技术全方位赋能教育，推动人工智能教育治理学术共同体构建。2023年11月，在首届人工智能安全峰会上，来自中国、美国、欧盟等28个国家和国际组织的代表，共同签署了《布莱奇利宣言》，这也是全球第一份针对人工智能技术的国际性声明。采用文本分析和内容分析法对该宣言出台的政策背景和研究目的进行分析，从人本主义批判视角着重探究国际人工智能教育治理的政策规划，并反思其对我国人工智能教育治理创新路径的启示：构建开放且透明的人工智能教育治理体系、建立动态化的人工智能教育治理监管机制、推动人工智能教育治理国际合作多边机制、提升人工智能赋能教育安全风险预判能力，以及秉持共同、综合、合作、可持续的安全观，以期加速我国人工智能教育治理现代化，为国际人工智能教育治理总体规划的制定贡献中国方案。
关键词：ChatGPT；生成式人工智能；人工智能安全；教育治理；人工智能教育
中图分类号：G434
文献标志码：A
文章编号：1673-8454(2024)03-0043-09
作者简介：兰国帅，河南大学教育学部副教授、硕士生导师，博士后(河南开封 475004);杜水莲、肖琪、宋帆，河南大学教育学部硕士研究生(河南开封 475004);蔡帆帆，通讯作者，温州职业技术学院瑞安学院助理研究员，硕士(浙江温州 325207)
基金项目：2023年浙江省教育厅科研资助项目“高职院校教师数字能力评估及优化路径研究”(编号：Y202352084);2023年河南省软科学研究计划项目“‘互联网+教育’推进河南县域义务教育优质均衡发展的机制与路径研究”(编号：232400410019);2024年河南省高等学校重点科研项目资助计划“河南省高校教师数字化转型能力框架构建及提升路径研究”(编号：24A880003)
一、问题提出
随着人工智能技术的飞速发展与广泛应用，教育领域进入新的技术变革时期。人工智能作为引领教育创新的内生力量，在为教育赋能的同时也衍生出一系列不容忽视的教育风险，如数字贫困加剧、未经同意使用内容、模型输出无法解释、人工智能生成的内容污染互联网、产生更深层次的深度造假等问题，需要更加审慎地看待人工智能技术教育应用的限度[1]。在人工智能与教育治理深度融合方面，理论层面存在顶层设计缺乏、监管框架缺位、政策框架缺失等问题;实践层面缺少相对科学完善的应用指南、监管认证工具、创新实施方法和行动措施，严重削弱了人工智能技术全方位赋能教育数字化转型的能力，制约着人工智能技术与教育治理实践的深度融合。因此在人工智能与教育相互融合的进程中，科学治理尤为关键[2]，加强人工智能的教育安全治理已成为维护世界安全与稳定的迫切需求。
人工智能教育治理是当今世界各国关注的焦点。中国是人工智能技术创新与应用领域的领先者之一，对国际人工智能教育治理作出了重要贡献。2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。之后国家科技伦理委员会正式成立。2021年，该专业委员会又发布《新一代人工智能伦理规范》，标志着我国已初步形成人工智能治理的总体价值指引[3]。2023年，我国出台《全球人工智能治理倡议》，提出要加强全球人工智能治理，促进合作共赢，确保安全可控，防止偏见歧视。目前，我国人工智能教育应用研究理论层面仍存在监管框架缺位、监管措施不足等诸多现实问题[4]。
国内学术界对人工智能教育治理也开展了深刻讨论和前沿探索，聚焦人工智能教育应用中的伦理规范建设、治理模式变革、政策框架架构、治理路径提出等方面[5-8]，形成丰富的认识视角和治理思路[9]。然而，我国人工智能教育安全治理在国内和国际层面上仍面临双重困境：国内困境主要包括数据隐私暴露、伦理规范缺位、法律法规缺失等方面的挑战;国际困境主要包括技术竞争激烈、标准制定滞后、国际合作缺乏等方面的难题[10]。为加速我国人工智能教育治理和教育数字化转型进程，亟需了解国际前沿人工智能教育治理的政策规划，在顶层制度设计和宏观战略规划两个层面，统筹制定符合我国人工智能教育安全治理的政策总体规划，保障更健康的人工智能教育发展，为国际人工智能教育治理贡献中国方案和中国智慧。
值此关键节点，首届人工智能安全峰会于2023年11月1日至2日在英国布莱奇利园举行，来自中国、美国、欧盟等28个国家和国际组织的代表，共同签署了《布莱奇利宣言》(The Bletchley Declaration，以下简称《宣言》)[11]。《宣言》强调了以人为本的人工智能发展理念，呼吁各国科研机构、企业等在人工智能设计、开发和使用过程中，始终以人的福祉为出发点和落脚点，确保人工智能技术为人类带来实实在在的利益。同时，《宣言》也警示了人工智能发展过程中可能带来的伤害，要求各方通过建立健全法律法规等手段，防范和化解相关风险。
本研究采用文本分析和内容分析法，介绍了《宣言》的发布背景和研究目的，从人本主义批判视角着重探究国际人工智能教育治理的政策规划，思考我国前沿人工智能教育治理的创新路径，以期为我国加速人工智能教育治理和教育数字化转型，推进前沿人工智能与教育深度融合提供实践参考。
二、国际人工智能教育治理的政策规划
人工智能教育治理攸关全人类命运，是世界各国面临的共同议题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在遵守相互尊重、平等互利原则的基础上，鼓励各方协同共治，增强发展中国家在人工智能教育全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。基于此，首届人工智能安全峰会发布《宣言》，提出了国际人工智能教育治理的政策规划(见图1)。
图1 国际人工智能教育治理的政策规划
(一)采取行动在全球范围内安全发展人工智能教育
1.以负责任且安全的方式设计和开发人工智能教育
人工智能为全球发展带来了巨大机遇，人工智能技术应用于教育领域，可以帮助教师调整教学策略，优化教育教学流程，提高教育教学效果，还可以帮助培养学生的智能思维，提高学生的创造力、协作能力、沟通能力、批判性思维等智能素养。人工智能教育应用潜力无限，然而人工智能技术的快速发展和迭代更新也给人工智能教育治理带来一系列挑战。为应对这些挑战，保障公民利益，一方面，要以更加安全的方式设计、开发、部署和使用人工智能，培养公众对人工智能教育系统的信任，以充分发挥人工智能的潜力;另一方面，要倡导国际社会加强在人工智能教育治理方面的合作，以促进人工智能和教育的深度融合，推动人工智能教育应用健康、可持续发展。
2.遵循以人为本的行动理念发展人工智能教育
人工智能系统已在日常生活的许多领域应用，其在教育领域的应用更是越来越广泛。因此，必须认识到采取行动确保人工智能教育应用安全发展的必要性，精准把握人工智能带来的教育变革机会，以便在全球范围内以更加包容的方式推动教育发展，促进联合国可持续发展目标的实现。同时，只有通过立即采取行动在全球范围内安全发展人工智能，才能确保人工智能教育应用安全、稳定、公正地发展。
3.解决人工智能带来的重大教育风险必要且迫切
人工智能在给教育领域带来机遇的同时，也带来了诸多风险和挑战。为此，亟需作出相关努力，在现有论坛和其他相关举措中审查和解决人工智能系统的潜在影响，并认识到解决人工智能的透明度、公平性、问责制、包容性、隐私泄露、人权保护等问题的迫切性。此外，在教育教学中，人工智能操纵内容或生成欺骗性内容的能力也可能会带来不可预见的风险，因此解决人工智能带来的重大风险必要且迫切。
4.加深对人工智能赋能教育潜在风险及应对行动的理解
前沿人工智能的应用可能会出现特殊风险，例如能力强大的通用人工智能模型(包括基础模型)，可以执行各种各样的任务，但在执行任务的过程中狭义的人工智能可能存在造成伤害的风险。此外，潜在的故意滥用或与人类意图相关的意外控制也可能会产生重大风险。在教育领域中，这些潜在风险可能会对教育教学产生不可估量的恶劣影响。然而，这些问题的产生在一定程度上是因为人们对人工智能造成伤害的能力没有充分理解。因此，我们不仅需要关注人工智能教育应用的网络安全问题，还需要预防前沿人工智能教育系统可能存在的放大虚假信息等风险。无论是故意的还是无意的，人工智能模型都可能会造成严重甚至灾难性的伤害。在技术投资加速的背景下，鉴于人工智能技术变化速度飞快且难以确定，加深对人工智能教育应用潜在风险的理解并采取行动应对这些风险尤为紧迫。
(二)以包容的国际合作应对人工智能教育风险
1.加强国际合作应对人工智能教育应用的相关风险
人工智能带来的许多教育风险本质上是国际性的，因此最好通过国际合作解决。为应对人工智能带来的教育风险，各国需以包容的方式共同努力，确保以人为本、值得信赖和负责任的教育人工智能可持续发展，并通过现有的国际论坛和其他相关举措促进国际合作。在此过程中，各国应考虑适度治理和实施监管措施的重要性，以及人工智能在教育应用中的相关风险，根据国情和适用的法律框架对前沿人工智能教育应用最有可能出现的风险进行分类，如人际疏离、技术滥用、个人隐私泄露、人工智能偏见等，并通过现有国际论坛和其他相关举措，包括未来的国际人工智能安全峰会，加强和维持与其他国家的合作，并扩大合作范围，以包容的国际合作解决人工智能教育风险。
2.充分发挥各利益攸关者在确保人工智能教育安全方面的作用
国家、企业、社会组织机构和学术界等领域的参与者都可在确保人工智能教育安全方面发挥作用。例如，对人工智能技术应用于教育所产生的伦理风险，各国政府、非政府组织以及个体都应参与到解决过程中，协作配合，共同治理，通过商谈达成道德共识，制定相应的研发与使用规章，确立促进人工智能教育健康发展的伦理原则[12]。此外，应认识到更具包容性的人工智能和弥合数字鸿沟的重要性，重申国际合作应努力让更多的合作伙伴参与，鼓励提出有助于发展中国家加强人工智能能力建设的发展导向、方法和政策，并利用人工智能的促进作用，支持可持续发展和缩小发展差距。
3.前沿人工智能开发者对确保人工智能教育安全负有重大责任
人工智能技术应用于教育，必须在整个人工智能生命周期中确保那些强大且具有潜在危害的人工智能教育系统的安全性，尤其是前沿人工智能的开发者，对确保这些人工智能教育系统的安全负有重大责任，可以通过安全测试系统、评估系统和其他适当措施来保障人工智能教育应用的安全。同时，鼓励所有参与者在其计划中提供适当的透明度和问责制度，以衡量、监测和减轻人工智能在教育应用中的潜在危害和可能出现的相关影响。此外，教育机构需与生成式人工智能的研发企业在伦理原则和法律底线上达成共识，积极寻求并听取参与人工智能教育安全风险讨论的利益攸关者和专家群体的意见，促进人工智能研究人员、决策者和其他利益攸关者之间的跨学科对话，构建伦理准则，确保人工智能技术造福社会[13]。
(三)建立国际前沿人工智能教育安全科研合作网络
1.确定共同关注的风险，以制定基于各国国情的治理政策并酌情开展合作
在采用更广泛的全球方法来理解人工智能对社会影响的背景下，识别各国共同关注的人工智能教育风险，建立对这些风险的科学和基于证据的共同理解至关重要。针对已知风险，各国应制定相匹配的政策，以确保人工智能教育治理的安全开展，并积极开展国际合作。同时各国应认识到采用的方法可能因国情和适用的法律框架而不同，具体方法包括提高私营开发者开发的人工智能教育应用的算法透明度、研制适当的评估指标、建设安全测试工具，以及发展人工智能教育治理能力和进行科学研究。
2.建立包容性的国际前沿人工智能教育安全科研网络，以提供最佳的科学证据
人工智能在教育领域的应用刚刚起步，许多风险都很难评估。然而，如果等到人工智能教育的安全隐患明显出现或者爆发，才去制定相关教育治理规则，那么人类会为此付出惨重的代价。国际社会有必要对人工智能进行严密而谨慎地审视，人工智能教育治理规则的制定也必须要有一定的弹性，以便随时根据实际情况进行调整。为推进这一议程，可建立一个具有国际包容性的前沿人工智能安全教育科学研究网络，通过现有的国际论坛和其他相关举措，为政策制定和维护公共利益提供最佳科学依据。
3.开展包容性的全球对话，以推动前沿人工智能教育国际讨论和安全研究
人工智能教育安全治理要达成全球性共识还面临不少挑战，各国由于国情、发展的差异，在人工智能教育安全治理方面存在不同的利益诉求。当前，人工智能教育安全领域在原则和伦理层面比较容易达成共识，但在技术规范、治理标准等具体领域难度较大。但无论如何，国际社会保持开展包容性的全球对话、参与现有的国际论坛和其他相关举措，推动广泛的前沿人工智能教育国际讨论和安全研究，均有助于全球人工智能教育治理在发展和安全之间求取最大的平衡，以确保各国能够负责任地利用人工智能技术造福人类。
三、我国人工智能教育治理的创新路径
(一)构建开放且透明的人工智能教育治理体系，促进人工智能教育健康持续发展
随着人工智能技术的快速发展和广泛应用，人工智能教育治理已成为各国共同关注的热点问题。数字时代，确保人工智能安全、透明和负责任地使用成为一项紧迫任务。在这一背景下，我国亟需采取一系列积极措施，构建一个更加开放透明的人工智能教育治理体系，促进人工智能技术健康可持续发展，为社会创造更多的福祉。
首先，需要根据人工智能教育治理的国际标准，制定符合我国实际的人工智能教育治理相关标准，以适应和引导人工智能技术的健康发展[14]。针对人工智能技术的国际治理，加强国际合作，根据人工智能技术的最新发展，结合人工智能技术应用过程中已经出现或潜在的、可预测的问题及风险，修订人工智能教育治理相关国际标准，以使我国的人工智能教育治理体系更加开放透明且符合现实情况。
其次，政府部门需要加快构建人工智能教育技术的监管框架。一方面，人工智能教育安全风险的治理，既要从技术设计研发的源头入手，又要在技术的运用过程中科学研判，并及时解决出现的问题[15]。因此，政府部门要在安全、开放、透明等伦理原则的基础上，重视对人工智能前端开发者资质和行为的审核，并要求其构建数据风险评估认证机制，以提高风险防范能力。另一方面，要在实践层面加强数据安全治理，例如在人机交互过程中涉及用户个人信息时，需要提前告知当事主体并取得同意。
最后，需逐步建立和完善专门针对人工智能教育治理的法律法规。随着人工智能技术应用的越来越广泛，其蕴含的风险问题也逐渐显露。因此，迫切需要制定并实施专门针对人工智能教育治理的法律法规[16]，加强教育领域标准规范、教育信息数据开放共享、数据算法监管问责等课题研究，逐步形成和完善教育治理体系，以实现对人工智能法律风险的源头治理，促进人工智能技术健康可持续发展和广泛应用[17]。
(二)建立动态化的人工智能教育治理监管机制，确保人工智能技术研发的安全性
人工智能技术正以前所未有的速度和规模重塑着教育生态系统，人工智能在教育领域中的应用，不可避免地会出现算法歧视与偏见、教育透明度下降、教育不确定性扩大等问题，这将打破技术创新与安全管控之间的平衡，给监管提出前所未有的挑战。因此，亟需建立动态化的人工智能教育治理监管机制，确保人工智能技术研发的安全性，推动人工智能教育安全治理有序进行。
首先，实施动态的风险监测机制。人工智能技术在教育领域的创新应用究竟会产生何种类型或何种程度的风险并不清楚，只是在其应用过程中探索治理方法难以在事前作出明确的制度安排。因此，需将人工智能教育风险治理的视角从“预测”转向持续“监测”，监管机制从“结果”转向“过程—结果”[18]，并设立独立的监管机构，明确其职责范围和任务[19]。
其次，注重伦理风险的源头治理。人工智能教育治理需秉承技术赋能治理的理念，以“合规科技”推动监管的高效落实，以“赋能科技”补充或替代执行面向全链条、全过程的治理。具体而言，应将人工智能伦理原则作为基准，推动研究人员在生成式人工智能研发过程中主动设计，从技术研发前端介入，确保人工智能技术研发的安全性[20]。
最后，加强偏见问题监测和歧视问题治理。对于偏见问题监测，可从数据选取、比例修正、精度调查等方面及时干预，同时也要检查算法特定偏见、系统性忽视、模型测试等问题，进行偏见问题的及时规避[21];对于歧视问题治理，要综合多种措施和标准进行约束，如通过社会实验、企业预估、师生参与协同守护教育公平，构建多主体、多学科的综合多元评价标准，同时利用技术赋能加强监测、建立优化机制，以及坚持学生主体的事前、事中、事后算法治理[22]。
(三)推动人工智能教育治理国际合作多边机制，共同应对跨国界的人工智能挑战
人工智能技术的快速发展为教育领域带来新的安全挑战，加强人工智能教育治理国际合作多边机制建设成为当务之急。由于人工智能教育引发风险的世界波及性、影响的地区不均衡性、伦理标准的区域差异性和危害预测的知识不充分性，有必要构建多边、民主、透明的人工智能教育全球治理体系，推动人工智能教育治理多边合作，共同应对跨国界的人工智能教育安全挑战。
首先，推动人工智能教育治理国际合作。一方面，应同各国尤其是技术大国共同制定适用于人工智能教育的国际准则和标准，以确保人工智能技术安全、可靠和负责任地开发和应用。另一方面，加强本国监管和监督机制，在加强国内立法，制定相关法律法规以保障人工智能的道德、隐私和安全的同时，也应在国际层面推动信息共享和情报合作，以便及时发现和应对潜在的安全漏洞[23]。
其次，在借鉴和吸收欧盟、美国等人工智能教育安全治理制度经验的基础上，将加强对人工智能教育的监管纳入国家数字化战略，充分发挥我国人工智能教育领域的技术优势，逐步实现我国人工智能教育领域的国际化。同时，应秉持开放的理念构建人工智能时代的命运共同体[24]。如积极广泛地参与联合国教科文组织在教育、文化、科学等平台的合作，联手制定人工智能监管规范，维护公平竞争的国际市场环境，为人工智能监管发出中国声音。
最后，加强国内人工智能教育技术研发和创新，提升自主可控能力，积极参与人工智能教育国际治理，确保核心技术和关键资源安全的同时，建立完善的人工智能教育风险评估和监测机制，及时发现和应对潜在的安全风险。通过建立国际合作平台和共享机制，增进与其他国家的交流合作，共同应对跨国界的人工智能教育安全挑战[25]。
(四)提升人工智能赋能教育安全风险预判能力，保障人工智能教育安全有效治理
作为第四次工业革命基石的人工智能技术，在当今时代蓬勃发展并广泛应用于社会的各个领域，但其应用也引发了伦理风险、隐私泄露、数据安全等一系列治理难题，成为世界各国热议的话题。深入研究数字技术发展趋势及潜力，探索智能环境下教育教学的新理论、新技术和新模式显得尤为迫切[26]。为此，我国应把握人工智能技术应用产生的各类风险，研判应对这些挑战的最佳方式，提升技术安全风险预判能力，进而对人工智能未来发展趋势有更加清醒的认识。
首先，面对人工智能技术对教育产生的安全威胁，应采取积极应对的态度，秉持“早发现、早治疗、早升级”的理念，促进人工智能教育的良序发展。可建设具有国家战略高度的人工智能教育风险防控系统或成立实体研究机构，切实加强人工智能教育安全应用平台建设和人工智能学科专业建设与人才培养，形成以政府为主导、企业为主体、市场为导向的产学研相结合的模式。
其次，明确多主体权责，建立技术研发、应用实践等全流程问责机制。在这个过程中，充分发挥社会、政府、学校等多元支持联盟的协同力量，围绕算法规则、数据标准、安全机制等内核，持续提升协同治理能力。例如，联动政府决策功能，预判人工智能技术对教育生态变革的影响趋势。同时，结合不同区域的学校特色，建立“技术解锁学习—网络升级学习—改革重塑学习—动机激发学习”的一体化治理体制[27]。
最后，提升人工智能教育规范化程度，构建人工智能治理体系。互联网数据良莠不齐，为提高人工智能技术的公正、透明和可控性，我国应积极发展面向人工智能的教育治理科技，形成以“人工智能治理人工智能，以代码约束代码”的教育治理体系[28]。当监测到有误信息或不当言论时，代码能自动拦截，使虚假信息还未产出就被拦截，从而提升人工智能教育信息的准确性。
(五)秉持共同、综合、合作、可持续的安全观，实现全球人工智能教育协同治理
随着新一代人工智能在教育领域的广泛运用，其技术不足与局限产生的负面效应也逐渐显现。尽管国内现行的法律法规在规避人工智能风险的过程中起到了一定的积极作用，但在现有立法策略之下，人工智能教育安全治理仍面临诸多问题，亟需寻求多方参与，实现全球人工智能教育协同治理。
首先，我国应秉持共同、综合、合作、可持续的全球安全观，贯彻人类命运共同体理念，摒弃强权霸道逻辑，摆脱意识形态偏见，最大限度地增强合作机制、理念、政策的开放性和包容性，构建人工智能教育全球治理的负责任格局;推动共治共享，创建人工智能教育治理多方参与的开放性平台，通过跨学科、跨领域、跨地区、跨国界的交流合作，鼓励相关各方遵循基本科技伦理，把进步的价值取向嵌入人工智能教育治理模型，形成人工智能向善的力量，推动人工智能教育治理的最佳实践，促成各方积极参与、共治共享的良好局面[29]。
其次，要促进人工智能教育的综合治理。人工智能技术的全球性特征，决定了其安全问题需要各国共同应对。在治理过程中，要发挥各国政府组织的引领作用，促进各国政府、企业、学术界共同参与，形成综合性的教育治理体系。一方面，应关注政府组织与技术之间的良性协同，加强同各国在数据处理、人才培养、权利保护、准则制定等方面的战略合作，推动实现人工智能技术的健康发展;另一方面，搭建让每个国家都可以平等对话发声的平台，在构建人类命运共同体理念的指引下，发挥负责任大国的作用，与国际社会共同营造开放、公平、公正、非歧视的人工智能教育发展环境[30]。
最后，加强人工智能教育治理监管国际合作，积极开展国际联合研究，共同攻克技术难题，建立国际合作组织或平台，并借助这些组织或平台来保障人工智能技术决策和算法的透明性、可追溯性，防范人工智能技术壁垒、不公平竞争，以及人工智能滥用对人类尊严、平等和自由权造成的损害，从而筑牢人工智能安全屏障，为构建人类命运共同体作出更大的贡献[31]。
注释：本文部分内容来自The Bletchley Declaration，报告网址： https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
参考文献：
[1]李金臻,夏金星,江山.人工智能教育应用失范审视及消解策略研究[J].中国教育信息化,2023,29(12):26-33.
[2]李世瑾,王成龙,顾小清.人工智能教育治理：逻辑机理与实践进路[J].华东师范大学学报(教育科学版),2022,40(9):55-66.
[3]董汀,黄智尧.人工智能国际治理与“不确定性”[J].信息安全与通信保密,2023(8):10-22.
[4]兰国帅,杜水莲,宋帆,等.生成式人工智能教育的工作机理及监管框架构建研究[J/OL].西北工业大学学报(社会科学版),[2024-02-04].http://kns.cnki.net/kcms/detail/61.1352.C.20231222.1504.006.html.
[5][12]罗生全,谭爱丽,钟奕军.人工智能教育应用中的伦理风险及其规避[J].中国教育科学,2023,6(2):79-88.
[6]王佑镁,王旦,梁炜怡,等.敏捷治理：教育人工智能伦理治理新模式[J].电化教育研究,2023,44(7):21-28.
[7]卢迪,段世飞,胡科,等.人工智能教育的全球治理：框架、挑战与变革[J].远程教育杂志,2020,38(6):3-12.
[8]冯雨奂.ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径[J].思想理论教育,2023(4):26-32.
[9]龙坤,徐能武.人工智能军事应用的国际安全风险与治理路径[J].国际展望,2022,14(5):123-141,165-166.
[10]朱荣生,冯紫雯,陈琪,等.人工智能的国际安全挑战及其治理[J].中国科技论坛,2023(3):160-167,179.
[11]UK.The Bletchley Declaration[EB/OL]. (2023-11-02)[2023-11-11]. https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023.
[13]张黎,周霖,赵磊磊.生成式人工智能教育应用风险及其规避——基于教育主体性视角[J].开放教育研究,2023,29(5):47-53.
[14]周慎,朱旭峰,梁正.全球可持续发展视域下的人工智能国际治理[J].中国科技论坛,2022(9):163-169.
[15][30]容志,任晨宇.人工智能的社会安全风险及其治理路径[J/OL].广州大学学报(社会科学版),[2023-11-14].http://kns.cnki.net/kcms/detail/44.1545.C.20231027.1043.004.html.
[16]毕文轩.生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角[J].比较法研究,2023(3):155-172.
[17]陈磊,刘夏,高雪春.人工智能视域下教育治理的现实挑战与路径选择[J].中国教育科学,2020(6):24-30.
[18]兰国帅,杜水莲,宋帆,等.生成式人工智能教育：关键争议、促进方法与未来议题——UNESCO《生成式人工智能教育和研究应用指南》报告要点与思考[J].开放教育研究,2023,29(6):15-26.
[19]张璐.通用人工智能风险治理与监管初探——ChatGPT引发的问题与挑战[J].电子政务,2023(9):14-24.
[20][28]张欣.生成式人工智能的算法治理挑战与治理型监管[J].现代法学,2023,45(3):108-123.
[21]沈苑,汪琼.人工智能教育应用的偏见风险分析与治理[J].电化教育研究,2021,42(8):12-18.
[22]倪琴,刘志,郝煜佳,等.智能教育场景下的算法歧视：潜在风险、成因剖析与治理策略[J].中国电化教育,2022(12):93-100.
[23][26]张丁.全球安全倡议下的中国人工智能治理路径[J].信息安全与通信保密,2023(8):34-45.
[24]张扬,张舒,袁莉.教育2122：百年愿景和实施路径——未来智能教育国际论坛综述[J].中国教育信息化,2022,28(12):3-12.
[25]赵志君,庄馨予.中国人工智能高质量发展：现状、问题与方略[J].改革,2023(9):11-20.
[27]朱永新,约翰·库奇.技术如何释放终身学习者的潜能?——朱永新与约翰·库奇关于未来教育与学习升级的对话[J].华东师范大学学报(教育科学版),2020,38(3):1-15.
[29]陈星,吴叶林.人机协同教育治理的障碍与突破[J].现代远程教育研究,2022,34(1):40-47.
[31]赵志君,庄馨予.中国人工智能高质量发展：现状、问题与方略[J].改革,2023(9):11-20.
Research on Policy Planning and Innovation Path of International AI Education Governance
—Key Points and Reflections of the Bletchley Declaration
of the First Global Artificial Intelligence Security Summit
Guoshuai LAN1, Shuilian DU1, Qi XIAO1, Fan SONG1, Fanfan CAI2
(1.Faculty of Education, Henan University, Kaifeng 475004, Henan;
2.Rui’an College，Wenzhou Polytechnic, Wenzhou 325207, Zhejiang)
Abstract: Artificial intelligence education governance is a common issue facing education all over the world. Clarifying the potential risks brought by artificial intelligence to education, formulating policy planning for international artificial intelligence education governance, and exploring innovative paths to promote international cooperation in artificial intelligence education governance will help promote all-dimensional education enabled by artificial intelligence technology and promote the construction of an academic community in artificial intelligence education governance. In November 2023, at the first AI Security Summit, representatives from 28 countries and international organizations, including China, the United States and the European Union, jointly signed the Bletchley Declaration, which is also the world’s first international statement on AI technology. By using text analysis and content analysis method, this paper analyzed the policy background and research purpose of the Declaration, focused on the policy planning of international AI education governance from the perspective of humanistic criticism, and reflected on its enlightenment to the innovation path of China’s AI education governance: Build an open and transparent AI education governance system, establish a dynamic AI education governance regulatory mechanism, promote a multilateral mechanism for international cooperation in AI education governance, enhance the ability to predict the security risks of AI empowered education, and uphold a common, comprehensive, cooperative, and sustainable security concept, so as to accelerate the modernization of China’s AI education governance. To contribute Chinese solutions to the formulation of the international AI education governance master plan.
Keywords: ChatGPT; Generative artificial intelligence; Artificial intelligence security; Education governance; Artificial intelligence education