人工智能（AI）应用和伦理治理报告
由“教育与伦理治理人工智能专责小组”编写
2024年6月
I. 前言:
人工智能（AI）和其他数字科技已经快速地改变了社会各个领域，包括高等教育。目前，人工智能的研发和运用正以深远的方式转变高等教育。从人工智能驱动的教学和学习工具，到在校园运营和决策中使用的人工智能（包括相关的数字科技）等，人工智能的影响无处不在，渗透到大学各个功能。在澳门科技大学，几个院所开设了一系列与人工智能相关的新课程（包括本科和研究生课程）。此外，还建立了多个尖端的研究平台，以加强人工智能技术的跨学科应用。大学还不断完善智慧校园系统（WeMust）的功能，提高了大学运营和管理的效率及效果。
尽管生成式人工智能和相关的数字科技（以下在本文中统称为人工智能）为知识探索和技能发展带来了巨大的动力和优势，但它们也带来了潜在的风险（例如，生成式AI内容的真实性、数字科技的滥用、隐私侵犯、数据安全、人工智能素养和公平可及性）。因此，建立人工智能治理和负责任使用人工智能技术的正式原则和指引至关重要。遵循联合国教科文组织（UNESCO）的建议以及全球领先大学的最佳实践，澳门科技大学校长于2023-24学年春季学期启动了一项提议，成立了教育和伦理治理人工智能专责小组。其目标是审视最新发展，并编制一份报告，以促进人工智能技术负责任和合乎伦理地使用于教学、研究和管理之中。
该专责小组已召开4次会议，讨论相关问题并制定澳门科技大学在人工智能应用（包括使用人工智能和其他数字科技工具）方面的原则和指引。
第一次会议（2024年4月9日） –主席概述了成立该专责小组的背景和目的。就框架达成一致。就方法和工作计划进行了一般性讨论。
第二次会议（2024年5月9日） –成员参考了召集人提供的各项国际指引，以英国Russel Group的指引和原则为主要参考。同时也审阅了剑桥大学、伦敦帝国学院、爱丁堡大学和香港科技大学的相关资料。成员之间就报告的编写分工也已确定。
第三次会议（2024年6月7日） –成员对2024年5月底完成的初稿大纲和各个细节进行了深入讨论。
第四次会议（2024年7月8日） – 2024年7月8日，成员讨论了报告的第四稿，以进行最终修订。
最终，此报告最终版编制完成，供校领导们审阅，并随后提交至学术及教学委员会。本报告包括五个部分：即立场声明、一般原则、人工智能应用指引（分别适用于学生和教职员工）以及建议，具体内容如下：
II. 立场声明：
在教学、学习、研究及行政运作中接纳人工智能；
承认使用人工智能辅助工具是一种有用的技术，但不应影响澳门科技大学的教学、学习和评估的基本目标；
确保行政人员及师生以负责任和符合伦理的方式应用人工智能技术；
培养行政人员及师生的人工智能素养 – 与高等教育中人工智能及其他数字科技的最新发展保持同步；
认识到人工智能治理的重要性，并持续采用最佳实践方式。
III. 一般原则︰
澳门科技大学采用以下一般原则，用于教育领域中的人工智能应用和伦理意识︰
教育价值与质量：确保人工智能在教育中的应用旨在提升整体教学体验，支持学生的优质学习成果，以教育价值为先，并与提升基于研究的教学一致。
隐私与数据保护︰ 维护个人隐私，确保对人数据的适当保护。人工智能应用常依赖于数据收集和分析，引发侵犯隐私的疑虑。人工智能应用应遵守相关数据保护法规，并采取严格的数据收集、存储、使用和共享措施。
知识产权侵犯与合规︰ 确保行政人员与师生了解在教育人工智能应用中侵犯知识产权的风险。使用有版权或专利的材料培训出来的人工智能系统可能会无意中侵犯知识产权。如果人工智能应用在未经授权的情况下复制了受版权保护的内容或使用了受专利保护的技术，则可能导致侵权指控。
伦理与公平使用︰ 确保教育中使用的人工智能应用遵循伦理标准，促进公平性。人工智能系统应旨在识别和减轻偏见，避免歧视，并遵守本校的适当行为准则（包括行政人员及师生之间的相互尊重）。决策过程应具备透明性、问责性，并接受定期评估。
公平与可及性：确保教育中使用的人工智能促进教育资源与机会的平等获取，不受个人能力和需求的影响。应避免骚扰和歧视行为。
IV. 指引
澳门科技大学为学生和教职员分别制定应用指引，以适用于他们在教学、学习、研究和行政管理中合理使用人工智能工具（相关指引另行列示出）。
V. 建议
近期 Open AI 作为颠覆性技术的出现预计将继续扩大其应用范围，并将对高等教育带来重大挑战。本专责小组提出以下建议供校领导考虑：
在本专责小组的基础上，设立一个工作小组，职权范围基本相同，由（协理）副校长/校长高级顾问及信息科技教育专家共同担任主席，收集和整合各院所关于在大学内有效应用人工智能技术的意见和需求。工作小组应由理工范畴（创新工程学院和太空科学研究所）、生物医药范畴（医学部）、人文艺术范畴（人文艺术学院、法学院和国际学院）以及商学范畴（商学院、酒店与旅游管理学院和博雅学院）各派2名代表组成，并定期向教学与评估委员会和研究生委员会报告;
在大学和学院层面建立正式机制，持续监测和评估上述人工智能相关政策的实施情况; 并提供资源支持人工智能最佳实践;
为学术人员提供培训项目（例如，由教育发展中心和学院层面组织研讨会或讲座），并为学生提供培训项目（在通识教育或学院层面课程中开发关于生成式人工智能技术应用和影响的课程/专题），以促进人工智能的有效和负责任使用;
将评估人工智能工具使用中伦理问题的责任纳入现有治理机构（例如教学与评估委员会（TLAC）、研究生委员会（GC）、研究委员会（RC））的职责范围，并调查和建议适当行动应对相关违规行为;
升级大学的IT设施，配备新的AI和其他数字技术，以增强数据安全、隐私保护和公平使用，并为大学研究、教育和推广中扩展的AI应用提供技术支持或协助。
主要参考内容
Azoulay, A. (2021). The Establishment of Artificial Intelligence Ethics. Retrieved from https://www.un.org/zh/chronicle/article/20459
UNESCO. (2021). Initiatives on Artificial Intelligence Ethics. Retrieved from https://unesdoc.unesco.org/ark:/48223/pf0000380455_chi
中国教育科研参考，2022，11.15 Vol.21（535) https://www.cahe.edu.cn/upload/gdjy/file/20221201/1669870262106564.pdf
中国教育新闻网， 2023.09.15.《高等教育数字化转型的全球迭代与发展》https://finance.sina.cn/2023-09-15/detail-imzmurch2180902.d.html
Generative Artificial Intelligence Guidance for staff. The University of Edinburgh. (n.d.). https://www.ed.ac.uk/bayes/ai-guidance-for-staff-and-students/ai-guidance-for-staff
Generative Artificial Intelligence Guidance for Students. The University of Edinburgh. (n.d.). https://www.ed.ac.uk/bayes/ai-guidance-for-staff-and-students/ai-guidance-for-students
Generative AI guidance. Imperial College London. (n.d.). https://www.imperial.ac.uk/admin-services/library/learning-support/generative-ai-guidance/
HKUST. (n.d.). Guidelines and Principles on Using Generative AI for Higher Education. https://gohkust-my.sharepoint.com/:w:/g/personal/smcminn_ust_hk/EaAhSqSSg2NPj5Lgk1rWAKYBT08xTP6OG_hqpUyUUQk9ag?rtime=MlTENeJ-3Eg
Russell Group. (n.d.). Russell Group principles on the use of generative AI tools in education. https://russellgroup.ac.uk/media/6137/rg_ai_principles-final.pdf
Ella McPherson, M. C. (2024, March 15). AI and scholarship: A Manifesto. University of Cambridge. https://www.cam.ac.uk/stories/ai-and-scholarship-manifesto
Mollett, A. (2023, September 28). How we use generative AI tools. Communications. https://www.communications.cam.ac.uk/generative-ai-tool-guidelines
附件
专责小组工作职能及成员名单
澳科大已开设AI及数字技术相关课程与科目
