人工智能(AI)應用和倫理治理報告
由「教育與倫理治理人工智能專責小組」編寫
2024年6月
I. 前言:
人工智能(AI)和其他數字科技已經快速地改變了社會各個領域，包括高等教育。目前，人工智能的研發和運用正以深遠的方式轉變高等教育。從人工智能驅動的教學和學習工具，到在校園運營和決策中使用的人工智能(包括相關的數字科技)等，人工智能的影響無處不在，滲透到大學各個功能。在澳門科技大學，幾個院所開設了一系列與人工智能相關的新課程(包括本科和研究生課程)。此外，還建立了多個尖端的研究平台，以加強人工智能技術的跨學科應用。大學還不斷完善智慧校園系統(WeMust)的功能，提高了大學運營和管理的效率及效果。
儘管生成式人工智能和相關的數字科技(以下在本文中統稱為人工智能)為知識探索和技能發展帶來了巨大的動力和優勢，但它們也帶來了潛在的風險(例如，生成式AI內容的真實性、數字科技的濫用、隱私侵犯、數據安全、人工智能素養和公平可及性)。因此，建立人工智能治理和負責任使用人工智能技術的正式原則和指引至關重要。遵循聯合國教科文組織(UNESCO)的建議以及全球領先大學的最佳實踐，澳門科技大學校長於2023-24學年春季學期啟動了一項提議，成立了「教育和倫理治理人工智能專責小組」。其目標是審視最新發展，並編制一份報告，以促進人工智能技術負責任和合乎倫理地使用於教學、研究和管理之中。
該專責小組已召開4次會議，討論相關問題並制定澳門科技大學在人工智能應用(包括使用人工智能和其他數字科技工具)方面的原則和指引。
第一次會議(2024年4月9日) –主席概述了成立該專責小組的背景和目的。就框架達成一致。就方法和工作計劃進行了一般性討論。
第二次會議(2024年5月9日) –成員參考了召集人提供的各項國際指引，以英國Russel Group的指引和原則為主要參考。同時也審閱了劍橋大學、倫敦帝國學院、愛丁堡大學和香港科技大學的相關資料。成員之間就報告的編寫分工也已確定。
第三次會議(2024年6月7日) –成員對2024年5月底完成的初稿大綱和各個細節進行了深入討論。
第四次會議(2024年7月8日) – 2024年7月8日，成員討論了報告的第四稿，以進行最終修訂。
最終，此報告最終版編制完成，供校領導們審閱，並隨後提交至學術及教學委員會。本報告包括五個部分︰即立場聲明、一般原則、人工智能應用指引(分別適用於學生和教職員工)以及建議，具體內容如下︰
II. 立場聲明︰
在教學、學習、研究及行政運作中接納人工智能；
承認使用人工智能輔助工具是一種有用的技術，但不應影響澳門科技大學的教學、學習和評估的基本目標；
確保行政人員及師生以負責任和符合倫理的方式應用人工智能技術；
培養行政人員及師生的人工智能素養 – 與高等教育中人工智能及其他數字科技的最新發展保持同步；
認識到人工智能治理的重要性，並持續採用最佳實踐方式。
III. 一般原則︰
澳門科技大學採用以下一般原則，用於教育領域中的人工智能應用和倫理意識︰
教育價值與質量︰確保人工智能在教育中的應用旨在提升整體教學體驗，支援學生的優質學習成果，以教育價值為先，並與提升基於研究的教學一致。
隱私與數據保護︰ 維護個人隱私，確保對人數據的適當保護。人工智能應用常依賴於數據收集和分析，引發侵犯隱私的疑慮。人工智能應用應遵守相關數據保護法規，並採取嚴格的數據收集、存儲、使用和共享措施。
知識產權侵犯與合規︰ 確保行政人員與師生了解在教育人工智能應用中侵犯知識產權的風險。使用有版權或專利的材料培訓出來的人工智能系統可能會無意中侵犯知識產權。如果人工智能應用在未經授權的情況下複製了受版權保護的內容或使用了受專利保護的技術，則可能導致侵權指控。
倫理與公平使用︰ 確保教育中使用的人工智能應用遵循倫理標準，促進公平性。人工智能系統應旨在識別和減輕偏見，避免歧視，並遵守本校的適當行為準則(包括行政人員及師生之間的相互尊重)。決策過程應具備透明性、問責性，並接受定期評估。
公平與可及性︰確保教育中使用的人工智能促進教育資源與機會的平等獲取，不受個人能力和需求的影響。應避免騷擾和歧視行為。
IV. 指引
澳門科技大學為學生和教職員分別制定應用指引，以適用於他們在教學、學習、研究和行政管理中合理使用人工智能工具(相關指引另行列示出)。
V. 建議
近期 Open AI 作為顛覆性技術的出現預計將繼續擴大其應用範圍，並將對高等教育帶來重大挑戰。本專責小組提出以下建議供校領導考慮：
在本專責小組的基礎上，設立一個工作小組，職權範圍基本相同，由(協理)副校長/校長高級顧問及資訊科技教育專家共同擔任主席，收集和整合各院所關於在大學內有效應用人工智能技術的意見和需求。工作小組應由理工範疇(創新工程學院和太空科學研究所)、生物醫藥範疇(醫學部)、人文藝術範疇(人文藝術學院、法學院和國際學院)以及商學範疇(商學院、酒店與旅遊管理學院和博雅學院)各派2名代表組成，並定期向教學與評估委員會和研究生委員會報告；
在大學和學院層面建立正式機制，持續監測和評估上述人工智能相關政策的實施情況；並提供資源支持人工智能最佳實踐；
為學術人員提供培訓項目（例如，由教育發展中心和學院層面組織研討會或講座），並為學生提供培訓項目（在通識教育或學院層面課程中開發關於生成式人工智能技術應用和影響的課程/專題），以促進人工智能的有效和負責任使用；
將評估人工智能工具使用中倫理問題的責任納入現有治理機構(例如教學與評估委員會(TLAC)、研究生委員會(GC)、研究委員會(RC))的職責範圍，並調查和建議適當行動應對相關違規行為；
升級大學的 IT 設施，配備新的 AI 和其他數字技術，以增強數據安全、隱私保護和公平使用，並為大學研究、教育和推廣中擴展的 AI 應用提供技術支持或協助。
主要參考內容
Azoulay, A. (2021). The Establishment of Artificial Intelligence Ethics. Retrieved from https://www.un.org/zh/chronicle/article/20459
UNESCO. (2021). Initiatives on Artificial Intelligence Ethics. Retrieved from https://unesdoc.unesco.org/ark:/48223/pf0000380455_chi
中國教育科研參考，2022，11.15 Vol.21 (535) https://www.cahe.edu.cn/upload/gdjy/file/20221201/1669870262106564.pdf
中國教育新聞網， 2023.09.15.《高等教育數字化轉型的全球迭代與發展》https://finance.sina.cn/2023-09-15/detail-imzmurch2180902.d.html
Generative Artificial Intelligence Guidance for staff. The University of Edinburgh. (n.d.). https://www.ed.ac.uk/bayes/ai-guidance-for-staff-and-students/ai-guidance-for-staff
Generative Artificial Intelligence Guidance for Students. The University of Edinburgh. (n.d.). https://www.ed.ac.uk/bayes/ai-guidance-for-staff-and-students/ai-guidance-for-students
Generative AI guidance. Imperial College London. (n.d.). https://www.imperial.ac.uk/admin-services/library/learning-support/generative-ai-guidance/
HKUST. (n.d.). Guidelines and Principles on Using Generative AI for Higher Education. https://gohkust-my.sharepoint.com/:w:/g/personal/smcminn_ust_hk/EaAhSqSSg2NPj5Lgk1rWAKYBT08xTP6OG_hqpUyUUQk9ag?rtime=MlTENeJ-3Eg
Russell Group. (n.d.). Russell Group principles on the use of generative AI tools in education. https://russellgroup.ac.uk/media/6137/rg_ai_principles-final.pdf
Ella McPherson, M. C. (2024, March 15). AI and scholarship: A Manifesto. University of Cambridge. https://www.cam.ac.uk/stories/ai-and-scholarship-manifesto
Mollett, A. (2023, September 28). How we use generative AI tools. Communications. https://www.communications.cam.ac.uk/generative-ai-tool-guidelines
附件
專責小組工作職能及成員名單
澳科大已開設AI及數字技術相關課程與科目
