隨著DeepSeek等國產(chǎn)大模型的迅猛發(fā)展，眾多高校、中小學(xué)開始搭建基于國產(chǎn)大模型和自身知識庫的教育智能體，并在教育科學(xué)中應(yīng)用。在教育智能體正逐漸成為生成式人工智能技術(shù)在教育中應(yīng)用的重要途徑的同時(shí)，我們也必須正視智能體創(chuàng)建和應(yīng)用中的倫理風(fēng)險(xiǎn)問題，確保其能夠科學(xué)、可持續(xù)、安全地為教育賦能增效。
　　
　　1
　　
　　防范師生關(guān)系異化
　　
　　隨著教師和學(xué)生依托大模型平臺，創(chuàng)建服務(wù)自身課程和學(xué)習(xí)的教育智能體，師生課堂教學(xué)和課外情感關(guān)系異化的倫理風(fēng)險(xiǎn)逐步顯現(xiàn)。
　　
　　教師層面，表現(xiàn)為部分教師基于課程參考專著、論文、課件以及輔助資料，搭建起較為有效的課程助教性質(zhì)的智能體，而學(xué)生多以咨詢所搭建的課程智能體開展學(xué)習(xí)，這在一定程度上會忽略傳統(tǒng)傳道授業(yè)解惑的育人行為和功能。學(xué)生層面，表現(xiàn)為部分學(xué)生基于自身項(xiàng)目式學(xué)習(xí)參考專著、論文、網(wǎng)絡(luò)資料等，搭建起較為有效的項(xiàng)目式學(xué)習(xí)助手性質(zhì)的智能體，而不再認(rèn)真學(xué)習(xí)，甚至質(zhì)疑課程教師的授課內(nèi)容，忽略對于課程教師前沿教學(xué)內(nèi)容以及創(chuàng)造性互動啟發(fā)的吸納。后者，甚至可能導(dǎo)致原本的“教師主導(dǎo)—學(xué)生主體—人工智能輔助”結(jié)構(gòu)關(guān)系將轉(zhuǎn)向“智能體主導(dǎo)—學(xué)生主體—教師輔助”，學(xué)生與智能體的單向依賴關(guān)系將會進(jìn)一步加強(qiáng)，從而削弱，甚至危害到師生間的教學(xué)關(guān)系。
　　
　　師生課外情感關(guān)系異化的倫理風(fēng)險(xiǎn)，表現(xiàn)為部分學(xué)生將部分智能體作為更加“高效”和“安全”的情感交流或宣泄對象。在某智能體平臺中，情感陪護(hù)類智能體已有40多個(gè)，在學(xué)生看來，這些智能體不會將他的心事告知父母，也不會對他的個(gè)別想法或行為進(jìn)行批評。智能體正逐漸取代教師原有的傾聽和引導(dǎo)職責(zé)。因此，甚至?xí)䦟?dǎo)致師生課外情感互動的淡化。
　　
　　針對于以上倫理風(fēng)險(xiǎn)，需要積極維護(hù)“教師主導(dǎo)—學(xué)生主體—智能體輔助”三角型結(jié)構(gòu)關(guān)系，科學(xué)使用教育智能體輔助課堂教學(xué)，積極引導(dǎo)學(xué)生科學(xué)使用教育智能體輔助學(xué)習(xí)和情感互動。具體而言，教師創(chuàng)建和應(yīng)用服務(wù)自身課程的教育智能體過程中，需要重視傳道授業(yè)解惑的育人行為和功能，積極回應(yīng)學(xué)生的提問和交流；也需要教師即時(shí)更新前沿教學(xué)內(nèi)容，并設(shè)計(jì)高質(zhì)量的課堂教學(xué)活動，引導(dǎo)學(xué)生在使用智能體輔助學(xué)習(xí)的過程中，積極吸納前沿教學(xué)內(nèi)容以及創(chuàng)造性互動啟發(fā)。針對于師生課外情感關(guān)系異化倫理風(fēng)險(xiǎn)，需要重視學(xué)生情感交流或宣泄的“高效”和“安全”需求，做到即時(shí)高質(zhì)量回應(yīng)，以及隱私內(nèi)容的保密不外傳。畢竟人類的情感是基于真實(shí)生命體驗(yàn)的共情，而智能體的“情感反饋”本質(zhì)是算法模擬，僅是從海量的數(shù)據(jù)庫中識別語言、表情后輸出的預(yù)設(shè)的安慰語句。
　　
　　2
　　
　　避免急功近利和自主權(quán)喪失
　　
　　今年2月開學(xué)季，杭州中小學(xué)教師表示學(xué)生們的寒假作業(yè)“AI味”太濃，甚至已經(jīng)出現(xiàn)了“一眼假”等編造問題。可見，學(xué)生創(chuàng)建服務(wù)自身學(xué)習(xí)的教育智能體，存在急功近利和自主權(quán)喪失的倫理風(fēng)險(xiǎn)，即依托創(chuàng)建項(xiàng)目式學(xué)習(xí)知識庫后更加強(qiáng)大的智能體，急功近利地來偽造研究數(shù)據(jù)、篡改實(shí)驗(yàn)圖像甚至替代自主設(shè)計(jì)，給學(xué)術(shù)誠信和底線帶來巨大沖擊。
　　
　　自主權(quán)喪失的倫理風(fēng)險(xiǎn)，則是因?yàn)橹悄荏w能夠在與使用者多輪交互過程中不斷學(xué)習(xí)和優(yōu)化，通過吸收使用者向其“投喂”的資料，不斷提升其個(gè)性化回答的“專業(yè)性”，針對特定的環(huán)境信息反饋以實(shí)現(xiàn)特定目標(biāo)。因此，智能體生成的內(nèi)容語言更具靈活性，造成學(xué)生學(xué)習(xí)探索過程過度依賴智能體，從而造成學(xué)生學(xué)習(xí)探索自主權(quán)的喪失。
　　
　　對此，復(fù)旦大學(xué)提出“六個(gè)禁止”，其中包括禁止在研究方案設(shè)計(jì)、數(shù)據(jù)分析等關(guān)鍵環(huán)節(jié)使用AI工具，禁止直接使用AI工具生成正文文本等，避免學(xué)生過度依賴AI，喪失自主思考和創(chuàng)新能力。
　　
　　智能體只是學(xué)習(xí)的輔助工具，其提供的數(shù)據(jù)、信息和分析結(jié)果只能作為參考，不能代替使用者獨(dú)立思考。因此，在面對智能體提供的信息和決策建議時(shí)，教師要引導(dǎo)學(xué)生通過對比不同來源的資料，綜合形成自己的判斷和觀點(diǎn)。在應(yīng)用智能體時(shí)，教師要指導(dǎo)學(xué)生帶著自己思考的問題與其互動，不斷訓(xùn)練智能體，定期對自己的學(xué)習(xí)和思考進(jìn)行反思總結(jié)，通過反思調(diào)整自己的思維方式，更好地提升自己的批判性思維、創(chuàng)造性思維和解決問題的能力。
　　
　　3
　　
　　規(guī)避隱私泄露和版權(quán)侵犯
　　
　　師生借助智能體平臺來輔助教學(xué)和情感交互的過程中，還存在隱私泄露和版權(quán)侵犯等倫理風(fēng)險(xiǎn)。隱私泄露倫理風(fēng)險(xiǎn)方面，國家互聯(lián)網(wǎng)信息辦公室等部門印發(fā)的《生成式人工智能服務(wù)管理暫行辦法》限制了智能體收集數(shù)據(jù)的范圍，相關(guān)智能體平臺在對話記錄獲取窗口也會提醒創(chuàng)建者應(yīng)遵循的規(guī)則，也允許平臺創(chuàng)建者設(shè)置所創(chuàng)建智能體的被訪問權(quán)限，從而較為有效地規(guī)避隱私泄露。但部分教師將一些在線課堂實(shí)錄文本等作為知識庫內(nèi)容，上傳課程助教智能體，存在對于課堂互動中暗含的學(xué)生隱私互動內(nèi)容的忽略問題，這一忽略目前也存在較難為平臺監(jiān)管所準(zhǔn)確識別的問題。
　　
　　版權(quán)侵犯倫理風(fēng)險(xiǎn)方面，表現(xiàn)為部分教師會將自己電腦中的電子資料、專著等上傳智能體，作為私有知識庫內(nèi)容。這些私有知識庫盡管不會公開，但也會記錄到智能體平臺網(wǎng)絡(luò)之中，對于一些具有版權(quán)的電子資料，尤其是專著，還是存在版權(quán)侵犯的倫理風(fēng)險(xiǎn)。尤其是，往屆學(xué)生的課程論文或作品，盡管不是公開發(fā)表的，也需要教師考慮到版權(quán)問題謹(jǐn)慎上傳，還需要平臺方進(jìn)行智能識別、提醒和監(jiān)管。
　　
　　智能體在為學(xué)生提供個(gè)性化學(xué)習(xí)支持的同時(shí)，也對學(xué)生隱私和數(shù)據(jù)安全發(fā)起了嚴(yán)峻挑戰(zhàn)。只有在確保隱私安全的前提下，智能體才能真正成為推動教育公平和創(chuàng)新的有力工具，為學(xué)生的成長和發(fā)展提供更好的支持。學(xué)校要定期對師生進(jìn)行數(shù)據(jù)安全培訓(xùn)，提升其隱私保護(hù)意識，在使用智能體前，需向?qū)W生和家長明確告知數(shù)據(jù)收集和使用的目的、范圍及保護(hù)措施，并獲得他們的同意。智能體平臺需要實(shí)施嚴(yán)格的權(quán)限管理，確保審計(jì)留痕，記錄所有數(shù)據(jù)訪問行為以便追溯。同時(shí)，設(shè)立第三方監(jiān)管機(jī)構(gòu)應(yīng)定期對智能體的數(shù)據(jù)安全措施進(jìn)行審計(jì)，及時(shí)發(fā)現(xiàn)并修復(fù)潛在的安全漏洞。
　　
　　（作者陸吉健系杭州師范大學(xué)中國創(chuàng)新創(chuàng)業(yè)教育研究院副教授，龐暢系杭州師范大學(xué)經(jīng)亨頤教育學(xué)院碩士研究生）