■針對(duì)類似AI學(xué)習(xí)機(jī)等人工智能教育產(chǎn)品應(yīng)用可能存在的潛在風(fēng)險(xiǎn)，要未雨綢繆，標(biāo)本兼治

　　■探索利用AI促進(jìn)教育創(chuàng)新的有效模式，促進(jìn)AI教育產(chǎn)品應(yīng)用的倫理性、包容性和公平性

　　以人工智能為代表的數(shù)字技術(shù)迅速發(fā)展，滲透到社會(huì)生活的各個(gè)環(huán)節(jié)、各個(gè)領(lǐng)域。在教育領(lǐng)域，一些中小學(xué)校周邊出現(xiàn)不少AI自習(xí)室，這不僅為學(xué)生提供了個(gè)性化的學(xué)習(xí)體驗(yàn)，也引發(fā)了關(guān)于教育未來(lái)發(fā)展的廣泛討論。

　　AI自習(xí)室的核心是通過(guò)由AI算法和大模型支持的學(xué)習(xí)機(jī)與學(xué)習(xí)機(jī)上的智能助學(xué)系統(tǒng)，提供線下督學(xué)、托管等服務(wù)，打造“以智助學(xué)”的新型學(xué)習(xí)空間。它主要通過(guò)先進(jìn)的人工智能技術(shù)，搭建沉浸式學(xué)習(xí)環(huán)境，為學(xué)生提供定制化的學(xué)習(xí)計(jì)劃和智能推薦學(xué)習(xí)資源，學(xué)生在其平臺(tái)還可以同時(shí)購(gòu)買會(huì)員服務(wù)獲得更多的學(xué)習(xí)便利，實(shí)現(xiàn)學(xué)習(xí)資源按需供給。不僅如此，自習(xí)室中的AI學(xué)習(xí)機(jī)還可以幫助檢查作業(yè)中的基礎(chǔ)錯(cuò)誤、知識(shí)點(diǎn)講解，增強(qiáng)互動(dòng)性學(xué)習(xí)體驗(yàn)，提升學(xué)生的學(xué)習(xí)效率，滿足學(xué)生多樣化需求。

　　但AI如同一把雙刃劍，在為教育注入變革能量的同時(shí)也會(huì)帶來(lái)諸多現(xiàn)實(shí)隱憂。AI自習(xí)室的出現(xiàn)，既能給學(xué)生帶來(lái)很多便利和好處，也有可能存在不少潛在風(fēng)險(xiǎn)。從教育公平的角度看，AI自習(xí)室過(guò)度依賴高端智能硬件設(shè)備和付費(fèi)學(xué)習(xí)資源，盡管滿足了部分學(xué)生個(gè)性化學(xué)習(xí)的需求，也會(huì)使弱勢(shì)群體學(xué)生被排除在AI賦能的教育之外，這顯然不利于教育資源公平分配，可能會(huì)加劇學(xué)生之間的數(shù)字鴻溝和學(xué)習(xí)不平等。從“雙減”政策治理的角度看，隨著大批校外培訓(xùn)機(jī)構(gòu)的關(guān)停和轉(zhuǎn)型，隱形變異學(xué)科類校外培訓(xùn)價(jià)格隨之“水漲船高”，部分機(jī)構(gòu)由“地上”轉(zhuǎn)入“地下”，改頭換面，可能會(huì)以AI自習(xí)室的名義違規(guī)開展學(xué)科類校外培訓(xùn)，這就增加了校外培訓(xùn)治理的難度。并且，學(xué)生學(xué)習(xí)成績(jī)的提升，不僅僅取決于AI學(xué)習(xí)機(jī)本身的功能和質(zhì)量，更重要的是教師的指導(dǎo)、學(xué)生的學(xué)習(xí)習(xí)慣和自律性以及家長(zhǎng)的參與等。過(guò)度依賴AI學(xué)習(xí)室，可能會(huì)適得其反，成為學(xué)生新的負(fù)擔(dān)。從隱私安全的角度看，在AI自習(xí)室中，學(xué)生的一舉一動(dòng)處于智能設(shè)備“監(jiān)控”之下，學(xué)生處于AI空間之中，不經(jīng)意間就會(huì)留下“痕跡”，這些在深度學(xué)習(xí)過(guò)程中保留下的敏感數(shù)據(jù)，可能會(huì)引起不法分子通過(guò)窺視、數(shù)據(jù)非法采集、算法深度挖掘等造成個(gè)人隱私侵權(quán)，對(duì)學(xué)生個(gè)人隱私安全造成不利影響。從“信息繭房”的角度看，AI自習(xí)室中的學(xué)生個(gè)性化學(xué)習(xí)的自動(dòng)推送功能，可能會(huì)增加學(xué)生“懶惰”行為，使其喪失探索未知和創(chuàng)新的可能性。

　　聯(lián)合國(guó)教科文組織編制的《人工智能與教育：政策制定者指南》中提出，以合乎倫理、包容和公平的方式將人工智能應(yīng)用于教育領(lǐng)域，影響著每一個(gè)可持續(xù)發(fā)展的目標(biāo)。為此，我們要慎重看待AI自習(xí)室“伴學(xué)”的功能，針對(duì)類似AI學(xué)習(xí)機(jī)等人工智能教育產(chǎn)品應(yīng)用可能存在的潛在風(fēng)險(xiǎn)，要未雨綢繆，標(biāo)本兼治，探索利用AI促進(jìn)教育創(chuàng)新的有效模式，促進(jìn)AI教育產(chǎn)品應(yīng)用的倫理性、包容性和公平性。

　　為確保AI教育產(chǎn)品安全可靠、高效服務(wù)教學(xué)，促進(jìn)學(xué)生健康成長(zhǎng)，應(yīng)加強(qiáng)AI教育產(chǎn)品的治理。首先，建立全覆蓋的AI教育產(chǎn)品差異化準(zhǔn)入審查制度。按照“凡進(jìn)必審”“誰(shuí)選用誰(shuí)負(fù)責(zé)”等原則建立“雙審查”責(zé)任制，圍繞AI教育產(chǎn)品的需求設(shè)計(jì)、算法驗(yàn)證、驗(yàn)收評(píng)估等環(huán)節(jié)，對(duì)AI教育產(chǎn)品公平性、健康性、科學(xué)性和適宜性進(jìn)行審查。其次，構(gòu)建全方位、全過(guò)程的AI教育產(chǎn)品動(dòng)態(tài)監(jiān)測(cè)體系。對(duì)AI教育產(chǎn)品的研發(fā)、應(yīng)用等全過(guò)程進(jìn)行監(jiān)測(cè)，其重點(diǎn)包括不當(dāng)內(nèi)容與違法信息傳播、個(gè)人隱私侵犯、數(shù)據(jù)泄露、算法歧視等。再次，完善綠色科學(xué)的AI教育產(chǎn)品倫理規(guī)約體系。在AI教育數(shù)據(jù)生成、記錄和共享過(guò)程中遵循“有用”“無(wú)害”的倫理訴求，在重組、分析和解釋教育數(shù)據(jù)時(shí)避免算法不合理帶來(lái)的“信息繭房”和“算法歧視”。最后，構(gòu)建AI教育產(chǎn)品公平使用機(jī)制。優(yōu)先在農(nóng)村、邊遠(yuǎn)、貧困地區(qū)配備教育數(shù)字化基礎(chǔ)設(shè)施，為弱勢(shì)群體學(xué)生提供AI教育產(chǎn)品應(yīng)用指導(dǎo)，讓優(yōu)質(zhì)AI教育資源惠及更多學(xué)生群體。

　?。ㄗ髡呦等A中師范大學(xué)教授）

《中國(guó)教育報(bào)》2024年12月25日 第02版