人工智能技術(shù)在各行各業(yè)的應(yīng)用,促進了技術(shù)變革和產(chǎn)業(yè)升級,有力地推動了數(shù)字中國和現(xiàn)代化建設(shè),也為促進教育數(shù)字化轉(zhuǎn)型提供了強大動力。習近平總書記在致國際人工智能與教育大會的賀信中指出,中國高度重視人工智能對教育的深刻影響,積極推動人工智能和教育深度融合,促進教育變革創(chuàng)新。
2022年11月,基于人工智能的聊天工具ChatGPT上線僅兩個月,活躍用戶超過了1億。ChatGPT能根據(jù)上下文理解用戶輸入的信息,幫助用戶生成問題的解決方案,如寫論文、編代碼、當客服等。當其逐漸應(yīng)用到教與學(xué)的過程中,出現(xiàn)了如人機協(xié)同教學(xué)、個性化學(xué)習、智能化評價、輔助學(xué)術(shù)研究等典型應(yīng)用。但是,應(yīng)用中的倫理問題,如學(xué)術(shù)不端、數(shù)據(jù)泄露、社會偏見、教育價值偏頗等,逐漸浮現(xiàn)并產(chǎn)生了負面影響。因此,如何在充分發(fā)揮人工智能教育應(yīng)用價值的同時,有效規(guī)避其中的倫理風險亟待探討和解決。
ChatGPT的教育應(yīng)用助力學(xué)與教變革
ChatGPT的應(yīng)用有利于促進學(xué)生的個性化學(xué)習。ChatGPT能夠為學(xué)生提供個性化的自適應(yīng)學(xué)習體驗,通過ChatGPT的自然語言處理技術(shù),將學(xué)生提出的問題轉(zhuǎn)化為結(jié)構(gòu)化的數(shù)據(jù),并將其與相關(guān)知識庫進行匹配,提供最優(yōu)解答,并且ChatGPT會記錄每一次的問答,針對學(xué)生的問題進行分析,深入了解學(xué)生的學(xué)習習慣、學(xué)習水平等從而使學(xué)生可以獲得個性化和高效的學(xué)習指導(dǎo),提高學(xué)生的學(xué)習效率。
ChatGPT的應(yīng)用有助于推動教師的自動化教學(xué)。ChatGPT可以與教師實現(xiàn)協(xié)同工作,輔助教師進行課程設(shè)計和材料生成,為教師生成有針對性的學(xué)科知識、教學(xué)材料、教學(xué)大綱、教學(xué)案例和教學(xué)策略等。通過與ChatGPT進行模擬課堂對話,教師可以更好地了解學(xué)生的問題,提高課堂教學(xué)的靈活性。在課后教師可以使用ChatGPT對學(xué)生上課的提問與回答進行教學(xué)診斷,幫助教師了解學(xué)生的學(xué)習情況、困難,及時調(diào)整教學(xué)策略和內(nèi)容。ChatGPT會自動對學(xué)生的作業(yè)或試卷進行評分和批改,教師可以快速而準確地對學(xué)生的作業(yè)和試卷進行評分和批改。
ChatGPT的應(yīng)用有益于輔助學(xué)術(shù)研究。ChatGPT可以為研究者提供模型預(yù)測和數(shù)據(jù)分析的支持。
研究者提供相關(guān)數(shù)據(jù),這些數(shù)據(jù)可以包括實驗數(shù)據(jù)、問卷數(shù)據(jù)、統(tǒng)計數(shù)據(jù)等,ChatGPT將使用自然語言處理技術(shù)分析這些數(shù)據(jù),從中發(fā)現(xiàn)有價值的信息,并進行數(shù)據(jù)分析和模型預(yù)測,之后ChatGPT將提供分析報告,其中包括數(shù)據(jù)可視化展示、結(jié)果說明和推薦建議等內(nèi)容,讓研究者更加便捷地了解數(shù)據(jù)和模型的特征、趨勢。最后,研究者可以基于分析結(jié)果進行進一步的科研探索和實驗研究,同時對模型和數(shù)據(jù)進行優(yōu)化和改進,從而促進科研工作的深入開展。
ChatGPT應(yīng)用引發(fā)的教育倫理問題亟待破解
教師和學(xué)生在應(yīng)用ChatGPT的過程中產(chǎn)生了亟待解決的倫理問題,包括數(shù)據(jù)泄露、算法偏見與歧視、學(xué)術(shù)不端、教育價值偏頗、人文關(guān)懷缺失等,這些問題給教育的可持續(xù)發(fā)展帶來了很大的挑戰(zhàn)。
數(shù)據(jù)泄露有可能引起學(xué)生權(quán)益受損。ChatGPT需要處理與存儲大量數(shù)據(jù),這些數(shù)據(jù)存在被泄露的風險。在學(xué)習、教學(xué)與評價場景中,學(xué)生、教師與ChatGPT對話中可能涉及個人隱私信息、學(xué)術(shù)記錄、行為模式、學(xué)生成績、班級信息與答題信息等。由于技術(shù)漏洞、相關(guān)人員缺乏安全意識、黑客攻擊等使這些數(shù)據(jù)的安全不能得到保障,可能會導(dǎo)致被未經(jīng)授權(quán)的人員訪問、篡改或濫用。如果不采取相應(yīng)措施來規(guī)避風險,將會給學(xué)生與教育機構(gòu)帶來嚴重的后果,包括個人信息被利用引來學(xué)生被詐騙或騷擾、對學(xué)生的學(xué)業(yè)產(chǎn)生負面影響、學(xué)校聲譽受損從而家校關(guān)系惡化等。
算法不透明或可導(dǎo)致教育偏見與歧視。ChatGPT在算法設(shè)計與調(diào)整時,可能存在一定的偏見。由于算法設(shè)計人員本身的偏見或盲區(qū),或收集的語料本身存在的如種族、地區(qū)等偏見,ChatGPT的輸出也會受到影響。若算法不透明,我們無法判斷其作出決策的依據(jù),也無法得知其中是否存在隱含偏見。學(xué)生與ChatGPT進行知識問答時,ChatGPT可能會給出不準確的回答,或者以不當?shù)姆绞揭龑?dǎo)學(xué)生學(xué)習和行為,影響學(xué)生的學(xué)習效果和公平性,加劇數(shù)字技能鴻溝甚至損害教育的公平性。
過度依賴或可導(dǎo)致學(xué)術(shù)不端與教育價值偏頗。ChatGPT可以根據(jù)研究任務(wù)生成說服性強且有一定邏輯的文本,若濫用可能產(chǎn)生剽竊、抄襲等學(xué)術(shù)不端問題。ChatGPT在一定程度上可以幫助學(xué)生提升學(xué)習效率,但學(xué)生若對其呈現(xiàn)的結(jié)果不加批判地全盤接受,會導(dǎo)致思維的惰化,從而其影響全面發(fā)展。長此以往,學(xué)生的元認知、創(chuàng)新性思維、批判性思維、獨立解決問題的能力均可能受到不同程度的損害,這與教育“培養(yǎng)全面發(fā)展的人”背道而馳。同時,在教學(xué)中,若教師過分依賴ChatGPT,在教育中忽視和缺失了人文關(guān)懷的情感教育,也不利于培養(yǎng)學(xué)生的健全人格與身心健康。
應(yīng)對ChatGPT教育應(yīng)用倫理問題的策略
規(guī)范開發(fā)人工智能教育應(yīng)用場景。ChatGPT具有強大的文本生成能力,可能的應(yīng)用場景包括教、學(xué)、管、考、評、測、研等諸多方面,學(xué)校可以加強應(yīng)用場景的規(guī)范開發(fā),明確人工智能技術(shù)的育人價值,從教學(xué)全流程、全要素、全業(yè)務(wù)的角度深度思考,將智能技術(shù)與教學(xué)深度融合,打造典型的應(yīng)用模式,破解教育和教學(xué)的核心問題,從而塑造學(xué)校人工智能教育應(yīng)用的特色場景。
明確制定人工智能教育應(yīng)用限度。正確認識ChatGPT等人工智能的功能特點、核心價值,謹慎處理其潛在風險。人工智能教育應(yīng)用過程中,在數(shù)據(jù)采集、數(shù)據(jù)篩選、數(shù)據(jù)處理、數(shù)據(jù)應(yīng)用等方面,容易出現(xiàn)個人信息泄露、數(shù)據(jù)安全受損、育人價值偏頗等問題。在應(yīng)用過程中,從數(shù)據(jù)的全生命周期角度,需明確應(yīng)用的具體限度,指導(dǎo)教師和學(xué)生在安全可信的前提下合理使用ChatGPT等人工智能,確保數(shù)據(jù)安全,保證教育的育人價值不出偏頗。
提高師生的人工智能素養(yǎng)和倫理意識。教師和學(xué)生的人工智能素養(yǎng)是將新一代人工智能技術(shù)融入教和學(xué)的基礎(chǔ),而倫理風險意識則是保證師生安全可靠應(yīng)用人工智能技術(shù)的前提條件。為提高師生的人工智能素養(yǎng)和倫理意識,組織開發(fā)人工智能教育應(yīng)用與倫理意識相關(guān)課程和培訓(xùn),并將相關(guān)內(nèi)容滲透到各科課程中去,讓學(xué)生了解智能技術(shù)的應(yīng)用可能帶來的倫理風險。同時可引入人工智能檢測工具,建立相應(yīng)的監(jiān)督和管理機制對學(xué)生的學(xué)術(shù)行為進行監(jiān)督,對學(xué)術(shù)不端行為進行懲處。
強化學(xué)生的高階思維能力培養(yǎng)。ChatGPT等生成性人工智能對學(xué)生的邏輯思維、提問能力、批判性思維、協(xié)作能力、溝通能力等提出了新的要求,只有具備了這些高階思維能力,學(xué)生才能與ChatGPT等人工智能應(yīng)用形成良性的人機協(xié)同,促進自身的全面發(fā)展。要充分利用智能工具,推動教學(xué)理念更新、課堂范式轉(zhuǎn)型、教學(xué)模式轉(zhuǎn)變,推動學(xué)生高階思維能力的培養(yǎng),讓學(xué)生能夠在未來復(fù)雜和不確定的世界中詩意地生存。
(作者楊俊鋒系杭州師范大學(xué)經(jīng)亨頤教育學(xué)院教授、教育部教育信息化戰(zhàn)略研究基地[北京]副主任,陳睿寧系杭州師范大學(xué)研究生。本文系國家社科基金重點課題“人工智能教育場景應(yīng)用的倫理與限度[ACA220027]”的成果)
《中國教育報》2023年05月13日第4版
工信部備案號:京ICP備05071141號
互聯(lián)網(wǎng)新聞信息服務(wù)許可證 10120170024
中國教育新聞網(wǎng)版權(quán)所有,未經(jīng)書面授權(quán)禁止下載使用
Copyright@2000-2022 m.solnowat.com All Rights Reserved.