觀點(diǎn) | 聯(lián)合國(guó)教科文斯蒂芬妮亞·賈尼尼

編譯 | 中國(guó)教科院比較教育研究所吳云雁博士

轉(zhuǎn)自 | 國(guó)際與比較教育研究所

01

生成式人工智能對(duì)人類的影響

  數(shù)字革命顛覆了人們的生活方式和教學(xué)與學(xué)習(xí)方式，不斷豐富和改善人們的生活、人際關(guān)系，并為教育開辟新的視野。賈尼尼從語言、知識(shí)和教育三方面分析了人工智能如何顛覆人類生活，并引發(fā)人類對(duì)人工智能技術(shù)發(fā)展的反思。

（一）語言

  語言是人類身份與文化多樣性的核心，也是人類核心技能。從生物學(xué)角度，語言使人類與其他動(dòng)物區(qū)分開，人類通過教育達(dá)成了對(duì)高級(jí)語言的壟斷，通過語言學(xué)掌握語言的結(jié)構(gòu)、形式、意義和力量。而人工智能在短期內(nèi)通過改進(jìn)的算力、合成神經(jīng)網(wǎng)絡(luò)和大型語言模型掌握了人類語言，并跨越了多語言的門檻。這不得不引起人類的反思：生成式預(yù)訓(xùn)練語言模型將如何改變“人類”這一基本概念？未來將如何重塑對(duì)“人類智能”的理解？它將如何影響人與人之間的關(guān)系？

  此外，在沒有明確的指導(dǎo)情況下，人工智能生成語言的結(jié)果和方向是不可預(yù)測(cè)的。精通語言和學(xué)習(xí)的數(shù)字技術(shù)未來是否會(huì)發(fā)展出感知能力，并渴望更大的自主權(quán)？把人類幾千年的知識(shí)積淀交給似乎能夠超越人類能力邊界的機(jī)器，是否明智？同時(shí)，如何對(duì)待人工智能，并科學(xué)地與之互動(dòng)，也是目前面臨的一個(gè)重要挑戰(zhàn)。

（二）知識(shí)

  技術(shù)不是意識(shí)形態(tài)中立的，而是表達(dá)并推崇某些世界觀，反映出特定的思維和認(rèn)知方式。大型語言模型聊天機(jī)器人生成單一的、看起來更權(quán)威的答案，然而，這些答案并沒有追溯人類思想，只是通過復(fù)雜的算法得出答案，即使是技術(shù)開發(fā)者也不盡理解，這顯然是缺乏人性的。

  機(jī)器對(duì)一些知識(shí)性問題提供即時(shí)、簡(jiǎn)潔和看似準(zhǔn)確的答案，表面上提供了幫助，但也導(dǎo)致機(jī)器知識(shí)占據(jù)主導(dǎo)地位，使一些投射了某些世界觀和背景的人工智能模型成為“權(quán)威”。如果只有為數(shù)不多的幾個(gè)人工智能模型和平臺(tái)壟斷人類與知識(shí)的接口，或者占據(jù)主導(dǎo)地位，那么人類必須思考如何保護(hù)知識(shí)系統(tǒng)的多樣性，并通過擴(kuò)展知識(shí)共享方式來開發(fā)人工智能。

（三）教育

  生成式人工智能的發(fā)展對(duì)未來教育提出了根本性問題：教師將扮演什么角色？教育系統(tǒng)應(yīng)該培養(yǎng)學(xué)生哪些技能、觀念和能力？學(xué)校應(yīng)對(duì)人工智能應(yīng)該做出何種轉(zhuǎn)變？人工智能可能會(huì)在未來實(shí)現(xiàn)能力通用，不止停留在下棋等狹窄領(lǐng)域，并在更多領(lǐng)域超越人類，那么未來教育應(yīng)該是什么樣？其目的和作用是什么？

  教育通常會(huì)陷入理所當(dāng)然的假設(shè)中，人類當(dāng)前的學(xué)習(xí)系統(tǒng)旨在幫助人類培養(yǎng)駕馭世界的各種能力。人工智能的出現(xiàn)，迫使人類提出新的命題，使我們不得不思考，如何為人工智能世界做好準(zhǔn)備。

02

減緩和規(guī)范人工智能在教育中的使用

  賈尼尼認(rèn)為，在技術(shù)主導(dǎo)的現(xiàn)狀下，應(yīng)該適時(shí)停下來，反思和探尋人類發(fā)展的真正方向和目標(biāo)。人工智能的發(fā)展速度將會(huì)不斷加快，當(dāng)前技術(shù)領(lǐng)域尚未制定方向性的發(fā)展路線圖。人工智能最主要的風(fēng)險(xiǎn)之一是其對(duì)人類的“操縱力”，兒童和青少年尤其容易受到操縱。在未經(jīng)檢查、未制定規(guī)則或法規(guī)的情況下，人們已經(jīng)開始忽視生成式人工智能技術(shù)隱藏或潛在的風(fēng)險(xiǎn)，使之進(jìn)入教育系統(tǒng)。

  應(yīng)該減緩、暫停或停止使用人類尚不充分了解的人工智能技術(shù)，同時(shí)增加對(duì)技術(shù)本身的理解，研究何時(shí)和如何安全使用這些技術(shù)，以及使用目的。必須高度關(guān)注安全問題，效仿教科書的審查和驗(yàn)證過程，對(duì)大型語言模型類人工智能技術(shù)進(jìn)行檢驗(yàn)，至少應(yīng)遵循四個(gè)主要檢驗(yàn)標(biāo)準(zhǔn)：內(nèi)容的準(zhǔn)確性，年齡適宜性，教學(xué)方法的相關(guān)性，以及文化和社會(huì)適用性，包括算法偏見。

  教育部門需要根據(jù)實(shí)際情況對(duì)人工智能模型進(jìn)行“資格”檢驗(yàn)，不能依賴于人工智能開發(fā)商，而應(yīng)與政府和其他技術(shù)監(jiān)管部門協(xié)作，在教育系統(tǒng)內(nèi)部組建專家技術(shù)團(tuán)隊(duì)，對(duì)人工智能應(yīng)用進(jìn)行安全性審核，防止技術(shù)濫用，制定相關(guān)應(yīng)對(duì)舉措。

03

規(guī)劃人工智能技術(shù)在教育中應(yīng)用的路線圖

  聯(lián)合國(guó)教科文組織正在協(xié)助各國(guó)共同制定人工智能戰(zhàn)略、計(jì)劃和法規(guī)，以確保人工智能在教育中的安全和有益使用。2023年5月，UNESCO組織了第一次全球教育部長(zhǎng)會(huì)議，分享有關(guān)生成式人工智能工具對(duì)教育影響的知識(shí)。《聯(lián)合國(guó)教科文組織關(guān)于人工智能倫理的建議》（2021）、《北京共識(shí)——人工智能與教育》（2019）和《人工智能與教育政策制定者指南》（2021）均提供了重要參考。

  聯(lián)合國(guó)教科文組織鼓勵(lì)各國(guó)在使用人工智能工具時(shí)，優(yōu)先考慮公平、質(zhì)量、以及安全原則，在達(dá)到安全保障的基礎(chǔ)上，對(duì)人工智能持開放和樂觀的態(tài)度，使之成為支持、補(bǔ)充和豐富正規(guī)教育體系的重要學(xué)習(xí)方式。

04

數(shù)字技術(shù)在教育領(lǐng)域的新挑戰(zhàn)

  人工智能會(huì)加速自動(dòng)化進(jìn)程，顯著提高生產(chǎn)力。新技術(shù)的使用應(yīng)優(yōu)先考慮縮小差距，因此，需要抵制人工智能對(duì)擴(kuò)大社會(huì)不平等的影響。對(duì)教育而言，應(yīng)考慮如何縮小現(xiàn)有的教育鴻溝，警惕技術(shù)對(duì)教師權(quán)威和地位的削弱作用，審慎看待“教育自動(dòng)化”，比如：沒有教師的學(xué)校，沒有學(xué)校的教育，以及其他反烏托邦的愿景等，這種教育的自動(dòng)化設(shè)想往往以效率的名義，首先對(duì)弱勢(shì)學(xué)習(xí)者產(chǎn)生不利影響。

  賈尼尼指出，很多人呼吁使用生成式人工智能，為學(xué)校無法正常運(yùn)轉(zhuǎn)、教師短缺或工資低的地區(qū)帶來“高質(zhì)量”教育。在充滿挑戰(zhàn)的環(huán)境中，前沿技術(shù)只是一種途徑，并不是解決方案。管理良好的學(xué)校、充足的師資、必備的環(huán)境條件和資金支持，仍是主要的可持續(xù)性補(bǔ)救措施。

  在教育投資領(lǐng)域，人工智能技術(shù)也面臨投資選擇困境，“教育”和“培訓(xùn)”等人工智能技術(shù)的業(yè)務(wù)規(guī)模拓展也將引發(fā)新的國(guó)際競(jìng)爭(zhēng)。并且，對(duì)技術(shù)的投資將擠壓對(duì)人的技能發(fā)展投資，對(duì)人工智能技能發(fā)展的投資有一天可能會(huì)多于對(duì)兒童和其他教育相關(guān)者的投資。即使人工智能在智力和能力上超過人類，對(duì)“人”的教育仍然很重要，而培養(yǎng)讀寫能力也是教育最重要的內(nèi)容之一。

05

重新思考教育如何重塑未來

  在人工智能加速發(fā)展和不確定的未來環(huán)境中，人類需要借助教育系統(tǒng)來構(gòu)建對(duì)人工智能的認(rèn)知、使用和規(guī)范。賈尼尼認(rèn)為，人類的慣性思維一般只會(huì)思考一項(xiàng)新技術(shù)將如何改變教育；而更有趣的思考則是，教育如何促進(jìn)人類接受新技術(shù)，并引導(dǎo)當(dāng)前技術(shù)和未來技術(shù)的整合。

  教育體系可以幫助人類理解技術(shù)革命，確定未來發(fā)展軌跡，并建立規(guī)范；幫助人們更清楚地了解何時(shí)、由誰、如何以及是否使用新技術(shù)。人工智能也促進(jìn)教育參與者重新審視在教育中“做了什么”，“如何做”，以及“為何做”。

最后，賈尼尼表示，現(xiàn)在是迎接人工智能挑戰(zhàn)的時(shí)刻。在人類健康甚至生存可能受到威脅的時(shí)代，全球必須充滿緊迫感，共同努力，確保教育系統(tǒng)在人類正確過渡到人工智能世界的過程中發(fā)揮關(guān)鍵作用。

                本文由中國(guó)教育科學(xué)研究院比較教育研究所吳云雁博士編譯