​美大學AI教育工具引爭議:融入DEI原則恐影響K-12學童 

圖/本報資料庫

商傳媒|葉安庭/綜合外電報導一份由Parents Defending Education發布的報告指出,美國多所大學正將「多元、公平與共融」(Diversity, Equity, and Inclusion, DEI)原則,融入針對K-12(幼稚園到高中)學生的AI教育工具中,引發各界關注。這項發展正值人工智慧在教育領域應用日益普及之際,舉凡課程規劃、研究輔助、個人化輔導及學生作業評估,AI工具的角色越來越吃重。

報告警告,大學教授們正積極將「公平」、「社會正義」及「演算法偏見」等概念,置於AI開發、評估及教學的核心。Parents Defending Education憂心,若這些原則成為「負責任AI」的標準,DEI意識形態恐將深植於數百萬學生的教育工具中。該組織認為,大學此舉是在AI技術與規範仍在發展的關鍵時期,試圖將DEI「制度化」。

Parents Defending Education的一名調查記者Casey Ryan表示,美國前總統川普政府去年威脅削減推動DEI倡議的大學資金後,許多大學為避免資金受影響,表面上對外宣稱不再推廣DEI政策,實則暗中尋找新的途徑來推動這些理念。Ryan指出,他們現在可以看到,這在許多情況下,不過是為了保護聯邦政府資金而採取的策略。她強調,高等教育機構並未真正放棄DEI,只是轉為「檯面下」的方式來推動。

報告列舉多個案例說明此趨勢。麻省理工學院的Responsible AI for Social Empowerment and Education(RAISE)計畫,自稱是該校的「AI教育中心」,目標是創造一個「AI時代下更具包容性的教育與學習未來」。其「Day of AI」課程已觸及全美 150 萬名學生及超過 5 萬名教師,其中包括教導「演算法偏見」的中學倫理課程。課程中有一項練習,讓學生透過帶有偏見的資料集訓練AI系統,觀察錯誤資料如何導致結果偏差。Parents Defending Education批評,大學正透過種族、性別、語言和身份等意識形態框架來定義「偏見」,並將「公平」視為必要的校正措施,試圖讓AI模型與DEI議程保持一致。

柏克萊加州大學的Responsible AI Initiative著重於「公平性、平等、隱私、安全、資安與問責制」,目標是建立一個「更具包容性和正義的世界」。該校一項計畫探討ChatGPT是否因預設「標準美式英語」而產生歧視,認為這可能是種族歧視的替代指標。另一項名為「Gender Equity & Generative AI」的計畫則將生成式AI系統稱為「刻板印象機器」,並尋求減輕感知到的「性別偏見」。

哥倫比亞大學的Social Intervention Group旗下的「AI for Social Good and Society」倡議,則設想將AI「植根於公平和社區參與」。其項目包括「Human-Centered Benchmarks for Evaluating AI Chatbot Equity」,用以評估聊天機器人對LGBTQ+社群的反應,以及一項關於如何建構更具包容性AI模型提示詞的研究,其中包括針對「酷兒有色人種青年」的精神健康指導測試案例。

摩根州立大學的Center for Equitable Artificial Intelligence and Machine Learning Systems(CEAMLS)致力於促進「對社會負責且公平的人工智慧系統」,並制定標準來識別和減輕「演算法偏見」。CEAMLS不僅舉辦K-12 AI教育計畫,更於今年提供教師為期六週、每人 4,000 美元的暑期培訓津貼,協助開發課程所需的AI資源。CEAMLS發表的學術研究涵蓋種族與性別偏見、「文化相關」語言模型,並曾就「AI的馬克思主義視角」舉辦討論會。

Parents Defending Education對此表示擔憂,認為在AI工具融入校園的關鍵時刻,大學正透過培訓教師、教育學生、進行研究、制定評估標準、向政策制定者提供建議,並與科技公司合作等多種方式,實質影響著未來AI在教育中的發展方向。報告總結,定義「負責任」和「倫理」AI的權力,將決定其在教育領域的含義,這項關於教育意識形態的爭奪戰,正從傳統的DEI辦公室轉移到AI整合的更深層次戰場。

     

相關新聞

您可能有興趣

即時新聞

熱門新聞