||
生成式AI (GenAI)已经逐渐成为日常学习与检索的工具,包括家里的学生也在天天利用“文心一言”。也看到市面上有越来越多的书籍和课程在介绍用AI辅助日常工作以及学习。联合国教科文组织(UNESCO)的关于Guidance for generative AI in education and research 比较系统的给出了教育与研究中使用GenAI的指导,以下仅对“学习”有关的部分的“使用场景”加以归纳。GenAI真不是“万能”的,“避坑”从现在就要开始。
使用场景 | 可能风险 | 合理使用 |
文、图、代码等内容使用 | 可能有未经授权的文、图、代码等内容 | 了解数据所有者,并应检 查他们使用的GenAI 工具是否违反任何现有法规 |
“随机鹦鹉”一样生成的看似令人信服的文本 | GenAI模型 “实际上”它们并不理解语言和现实世界, 无法生成关于现实世界、物体及其关系、人与社会关系、⼈与物体关系或⼈与技术关系的真正新颖的内容;还可能会产生有关人物、地点或事实的不准确信息 | 使用基于对现实世界的观察或科学方法;需要对GenAI 所产生的⼀切采取批判性的态度 |
回答特定问题 | 只输出标准答案或输出仅代表最常见或最常见的文本; 限制和破坏多元和少数意见以及多元思想表达 | 不应仅从表面上接受GenAI 提供的信息,而应始终对其进行批判性评估。就必须认识到 GenAI永远不可能成为其所涉及的任何主题的权威知识来源 |
1:1 语言学习:通过参与对话练习来吸引学习者,帮助他们通过提供反馈,改正错误,并模仿母语或外语来提高听、说、写的技巧。帮助学习者提升他们的写作技巧 | 需要警惕对文化不敏感或情境上不准确的语言,以及无意中延续的刻板印象或文化偏见;如果没有适当的教学策略来激发学习者的内在动力,可能会限制孩子们的创造力和独创性,导致公式化的写作。 这也可能限制现实生活交流,多元观点,多元表达和批判性思考的机会。 | 考虑到GenAI系统可能提供的对文化不敏感或年龄不适宜的输出,可能会设置独立对话的年龄限制(13岁及以上); 学习者必须有初步的内在动力与AI系统进行对话; 学习者应能够批判性地对待GenAI的建议,并检查它们是否准确。 在使用通用GenAI平台时,人类教师可以指导学习者与GenAI工具互动,以寻求改进、纠正发音或写作示例的反馈。 示例提示词:让我用[x]语言和你进行对话,帮助我不断提高。为我提出一些关于[主题x]的写作建议。 |
1:1艺术学习:提供供艺术 技巧方面的建议(例如透视和色彩方面的技巧)或音乐创 作(例如旋律和和弦) | 可能会使儿童接触到不适当或冒犯性的内容,这可能侵犯了他们保护和健康的权利。GenAI工具增加了阻止学习者发展他们的想象力和创造力的风险。 | 学习者必须对创作艺术或音乐有初步的目标,对艺术或音乐领域的关键元素有基本的理解,并具有分析艺术作品或音乐作品的基本能力。 人类教师应要求学习者将AI工具的艺术技巧与他们自己的艺术作品进行比较。人类教师或教练必须鼓励学习者发展并应用他们的想象力和创造力,这是GenAI无法替代的。 示例提示词: 提供一些想法来激发我创建关于[主题/想法]的图片。 |
1:1 编程或算术辅导:支持学习者自我掌控的基础编程知识和技能学习,找到学习者编程中的错误并提供即时反馈,以及针对问题提供定制化的答案。 | 反馈和建议的准确性仍然是一个问题,因为GenAI并不总是正确的; GenAI工具存在很大风险,可能会阻止学习者发展计算思维技能,以及找到和定义编程的有意义问题的能力。 | 寻找和定义问题,以及设计算法解决问题,仍然是学习编程的核心部分。 学习者必须具有内在动力去编程,并具备一些使用编程语言的基础知识和技能。 人类教师和教练应教授基本知识和技能,并激发学习者利用计算思维和编程来解决问题,包括通过协作编程。 示例提示词: 提供一些编程的不常见想法。 |
GenAI辅助课程设计:协助课程和课程设计过程,包括概述或扩展目标主题的关键领域的观点,并定义课程结构。还可以通过提供问题的例子和评估标准,帮助教师准备测试和考试。 | GenAI强加主导的规范和教学方法的风险是很高的。它可能无意中延续了偏爱已经拥有大量数据的群体的排他性实践,并加剧了在获得相关和高质量教育机会的不平等,使得数据贫弱的群体处于不利地位。 | 教师必须理解并仔细指定他们希望课程、课程、课堂或测试覆盖和达到什么,他们是否希望解决程序性或概念性知识,以及他们希望应用哪种教学理论。 向GenAI提问关于建议主题的事实知识的结构和示例,建议教学方法和过程针对主题或问题,或者基于主题和格式创建课程包或课程计划。课程设计师需要验证事实知识并检查建议的课程包的适当性。 |
生成式聊天机器人助手:提供个性化的支持,回答问题并识别资源。 | 根据当前GenAI模型的能力,教育机构需要保证对GenAI工具提供的响应进行人类监督,并警惕误导信息的风险。这也可能限制学习者获取人类指导和支持的机会,阻碍建立强大的师生关系,这对于儿童来说尤其令人担忧。 | 支持教师,但直接针对学习者,因此这要求学习者具有足够的先验知识、能力和元认知技能来验证GenAI的输出并注意到误导信息。因此,这可能更适合高等教育中的学习者。 要求教师清楚地理解问题,监视对话,并帮助学习者验证GenAI提供的可疑答案。 |
苏格拉底式的挑战者(让学习者参与对话,这对话让人想起苏格拉底对先验知识的提问,从而引导他们发现新知识或对已知知识有更深的理解。) | 当前的GenAI工具可能生成类似或标准的答案,这限制了学习者接触多元观点和替代视角的机会,导致回音室效应,并阻碍了独立思考能力的发展。 | 学习者必须达到允许他们与GenAI工具进行独立对话的年龄(13岁及以上)。学习者必须具备先验的知识和能力,以检查呈现的论点和信息是否准确。 教师可以帮助准备一个逐渐深化的问题列表,作为学习者适应提示的例子。学习者也可能从一个广泛的提示开始,例如“让我参与一次关于[主题x]的批判性观点的苏格拉底式对话”,然后通过逐渐优化的提示来深化对话。 |
基于项目学习的顾问(通过帮助学习者进行项目为基础的学习来支持知识创造) | 没有坚实的先验知识和验证答案准确性所必需能力的学习者可能会被GenAI工具提供的信息误导。这也可能限制学习者和同伴的讨论和互动,减少合作学习的机会,可能对他们的社会化发展造成伤害。 | 学习者可以在规划和实施基于项目的学习中充当初级研究员。学习者必须达到足够的年龄能够独立使用GenAI平台。学习者必须有参与自我指导的基于项目的学习活动的动力和能力,这样他们就不会被动地复制和粘贴GenAI工具提供的答案。 教师指导学习者向GenAI提问,要求提供基本的研究问题定义的想法。个人和团体学习者利用GenAI工具进行文献回顾,收集和处理数据,以及创建报告。 |
值得关注的使用GenAI未来可能的 “坑”:
1. 未知的伦理问题:如公平、人与人的连接与社交、预订的解决方案对学习者智能的限制、心理影响 、隐藏的偏见和歧视
2. 知识产权问题
3. 内容来源与学习:GenAI 文本的可能会误导年轻的学习者;对未经验证的内容的“学习”;通过感知、体验、实验等方法构建知识的机会
4. 同质化反应VS多样化和创造性的产出:依赖 GenAI ⼯具来寻求建议,这可能会导致答案的标准化和⼀致性;书面作品和艺术作品中表达的潜在同质化;培养创造⼒、协作、批判性思维和其他高阶思维技能
5. 重新思考评估和学习成果:重新思考包括:价值观、基础知识和技能、高阶思维技能以及与AI合作所需的职业技能
6. 思维的过程:⼈类主体与机器之间的互补关系;⼈类是否有可能将基本层次的思考 和技能习得过程交给⼈⼯智能,而专注于基于人工智能提供的输出的高阶级思考技能。(未来的⼀种选择将是,写作学习可能会侧重于培养规划和撰写提示词的技能、对 GenAI 输出的批判性评估、高阶思维,以及基于 GenAI ⼤纲的共同写作)
(以上内容翻译部分使用ChatGPT-4完成)
(这一周: 2024-5-5)
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-11-23 10:50
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社