当前位置:首页 > 智能硬件 > 人工智能AI
[导读] 人工智能教育中的伦理教育有两个侧面:一个是人工智能系统设计目标、技术路线、功能实现的伦理,价值取向是推动科技进步、促进社会发展、改善人民生活,一定不能违背社会大众福祉;另一个是使用人工智能系统时

人工智能教育中的伦理教育有两个侧面:一个是人工智能系统设计目标、技术路线、功能实现的伦理,价值取向是推动科技进步、促进社会发展、改善人民生活,一定不能违背社会大众福祉;另一个是使用人工智能系统时的伦理,简单说就是扬善避恶,做造福人类的事,而不能利用人工智能技术做危害社会、危害他人的行径。

使用机器代替人类的脑力劳动,是人类自计算机发明伊始就有的一个梦想。经过了几十年的努力,人工智能技术经历了几起几落,日渐成熟,已经开始辅助或代替人类一些脑力劳动,在一些具有确定目标的任务当中(如围棋、人脸识别等)人工智能甚至能够超越人类,表现出了更加优秀的性能。

镰刀斧头、蒸汽机、电力、电话延伸和增强了人类四肢和五官,只有人工智能,是第一次延伸和增强了人类的脑力。人工智能技术相较于之前所有科技进步的最大不同之处,就是它能够将人类从部分脑力劳动中解放出来。随着人工智能技术的不断成熟和广泛应用,未来会有越来越多的判断和决策交由人工智能去完成,如身份确认、评判作业、阅读病案、筛选简历、投资决策等,这就意味着人工智能将深度参与人类社会的许多重要活动。

我们不得不承认,人类在做判断和决策时,其依据一定包括社会公认准则和决策人的情感、态度、价值观,社会对人类决策者存在许多伦理道德规范和约束。在机器参与人类的判断和决策,扮演人工智能的角色时,让系统依据一套客观指标去判断是容易的,让系统从事决策性事务时,能够服从社会公认的准则和人类的价值观则是人工智能的一大挑战。

例如,一款合理的人工智能简历筛选软件,不应该因为性别、种族、肤色等因素作歧视性的简历甄别;一款用于智能医疗的软件,不能够为了获取不当利益而夸大或掩盖病情,甚至贻误治疗。公平、公正、无歧视、无欺骗等这些用来要求人类决策者行为的伦理与道德标准,也都需要在人工智能的自动决策当中切实体现。教育工作的一项重要任务就是帮助人们树立善良、正直、公平、公正等正确的价值道德标准。现在的人工智能技术水平,我们还不可能对人工智能程序进行道德教育,但是在我们开展人工智能教育时,绝不能忽视人工智能教育中的伦理教育。

我们还要充分考虑人工智能在社会活动中所扮演的新角色,考虑到这些角色的不当行为可能带来的伦理风险,不主动利用角色的特殊地位为个人牟利或是危害他人利益。

例如,当开发人员为一个公司开发人力资源管理系统,在使用传统数据库、信息系统等技术时,道德规范的开发人员需要做到的是不能利用自己的技术优势在程序中预留后门、不能窜改和拷贝公司的内部数据、在程序设计时充分考虑信息安全因素等。在开发一个基于人工智能的人力资源管理系统时,开发人员则还需要考虑机器代替人去作恶的伦理道德风险。例如应该主动避免将种族、肤色、性别等因素作为特征输入到自动决策算法当中,不开发对员工个人隐私具有窥探性的算法功能等。

进一步,人工智能伦理教育还要教使用者学会在合理的场景正确使用技术。技术通常是中性的,善恶只体现在技术的使用场景当中。例如基于人工智能的视频“换脸”技术,其发明的初衷是为了用于电影特效、艺术创作等,但也可能会被应用在不良宣传、伪造证据等不当场景当中。

此外,还要避免人工智能被动伦理风险,这是指在人工智能担负重要工作职能时,可能会遭到环境变化、外来攻击等不确定因素的干扰,如果在重要岗位上所使用的人工智能技术不够可靠和稳健,在遭到外界攻击时就有可能产生一些不可预料的后果。如自动驾驶过程中,特殊的光照等场景可能导致算法对于明显的障碍物视而不见,对于“刷脸”支付应用中的图像识别算法,一些对抗样本可以完全混淆人工智能模型的输出,将账户开放给不应被授权的访客。这些都是关键岗位上人工智能可靠性不足所带来的风险问题。

要教育学生将来在使用一项人工智能技术代替人类工作时,主动了解技术的局限性、不确定性及风险后果。

对于整个社会而言,无论是人工智能技术的开发者还是使用者,都需要进行必要的责任意识教育。人工智能工具的重要特性是辅助和代理人类去完成一定的脑力劳动。在机器代理人类去完成一定任务时,“代理风险”就会不可避免地产生。

例如,在传统战争中,武器操作者需要亲临战场进行厮杀,因此对于杀戮的残酷性会有直观的认识。到了无人武器时代,武器操作者只需要在办公室里点击按钮就能够杀敌于千里之外,战争残酷性对操作者就降低到了电子游戏的水平。

而到了人工智能时代,武器杀人有可能完全由算法来决定,人的生死就完全控制在了算法手中。在这个过程中如果再出现由于人工智能不可靠所带来的意外影响,所造成的后果甚至会给整个人类带来的巨大灾难。要想避免这样的悲剧发生,必要的技术管控手段固然必不可少,加强对于人工智能工具研发与使用者的责任意识教育也同样非常重要。

人工智能是一个发展的科学、发展的技术,在它的发展过程中,除了对科学技术的推动,对社会发展的促进,人工智能与教育的融合还催生了伴随式评价、个性化指导、团队式作业,创新了教学环境、氛围和文化,会出现新的改变和新的冲击,我们的学校和管理部门应当有何作为呢?

人工智能教育中的伦理教育有一个不断发展、不断完善的过程,维护这个过程的科学性、维护人工智能教育的健康发展任重道远。人工智能教育应该纳入义务教育、普通高中和大学的课程体系,保证学校作为人工智能教育的主渠道。教育管理部门要在普通高中和义务教育阶段的课程方案中明确人工智能课程是信息技术课程、信息科学课程的重要组成部分,明确培养目标、课程内容和学业质量标准,并不断适时更新,要严格保证学校用教材的科学性、严谨性和规范性,要及时培训学校的一线教师,让他们成为主力军。同时也要引导社会舆论和社会力量共同维护人工智能教育的健康发展。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

随着人工智能(AI)模型变得越来越复杂,数据量不断攀升,数据中心正在通过改变系统架构,来实现更快、更高效的处理。

关键字: AI 连接器

近日举办的GTC大会把人工智能/机器学习(AI/ML)领域中的算力比拼又带到了一个新的高度,这不只是说明了通用图形处理器(GPGPU)时代的来临,而是包括GPU、FPGA和NPU等一众数据处理加速器时代的来临,就像GPU...

关键字: FPGA AI 图形处理器

西门子作为制造业数字化转型成功的代表企业之一,面对生产、服务与业务增长等挑战,积极拥抱AI、自动化等新兴技术,优化企业业务流程,打造企业数字化技术新基座,开拓出更多业务转型思路。

关键字: 自动化 AI 数字化

2024年3月20日,2024中国闪存市场峰会(CFMS2024)在深圳宝安前海·JW万豪酒店盛大举办。本次峰会以“存储周期、激发潜能”为主题,共同探讨在供需关系依然充满挑战的大环境下,未来存储市场的变化,以及如何挖掘产...

关键字: SSD 存储 AI

近日,胡润研究院发布《2024家大业大酒·胡润全球富豪榜》。70岁的钟睒睒财富比去年缩水9%,以4500亿元连续第四次成为中国首富,位于全球第21位,同比下降6位。44岁的黄峥财富比去年增长71%,即1600亿元,是今年...

关键字: 钟睒睒 AI

根据戴尔日前发布的一份文件,该公司在过去一年里裁掉了大约6000名员工,以改善财务状况。

关键字: 戴尔 AI

IDC在日前发布的一份名为《全球AI和GenAI支出指南》报告中指出,2023年生成式人工智能(GenAI)的支出占欧洲AI总支出的9.6%,而在未来三年内这一比例将提升至25%。

关键字: 生成式人工智能 GenAI AI

台湾新竹 – 2024年3月26日 – 新唐科技宣布推出基于微控制器的终端AI平台,使AI生态系扩展至微控制器领域。此解决方案是基于新唐全新架构设计的微控制器和微处理器,包括NuMicro® MA35D1、NuMicro...

关键字: AI 智能家居 机器学习

近日,英特尔在深圳举办以“智绘混合AI新篇, 赋能生成式 AI 无处不在 -- OpenVINO™ 2024 焕新启航”为主题的OpenVINO™ DevCon中国系列工作坊2024活动,此次活动汇聚了英特尔产品专家、行...

关键字: AI 英特尔 AIGC大模型
关闭
关闭