投融资信息资讯,更全更新信息实报!
首页 > 人工智能> 正文

“机器人三定律”已经过时了! 该如何保证AI不会伤害人类

来源:互联网 发布时间:2019-03-27 15:11
浏览:1599
如何保证机器人不会伤害人类?人工智能的伦理原则近来备受关注。联合国教科文组织总干事阿祖莱在3月初举行的“推动人性化人工智能全球会议”上就表示,目前还没有适用于所有人工智能(AI)开发和应用的国际伦理规范框架。对于科幻作家阿西莫夫上世纪设计、防止机器人失控的著名的“机器人三定律”,业界早已认识到其局限性。

  亚马逊推出智能背心,穿上不怕机器人

  据国外媒体报道,亚马逊正在使用一款智能背心来提高工人在仓库内与机器人相处时的安全性。这款智能背心的工作原理是可以与自动化机器人进行通信,当人类员工进入机器人工作区域内处理问题时(比如捡拾物品),机器人可以检测到背心的存在,识别出人类,并立即减速并实时更新自己的行进路线,远离背心区域,避开工作人员。

  2018年12月,亚马逊新泽西仓库发生一起事故,一台机器人刺穿了一罐坠落的防熊喷雾,释放出大量浓缩的辣椒素,直接导致附近的工人呼吸困难。这起事故导致24名员工被送往医院,其中一人伤势严重。这一事件引起了欧美工会对亚马逊自动化机器人安全性的担忧。而如何让机器人与人类和平共处、尤其是保护人类的安全,也在这次事故后被重新讨论。

  宗合

  业内

  呼吁

  超越“机器人三定律”

  人工智能期待新伦理

  ●什么是“机器人三定律”

  70多年前,科幻小说家阿西莫夫在科幻小说里为高智能机器人设定了著名的“机器人三定律”。“机器人三定律”规定:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己。后来还加入了“第零定律”:机器人不得伤害人类整体,不得因不作为使人类整体受到伤害。

  “机器人定律”需要更新细化

  “机器人不能伤害人,但机器人会以什么方式伤害到人?这种伤害有多大?伤害可能以什么形式出现?什么时候可能发生?怎样避免?这些问题在今天要么需要细化,要么需要有更具体的原则来防范,而不能停留在七八十年前的认识水平。”中国人工智能学会AI伦理专业委员会负责人、中国科学技术大学机器人实验室主任陈小平教授说。

  陈小平呼吁,为规避人工智能发展过程中的伦理道德风险,人工智能学术界和产业界,以及伦理、哲学、法律等社会学科各界应参与原则制定并紧密合作。“就长期来看,不能等到出现了严重的问题,再制定措施去防止。”

  全球知名的艾伦人工智能研究所首席执行官埃齐奥尼两年前就呼吁更新“机器人三定律”。他还提出,人工智能系统必须遵守适用于其操作人员的所有法律条文;人工智能系统必须明确表示它不是人类;未经信息来源明确许可,人工智能系统不能保留或披露机密信息等。

  以人为本,首先要“保护人类”

  美国机器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念,认为“友善”从设计伊始就应当被注入机器的智能系统中。

  百度公司创始人李彦宏在2018年提出了“人工智能伦理四原则”,首要原则就是安全可控。

  美国电气和电子工程师协会规定,人工智能要优先考虑对人类和自然环境的好处的最大化。该协会还规定,为了解决过错问题,避免公众困惑,人工智能系统必须在程序层面具有可追责性,证明其为什么以特定方式运作。        新华社

创业速递

更多 >

热门文章

  • 淘宝周年庆玩转花式免单,福利连送五天引全网狂欢
    淘宝周年庆玩转花式免单,福利连送五天引全网狂欢

    淘宝周年庆玩转花式免单,福利连送五天引全网狂欢

    5月10日,淘宝迎来自己的21岁生日。和以往庆祝方式不同的是,今年的淘宝以免单为贯穿始终的主题,给消费者带来为期5天的福利狂欢。...

  • OpenAI发布最新GPT-4o多模态大模型,人
    OpenAI发布最新GPT-4o多模态大模型,人工智能ETF(159819)今年以来净流入约20亿元

    OpenAI发布最新GPT-4o多模态大模型,人

    图片来源: 图虫创意人工智能大模型和应用又迎新进展,OpenAI于北京时间2024年5月14日凌晨1点举行了春季发布会,公布了多

  • 90天卖了1个亿,背背佳为何还能疯狂吸金?
    90天卖了1个亿,背背佳为何还能疯狂吸金?

    90天卖了1个亿,背背佳为何还能疯狂吸金?

    本以为消失的背背佳,现在卷土重来,90天卖了1个亿,背背佳为何还能如此疯狂吸金?背背佳,90天卖了1个亿被人们遗忘的背背现在重出

  • 短短26分钟的发布会,OpenAI为何让AI 圈
    短短26分钟的发布会,OpenAI为何让AI 圈再次震惊?

    短短26分钟的发布会,OpenAI为何让AI 圈

    GPT-4o,更快、更强!对于 AI行业从业者来说,刚刚可能是一夜未眠。北京时间 5月 15 日凌晨,美国人工智能公司 Open

  • 血液安全管理场景切入,宏诚创新专注生物安全数智化
    血液安全管理场景切入,宏诚创新专注生物安全数智化能力建设

    血液安全管理场景切入,宏诚创新专注生物安全数智化

    近期,宏诚创新完成近亿元人民币的B+轮融资,此轮融资亦庄国投、云洲资本等诸多投资者参与,所筹资金重点投入于国家生物安全战略的构建

  • 央行报告:落实存款利率市场化调整机制
    央行报告:落实存款利率市场化调整机制

    央行报告:落实存款利率市场化调整机制

    每经记者 肖世清 每经编辑 马子卿日前,央行发布了《2024年第一季度中国货币政策执行报告》(以下简称报告)。在回顾今年以来政策

人工智能

更多 >

最新发布

更多 >