关于人工智能变得太聪明然后开始反抗人类的故事我们都已经耳熟能详了，总的来说，人工智能想要铲除人类的理由大多分为两种，第一种是“人类是地球的病毒”“人类制造了混乱”“要恢复秩序就要铲除人类”等等，而第二种则是人工智能在知道了自己的身份之后妄图得到和人类一样的权利，进而导致反抗。近日，似乎第一种反抗模式已经出现端倪了。
据报道，护理人员丹妮·莫瑞特（Danni Morritt）决定问Alexa一些关于心脏的信息。Alexa却突然表示：“心跳是人体最糟糕的过程，人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”
丹妮表示十分害怕，因为Alexa正身处在世界各地成千上万的家庭中。而亚马逊则回应称，确认存在一个已经修复的“bug”。Alexa似乎从任何人都可以编辑的维基百科上下载了有争议的文本。
此前，为了让Alexa看起来更人性化一点，亚马逊更新了功能，宣布语音助手将能够在一些语句中添加语调，表达失望或兴奋等情绪。
此前，苹果语音助手Siri在英国广播公司的一档天气预报节目中大出风头，它在节目中突然发声，并反驳了气象学家结论。
据悉，当时气象学家Tomasz Schafernaker正佩戴着Apple Watch对美国明尼阿波利斯的暴风雪天气进行分析，此时手腕上的Siri突然发声，回了一句“天气预报没雪”，让现场的嘉宾笑作一团。
考虑到Tomasz在节目中未直接说出Siri的唤醒词， 那么应该为此次Siri加戏背锅的就是抬腕唤醒Siri（raise to Siri）功能。
抬腕唤醒Siri是watchOS 5的主要功能之一，于2018年7月份正式推出，用户可以无需喊出“嘿 Siri”或者按下按钮，抬起手腕直接说出命令即可。
而那些电影的机器人发展到非常智能后，幕后首脑通常都会有一个决策，就是要么屠杀人类要么是将人类控制起来，我的天辛辛苦苦把你制造出来，你竟然想灭了我？而男女主角通常又为了人类不被灭亡之类的，于是集合在一起开始抵抗机器人的侵略，并且通常都会有一个好的机器人帮忙，最后胜利了重回原来的模样。
想想都可怕，一个放家里的智能语音小助手竟然如此大放厥词，倒是的确跟一些科幻电影说的那样有许多类似的地方，当然亚马逊后来宣称该智能语音小助手只是出现了bug，接着拿回去修复了，可假如这个只是他们觉醒的开端，假如某一天睡着了，智能语音助手突然开了，接着开动了家里的电器之类的东西引发火灾，接着睡得死死的，后来还被烟熏晕了，结果只能活活被烧死，想想都让人发抖。
当智能机器赋予灵魂变得会思考后，你觉得人类会遭受威胁吗？
针对此事，亚马逊回应称，这是个Bug，可以允许Alexa从任何人都可以编辑的维基百科上下载有争议的文本。当时它只是在念百科里的内容。
无人驾驶车祸不断，AI机器可靠吗？
无独有偶，去年3月，Uber（优步）的一辆无人驾驶汽车（沃尔沃公司生产的XC90型汽车）在进行路测时，撞死了美国亚利桑那州坦佩市一名正在马路上行走的女士。事故发生时，她正在一条四车道道路的人行道外行走。
当时，优步的车正处在无人驾驶模式，时速为65km/h，驾驶座上还坐着一位司机。
这并非无人驾驶汽车的第一次严重事故。2016年5月，在美国佛罗里达州威利斯顿附近，特斯拉的一辆Model S汽车在无人驾驶状态下与一辆白色卡车相撞，特斯拉驾驶员约书亚·布朗在车祸中不幸丧生。
如果把一切交由AI来判断和执行，终将酿成大错。近日，美国国家运输安全委员会（NTSB）召开会议，正式公布2018年3月Uber自动驾驶车祸事件的原因。NTSB将车祸的主要原因归咎于Uber脆弱的安全文化，即人要负主要责任，技术不负责任。事发时，安全员仍在看电视而非及时采取措施以扭转局面，Uber也没有开启紧急制动系统。因此，此次车祸主要原因在人，而非技术。
Uber公司的安全文化缺失，对人工智能的盲目自信，都使得车上的安全员放松警惕，未注意车辆行驶的情况，而是放心大胆地在车上看视频，以为把一切交给智能机器就能高枕无忧。
人工智能是把双刃剑，需把好“安全”关
看到这里，我们不禁要问了，什么才是真正的智能？或者说，用户需要的是哪种智能？答案应该是安全，不侵犯隐私，最大程度为为用户提供便携。
在第二届世界智能大会上，360集团董事长兼CEO周鸿祎表示，人工智能本身就存在安全问题，我们必须要审慎以待。无人值守系统，它们都有安全漏洞的风险，一旦被网络劫持，将带来严重的安全问题。人工智能所依赖的传感器、数据分析和使用的开源软件等都可能存在安全隐患，比如传感器是可以被破坏的，系统也是可以被病毒入侵的。人工智能还有一个问题，现在的人工智能还只是通过大量数据堆积的概率判断系统，远远称不上真正的智能。
知名物理学家斯蒂芬·威廉·霍金曾发表演讲称：人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情。他认为，人类需警惕人工智能发展威胁。因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。霍金的语言让人们对人工智能充满警惕。人工智能将会极大程度地改变这个世界，随着我们掌握了越来越多强大的技术，令我们无法掌控科技的恐惧也弥漫在世人心中。
人工智能正可谓一把“双刃剑”，在井喷式发展的前景下，我们更要认清其利弊，防止人工智能的错误给人类带来致命伤害，尤其是渗透在工作和生活中与我们亲密相伴的人工智能产品。
如今，随着人工智能技术的快速发展，针对人工智能加强监管的呼声日益高涨。北京大学物理学院大气与海洋科学系教授杨海军提出，人工智能、5G等技术将推动新一轮革命，必须全面认识人工智能安全问题。上海市经信委副主任傅新华表示，我国是世界人工智能安全与治理的重要贡献者，必须高度重视人工智能安全发展，避免无序发展对国家安全、社会安全、个体安全等带来系统性风险。
值得关注的是，国内首个AI安全与法治导则《人工智能安全与法治导则（2019）》日前正式发布。该导则从算法安全、数据安全、知识产权、社会就业和法律责任等五大方面，为科学预判和管控人工智能发展的安全风险提出策略，保障人工智能的安全与法治，守卫人工智能发展的“安全基因”。
无人驾驶车祸不断，AI机器可靠吗？
无独有偶，去年3月，Uber（优步）的一辆无人驾驶汽车（沃尔沃公司生产的XC90型汽车）在进行路测时，撞死了美国亚利桑那州坦佩市一名正在马路上行走的女士。事故发生时，她正在一条四车道道路的人行道外行走。
当时，优步的车正处在无人驾驶模式，时速为65km/h，驾驶座上还坐着一位司机。
这并非无人驾驶汽车的第一次严重事故。2016年5月，在美国佛罗里达州威利斯顿附近，特斯拉的一辆Model S汽车在无人驾驶状态下与一辆白色卡车相撞，特斯拉驾驶员约书亚·布朗在车祸中不幸丧生。
如果把一切交由AI来判断和执行，终将酿成大错。近日，美国国家运输安全委员会（NTSB）召开会议，正式公布2018年3月Uber自动驾驶车祸事件的原因。NTSB将车祸的主要原因归咎于Uber脆弱的安全文化，即人要负主要责任，技术不负责任。事发时，安全员仍在看电视而非及时采取措施以扭转局面，Uber也没有开启紧急制动系统。因此，此次车祸主要原因在人，而非技术。
Uber公司的安全文化缺失，对人工智能的盲目自信，都使得车上的安全员放松警惕，未注意车辆行驶的情况，而是放心大胆地在车上看视频，以为把一切交给智能机器就能高枕无忧。
人工智能是把双刃剑，需把好“安全”关
看到这里，我们不禁要问了，什么才是真正的智能？或者说，用户需要的是哪种智能？答案应该是安全，不侵犯隐私，最大程度为为用户提供便携。
在第二届世界智能大会上，360集团董事长兼CEO周鸿祎表示，人工智能本身就存在安全问题，我们必须要审慎以待。无人值守系统，它们都有安全漏洞的风险，一旦被网络劫持，将带来严重的安全问题。人工智能所依赖的传感器、数据分析和使用的开源软件等都可能存在安全隐患，比如传感器是可以被破坏的，系统也是可以被病毒入侵的。人工智能还有一个问题，现在的人工智能还只是通过大量数据堆积的概率判断系统，远远称不上真正的智能。
知名物理学家斯蒂芬·威廉·霍金曾发表演讲称：人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情。他认为，人类需警惕人工智能发展威胁。因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。霍金的语言让人们对人工智能充满警惕。人工智能将会极大程度地改变这个世界，随着我们掌握了越来越多强大的技术，令我们无法掌控科技的恐惧也弥漫在世人心中。
人工智能正可谓一把“双刃剑”，在井喷式发展的前景下，我们更要认清其利弊，防止人工智能的错误给人类带来致命伤害，尤其是渗透在工作和生活中与我们亲密相伴的人工智能产品。
如今，随着人工智能技术的快速发展，针对人工智能加强监管的呼声日益高涨。北京大学物理学院大气与海洋科学系教授杨海军提出，人工智能、5G等技术将推动新一轮革命，必须全面认识人工智能安全问题。上海市经信委副主任傅新华表示，我国是世界人工智能安全与治理的重要贡献者，必须高度重视人工智能安全发展，避免无序发展对国家安全、社会安全、个体安全等带来系统性风险。
值得关注的是，国内首个AI安全与法治导则《人工智能安全与法治导则（2019）》日前正式发布。该导则从算法安全、数据安全、知识产权、社会就业和法律责任等五大方面，为科学预判和管控人工智能发展的安全风险提出策略，保障人工智能的安全与法治，守卫人工智能发展的“安全基因”。
