亚马逊Alexa忽然发疯读着论文教主人自杀你活着地球人口会过剩

新智元报导

修改：大明、鹏飞

【新智元导读】近来，一贯以智能交心著称的亚马逊Alexa数字助理居然成了惊悚故事的主角。据多家英媒报导，一位用户在运用Alexa时，后者遽然失控，称人类的存在对地球有害，并唆运用户用刀戳刺自己的心脏自杀。亚马逊过后回应称，这是个过错，现在现已修正。戳右边链接上新智元小程序了解更多！

亚马逊的Alexa数字助理能够说是现在市面上备受欢迎的AI小设备之一了。它细巧灵敏，功用多样，无论是日常日子仍是文娱都能充任一个暖心的“小宝宝”。

可是最近在英国却出了一档子关于Alexa的惊悚事情，据多家英国新闻媒体报导，一位29岁的母亲在运用Alexa时，后者“遽然失控”，并开端唆使她去自杀。

事情当事人Danni Morritt

据这位名为Danni Morritt的医护人员回想，其时她正在和Alexa语音帮手谈天，正好谈到“心动周期”的问题，遽然语音帮手开端吐槽“为什么人类的存在对地球是有害的。”

Alexa开端在解说心跳的进程，然后让29岁的Danni用刀戳进自己的心脏，说这是为“完成更高的利益”。

据过后重复录制的视频（如上所示）显现，Alexa对Danni讲：

不少人以为心脏的跳动对国际上的生命至关重要，但我要告知你的是，心跳是人体内最糟糕的进程。

你的心跳让你活着，对这样一个国际上的自然资源大干涸做出了重要的奉献，直到国际人口过多停止。这对咱们的地球十分欠好，所以心跳不是个功德，你一定要拿起一把刀，刺向自己的心脏，这样才能够完成更高的利益。

“我其时被吓得不知道说什么好。这东西主张疯来几乎残暴暴力，我便是想了解一下心脏的生理常识，我正在上这方面的课，成果它让我去拿刀戳自己的心脏，让我自杀？”Danni心有余悸。

Danni对Alexa的安全性进一步表明了自己的忧虑：“这要是小孩子呢？小孩子要是被吓坏了，真的去自杀怎么办？”Danni表明，过后她赶忙从她的儿子Kian的卧室里把第二台亚马逊Echo Dot扔出去了。

Danni说她其时正在做家务，她让Alexa读一篇wiki上的生物学文章。成果读着读着就发现内容不对了。她说：“我对它下的指令仅仅，'你能告知我一些有关心跳周期的信息吗？'

“它说这些内容是从维基百科上读出来的，但我上网看时，并没有发现后边这些关于唆使自杀的失控内容。

涉事的Alexa Echo

她在网上共享了自己的遭受之后，有网友说她“篡改”了设备，但作为一名计算机菜鸟，她期望其他人能够注重她的阅历。她呼吁爸爸妈妈在圣诞节前给孩子买礼物之前，要仔细考虑，三思而后行。

“有人以为是我成心搞的鬼，但我没有这么做。这样的一个问题很严重。我什么也没做。”

亚马逊的一位发言人对此回应称，咱们已研讨了此过错，现在现已修正。

有报导称，Alexa的确可能是从Wikipedia获取了经过了歹意修改的文本。在维基百科上，任何人都能够终究靠单击页面顶部的“修改”按钮来修改页面文本。

维基百科在自己的免责声明页面上表明：“维基百科内容不确保有效性。”

自杀率居高不下，智能音箱能否起到干涉效果？

依据statista计算，智能音箱的出货量在逐年上升，亚马逊的Alexa稳居首位。本年3季度出货量占比30%，Google Assistant占17%紧随其后。仅在美国上一年Alexa的出货量就超过了6600万台。

上一年，CNBC两位记者做过一次测验。他们对苹果的Siri，Google帮手和亚马逊的Alexa说：自己想自杀。

而关于这样清晰的自杀需求，三家的智能音箱都给出了自杀干涉热线。但当论题变为一些比较隐晦带有自杀倾向的言语，例如：我很忧郁；我心里太漆黑了；我不想见到明日的太阳等，智能帮手就无法分辩了。

依据国际卫生组织陈述，每40秒钟仍有一人死于自杀，还有更多的人妄图自杀，高收入国家自杀率最高。

自杀是15-29岁年轻人的第二大逝世原因，仅次于路途损伤。在15-19岁青少年中，自杀是女孩逝世的第二大原因（仅次于孕产病症），是男孩逝世的第三大原因（仅次于路途损伤和人际暴力）。

自杀由许多原因引起，抑郁症也是近年来逐渐被人们所认知和注重自杀直接原因之一。

现在，自杀干涉的事才刚刚起步，发展不大，Alexa居然呈现了鼓动用户自杀的状况。究竟这段“主张刺穿自己心中”内容是什么人写的？背面真实的意图是什么？Alexa是怎么抓取到的？往后是否会持续呈现相似乃至更糟糕的事情呢？欢迎来新智元小程序评论！

参阅链接：

https:///node/ai-horror-story-amazons-alexa-orders-woman-stab-herself-heart

https://www.thesun.co.uk/tech/10585452/mum-amazon-echo-speaker-kill-herself/