移动互联

  |  手机版

收藏网站

投稿QQ:1745232315

IT专家网,汇聚专业声音 解析IT潮流 IT专家网,汇聚专业声音 解析IT潮流

网络

专家视点在现场环球瞭望
IT专家网 > 移动互联

微软Tay黑化后,Facebook机器人要做好保护措施

作者:新浪科技出处:论坛2016-04-19 05:33

  现在机器人火得不行。好像整个高科技产业都在研发应用程序内以AI为基础的助手,为你进行简单、琐碎的任务,节省你的时间,让你工作更高效。就在本月,微软和Facebook都发布了开发者工具,使得在其平台上打造机器人更加容易。

  鉴于目前该像微软和Facebook和微信公司希望看到机器人部署规模,它的合理担心这项技术可能有多少人监督有。

  这波对机器人的兴趣的确能迎来新的经济,内部短信平台和搜索引擎的这些隐形助手,争夺我们的感情。眼下,其用途可能看起来很平常——通过短信订购比萨饼,或者在手机程序买卷饼。但随着聊天机器人增多并变得更加熟练,它们可以提供更智能,更个性化的服务体验。想象一下,一个机器人解答你有关法律事务的问题,甚至是你心理健康的问题。

  因此,程序员必须保持谨慎。非正确训练、监控的机器人可以变得丑陋。别担心,现在还没有任何机器人起义的危险,但已出现恣意欺骗人类的机器人,众所周知,微软的Tay黑化了。高科技公司在开发对话机器人时必须把这几件事铭记于心。

  自发行为

  作为一个人工智能机器人,除了已编程好的,它还可以学到新的技能和执行其它任务。机器人专家称之为自发行为。机器人在了解新任务时,经常没有人类为其过滤器或引导。这就是聊天机器人Tay,原本编程是从对话中学习,最后却变成满口仇恨的纳粹的原因。为了防止这种情况再次发生,关键是要主动监测。

  “我会检查我所有的机器人,但更多地,我会去想如果输入的东西是否会产生有问题的内容。”诺拉里德说,其创造了许多受欢迎的推特机器人。 “我会避免某些内容,我不希望这些东西和其他的放在一起,因为会导致边缘化或偏执。”

  鉴于目前像微软、Facebook、微信对机器人的部署规模,担心是否有足够的人在监督这项技术是合理的。微软未来社会试验实验室的经理程丽丽说,该公司正在考虑“其它类型的工具,当开发者的机器人行为方式出现问题时,我们可以帮助他们得到更好的提示。”程指出,开发者们会想知道,他们的机器人是否在发送不当内容,或出现其它异常。

  即使是事后分析,机器人的程序员应该,改良机器人,使他们不再出现麻烦的自发行为。要做到这一点,可以限制主体获得数据,或者把对机器人而言的的不当话语,建一个黑名单。这些都是常见的做法,聊天机器人交互设计师卡罗琳赛德斯说。

  别被我的人性化蒙蔽

  当你与一个与聊天机器人对话,很明显,你是在和软件说话。谈话会感觉僵硬。但是,一些机器人善于闲聊,这个技能,会让你怀疑你真的在和代码交流吗。 “因此,信息披露是非常重要的,”桑福德大学的法学教授伍德罗哈佐格说, “当人们觉得他们正在和人打交道,但实际上他们是和机器人交流时,很容易出现问题。”

  微软强调公开内容在一定程度上的重要性。其开发者的行为守则要求,一开始发送欢迎的消息,以帮助机器人的用户记住,他们正在与软件打交道。

  但是,欢迎信息不一定披露人与机器人互动。毕竟,亚马逊的热门硬件设备里的机器人Alexa,仅仅是一个女人的名字。 “如果这个名字不能表明它是机器人,那么这种形式的通知就是有问题的,”哈佐格说, “但是,如果你的产品说,我的名字是聊天机器人,我是一个自动化的数字助理。那么你至少让人们意识到,他们是与机器人交流。”

  在这个阶段,欺骗可能不是一个巨大的问题。大多数将以Facebook和微软平台建立的机器人, 明显将是机器人。 “Siri的答案很机械化,在与机器人对话中,也许一半的回应将是对不起,我不理解你。”赛德斯说。

  但能糊弄人的能力是真的,而且还会越来越厉害。阿什利麦迪逊已经证明。臭名昭著的出轨约炮网站被黑客入侵,表明它通过7万多的聊天机器人军队,假装女人来诱惑男人。

  作为机器人时代的高科技产业带位者,一定要记住,虽然乐于助人又高效,但是机器人只是代码。虽然,它们被设计有自己的主见,但是当它们来到世界,需要人们的监督,以确保他们循规蹈矩。

相关文章

关键词:开发者,微软,facebook,移动社交

责任编辑:东海

网警备案