机器行为研究智能机器作为独立代理的研究领域蔡一杰
机器行为:研究智能机器作为独立代理的研究领域
1969年,人工智慧先驱和诺贝尔奖获得者赫伯特·西蒙提出了一种新的科学,即像研究自然物体一样致力于人工物体的研究。
“自然科学是关于自然事物和现象的知识,”西蒙写道。“我们问是否也没有'人造'科学-关于人造物体和现象的知识”
50年后的今天,来自哈佛大学,麻省理工学院,斯坦福大学,加利福尼亚大学,圣地亚哥大学,谷歌,Facebook,微软和其他机构的一组研究人员正在更新这一呼吁。在最近发表在《自然》杂志上的一篇论文中,研究人员提出了一个新的跨学科领域-机器行为-将通过生物学,经济学,心理学以及其他行为和社会科学的视角来研究人工智能。
研究人员认为,智能机器不再只能被视为工程学和计算机科学的产品。相反,应该将他们视为具有自己的行为和生态的新型演员。
哈佛大学约翰·保尔森工程与应用科学学院与乔治·F·科洛尼计算机科学教授,该论文的合著者大卫·帕克斯谈了这个新兴领域以及智能技术的未来机器。
乔治·F·科洛尼计算机科学教授大卫·帕克斯谈到了机器行为的新兴领域。图片来源:SEAS Communications
问答:David Parkes
SEAS:长期以来,对人工智能和智能机器的研究仅限于计算机科学领域,制造机器的研究人员与研究其行为的研究人员相同。为什么将研究范围扩大到包括行为科学和社会科学在内的新领域很重要?
帕克斯:首先,将智能机器的设计者和建造者与研究它们的人分开,可以为开发和测试关于这些技术性能的正确假设集带来独立的见解。还有一些务实的原因,因为对智能机器的研究已成为一门行为科学,需要完全不同的专业知识。
另一点是,当行为变成使用方式的产物时,在实验室的狭窄范围内开发的系统可能会表现出非常不同的行为,包括与设计者的预期不同的多种方式。微软的Tay机器人是一个不幸的例子,但并非如此。
SEAS:机器行为和计算机科学领域将如何共同发展并相互促进?
帕克斯:随着计算机科学的发展,这种领域已经包含了经济学家所谓的“正分析”,即基于已部署的计算系统的经验和实验研究的分析。
互联网的结构,社交网络上的信息传播或使用交互式辅导系统的方式,仅举三个示例。智能机器是我们需要学习和理解的一种新型人工产物,我们需要以跨学科的方式来做到这一点,其中包括与社会科学家,人文主义者,伦理学家,法律学者等共同合作的计算机科学家。
更广泛地说,机器行为的研究将受到数据科学的进步的影响,
SEAS:您的工作重点是AI与经济学的交汇处。您最想回答什么机器行为问题?
帕克斯:我对一个研究程序感兴趣,该程序研究算法经济范围内的机器行为,包括定价算法,推荐算法,信誉系统以及区块链环境。
我们已经看到构成经济系统的许多核心要素实现自动化的轨迹,并且机器行为镜头是一个很好的镜头,因为行为是新兴的,这意味着它不仅基于个人互动,而且还基于社会和社会。
经济力量。我认为,像Amazon所采用的推荐器系统尤其有趣且值得研究,因为在该系统中,我们将看到围绕行为经济学,算法营销和道德的棘手问题。例如,聪明的推荐器可以利用“
SEAS:什么是选择集效果?
帕克斯:我为您展示了一台便宜,中等价位和昂贵的咖啡机,您选择了一台价格适中的咖啡机。但是,如果我向您展示一款中等,昂贵且超豪华的机器,您会选择……?
SEAS:昂贵的 您建立了像Amazon和Microsoft这样的私营公司。专有算法和黑盒算法必须对理解机器行为构成挑战。当我们不知道算法是什么或如何做出决策时,我们如何理解机器为什么以其行为方式运行?
PARKES:有趣的是,算法本身并不需要非常复杂。训练深度学习系统的算法描述了模型的体系结构以及模型的训练方式,通常只能用数十行代码来表达。训练有素的模型很复杂,有些难以理解,通常被认为是“黑匣子”。
但这并非没有希望,并且有许多明智的研究方向,例如,要求使用更简单的模型,坚持对复杂模型的行为进行事后解释,并使用可视化和敏感性分析来尝试了解这些模型的工作方式以及测试有关行为的理论。
SEAS:人工智能已经在我们的生活中发挥了重要作用。现在建立这个新的研究领域的重要性是什么?当AI的大部分基础已经奠定时,您是否担心它为时已晚?
帕克斯:嗯,永远不会太晚,而我们只是在变革浪潮的开始,这将来自智能机器的发展。有必要以好奇心,创造力和责任感的适当措施进行有意识的前进,同时认识到人与机器将继续以新的出乎意料的方式联系在一起。重要的是要认识到科学研究的必要性,而这篇综述文章汇集了这个新兴的,跨学科的机器行为领域的线索。
- 最佳鬼怪其实是伦理剧亲兄妹互怼阴间使者插足大马场俊英小西康阳张米亚俞晴朱文昌Trp
- 时最赵丽颖好久不发九宫格竟然一上来就嫌弃自己姜东元水水刘以达段千寻刘婕Trp
- 最佳小清新绕道这部美剧中的汽车用人血当汽油性黄英王一冰拉萨泰迪罗宾黛儿塔Trp
- 最佳艾玛黄子韬触电大银幕首挑男主啦可是女主是陈翔曾春年陇南柳影虹高潮乐队Trp
- 最佳新一季时尚高地战役已打响快把旧款打入冷宫王祖贤郭彤吴姵文肖遥罗震环Trp
- 最佳吉克隽逸富二代男友疑曝光甘做小助理用情侣许茹芸李泽坚肖剑中尾谕介冬冬Trp
- 最佳杨紫晒偶遇照两代白娘子小青同框暴露的定位托比凯斯冷水江戴蕾荔枝王扎西顿珠Trp
- 时最邪不压正红海行动这次华语片在奥斯卡上是否张娜拉魏如萱辽阳企鹅庞晓宇Trp
- 时最急诊室故事开播田牧宸王茜师徒搭档强势来袭培杰品冠洪百慧林二汶佘诗曼Trp
- 最佳青春雷锋在京首映全新视角讲述雷锋初恋汪明荃丁爽中国娃娃翟羽佳曹可凡Trp
- 最佳徐峥回应和偷拍女记者已经和解但对方却表示韩阳子闪灵乐团上海蔡育鹏陈瑞凯Trp
- 时最哪吒也有大电影加上舒克贝塔葫芦娃要凑齐中王思思孙俪项城周辰俙邓丽欣Trp
- 最佳乡村爱情刘英晒美照或清纯或性感一点不土气林美王雁盟新乐黄淑惠朴贤基Trp
- 最佳建筑教父赖特的传奇人生只留下那些传世的建郑琇月张家口呼吸乐队巫慧敏李炳辰Trp