点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI进化必须修复“注意力Bug”
首页> IT频道> IT时评 > 正文

AI进化必须修复“注意力Bug”

来源:科技日报2020-08-21 16:54

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  在未经充分训练的情况下,让AI关注人是容易的,但关注某个特定的人是困难的。

  在美剧《西部世界》中,AI主人公觉醒,并意识到这个世界是人类杀伐决断的乐园,于是开启了反抗之路;电影《黑客帝国》中,AI将人类豢养起来,控制了整个世界……那么在科幻世界中拥有了意识的AI,在未来生活中能否实现?

  日前,在2020年国际学习表征会议(ICLR)上,图灵奖得主、蒙特利尔学习算法研究所主任约书亚·本吉奥(Yoshua Bengio)对AI的未来提供了最新见解。他认为未来机器学习完全有可能超越无意识,向全意识迈进。而注意力机制正是实现这一过程的关键要素。

  人类的注意力机制和人工智能的注意力机制是否一样?现在应用于人工智能的注意力机制还要解决哪些bug,才能让AI真正具备注意力?就此,科技日报记者采访了有关专家。

  目的在于减少对无用线索的关注

  什么是注意力机制?“注意力机制来源于人类的视觉注意力,即人类在进化过程中形成的一种处理视觉信息的机制。”中国科学院自动化研究所研究员张兆翔说。

  张兆翔解释,人类视觉系统以大约每秒8.96兆比特的速度接收外部视觉信息,虽然人脑的计算能力和存储能力都非常有限,但却能有效的从纷繁芜杂的外部世界中有选择地处理重要的内容,在这个过程中选择性视觉注意发挥了重要的作用。如我们在看一个画面时,会有一处特别显眼的场景率先吸引我们的注意力,这是因为大脑对这类东西很敏感。

  视觉注意机制的理论研究自20世纪80年代以来一直是神经科学和认知科学的热点研究问题,目前研究者们一般按照两类标准对注意机制进行分类。“从注意产生的方向划分为:自下而上数据驱动的注意、自上而下任务驱动的注意、两者结合共同产生的注意;从关注的对象划分为:基于空间的注意、基于特征的注意、基于对象的注意。”中国科学院自动化研究所副研究员王威介绍说。

  “而对于人工智能来说,注意力机制是机器学习中的一种数据处理方法,广泛应用在自然语言处理、图像识别及语音识别等各种不同类型的机器学习任务中,其主要功能是减少对无用线索的关注。”福州大学数学与计算机科学学院、福建省新媒体行业技术开发基地副主任柯逍博士说。

  厦门大学科技处副处长、人工智能系教授纪荣嵘认为,从本质上说,注意力机制是一个特征信息评估和筛选的过程。

  一般认为,深度学习中的注意力机制最早是约书亚·本吉奥等人在2014年提出的软注意力机制。基于约书亚·本吉奥的这套理论后续又发展出了多步注意力机制、跨模态交互注意力以及时下非常火热的Transformer网络中的自注意力机制。

  “目前研究的AI注意力机制各有各的特点,但总的来说就是构建输入与输出,或者构建输入数据在不同层面上的关联关系,从而达到重点突出部分区域或者数据间的部分关系,提升任务性能。”张兆翔说。

  未经训练难以注意新鲜事物

  最近几年,注意力机制已被应用到了人工智能的许多细分领域中。“人工智能是可以被设计出不同程度的注意力的。当需要不同程度的注意力时,我们可以设计多个注意力网络。”柯逍说。

  据了解,从2016年开始,谷歌的翻译系统就已经使用了注意力机制来提升翻译质量。在文本问答、对话系统、知识图谱抽取等自然语言处理任务中,注意力机制基本成为了模型标配。在计算机视觉中,注意力机制的使用也成为了一种趋势,包括细粒度检索、图像分类、行人重识别等在内的多个研究任务中都有使用注意力机制的视觉模型。

  既然说注意力机制来源于人类的视觉注意力,那么人类的注意力机制和人工智能的注意力机制是否一样?

  柯逍认为,人工智能的注意力在一定程度上是人类视觉注意力机制的仿生,在功能上两者是近似的,但实际上有很大的不同。

  “从过程上来看是非常相似的,都是在给定任务(查询)内容时,帮助人(或模型)去关注最相关的数据信息。” 纪荣嵘举例说,如在被问及“桌子上有什么东西?”的时候,人类就会聚焦到桌子的区域。同样,在视觉问答任务中,人工智能模型也会聚焦到包含有桌子的视觉区域,然后回答“有什么”。

  纪荣嵘指出,从原理来说,人工智能的注意力机制主要是通过计算查询信息与给定特征的语义关联程度,来获得模型的注意力分布,而人类的认知系统则可能会更加复杂。

  “人工智能运用注意力的过程实际上是一个记忆查询的过程,它很快很精确,但无法发现异常。”柯逍举例说,如让AI的注意力多次从同一张图片上获取关注区域信息,结果永远是一样的;但如果让人类来做这个事,人类看第一次的时候会关注自己感兴趣的区域,但随着观察图片次数增加,人类可能会关注这张图片的其他区域。

  柯逍指出,此外人类的注意力很容易就可以做到去关注某个特定的事物,比如人群中的某个人,但是AI注意力没办法在未经充分训练的情况下做这件事,让AI关注人是容易的,但关注某个特定的人是困难的。另外还有一点最大的差别是人类注意力会关注从未见过的新鲜事,而AI注意力机制不会。

  与人类注意力相比差距明显

  据了解,认知神经科学对意识的定义是“对一个人内在思想的感知,或者是对外部事物或内在事物的察觉”。意识形成的过程是一个信息不断筛选、处理以及演化的过程。

  “约书亚·本吉奥在2017年的时候曾尝试用机器学习的方法来证明这个理论,其中一个关键环节就是使用注意力机制去选择‘意识状态’。所以,从信息提炼的角度来说,注意力机制对形成机器意识是非常重要的。”纪荣嵘说。

  类比人类思维,AI注意力机制靠直觉还是靠推理?

  “目前来说,人工智能的注意力机制更接近直觉。”柯逍说,大部分注意力机制,是在训练过程中重复告诉AI应该注意哪些地方,哪些东西是有关联的。如在训练AI的时候,不断让AI学习关注猫在河边吃鱼的区域,AI再看到有猫特征和鱼特征的图片时,就会关注猫和鱼区域,而不会看到猫,看到河推理出可能有鱼,然后再去找鱼,再关注鱼的区域。

  “近期的注意力模型研究也有倾向于对推理能力的提升。”纪荣嵘举例说,如近年热门的Transformer模型就利用了多层的注意力网络来不断提炼和处理输入的信息。在这一过程中,每一层的注意力结果都是在变化,从某种程度来说,可以认为模型是在推理。

  现在应用于人工智能的注意力机制还要解决哪些问题,才能让AI真正具备注意力?

  “首先需要增加模型的知识储备。当模型有充足的知识后,才知道哪些信息需要去关注,例如,模型如果没见过飞机的话,就不能很好地执行关于飞机描述的查询。”纪荣嵘说,另外还需要对注意力模型的结构进行改进,提升模型的推理能力,这样模型才能够在复杂的语境下运用注意力完成复杂操作。

  柯逍认为,就目前来说,AI注意力和真正的人类注意力距离仍然很遥远。谢开飞 通 讯 员 许晓凤 王忆希

[ 责编:赵艳艳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 5·18国际博物馆日

  • 贵州丹寨:欢乐“非遗周”

独家策划

推荐阅读
2021年第十四届全国运动会7人制橄榄球项目资格赛(第一站)在江苏省宿迁市奥体中心体育场举行。
2021-05-17 14:39
5月15日,第七届全国青年科普创新实验暨作品大赛福建赛区复赛、首届福建省青年科普创新实验暨作品大赛在福建省科技馆举行。5月15日,第七届全国青年科普创新实验暨作品大赛福建赛区复赛、首届福建省青年科普创新实验暨作品大赛在福建省科技馆举行。
2021-05-17 10:12
当日,贵州省黔东南苗族侗族自治州丹寨县万达小镇在“第二届中国丹寨非遗周”中举办苗族盛装巡游、非遗歌舞展演活动。当日,贵州省黔东南苗族侗族自治州丹寨县万达小镇在“第二届中国丹寨非遗周”中举办苗族盛装巡游、非遗歌舞展演活动。
2021-05-17 09:40
目前,金沙江白鹤滩水电站建设进入冲刺阶段,库区水位已蓄至752.5米,首批发电机组引水管道已充水,计划5月25日水位蓄至765米;全部16台机组机电安装作业正在有序进行;大坝混凝土浇筑完成785.4万方,24个坝段到顶,计划5月底全部坝段到顶;地下厂房正在进行装修施工。
2021-05-17 09:35
伴随着推土机、挖掘机的轰鸣,16日10时16分,西藏自治区林芝市米林县派镇至墨脱县的派墨公路老虎嘴隧道贯通,比原计划工期提前228天,标志着历时近7年建设的派墨公路全线贯通。
2021-05-17 09:21
“深海一号”能源站是我国自主研发建造的十万吨级深水半潜式生产储油平台,现落位于地处海南岛东南陵水海域的“深海一号”(陵水17-2)气田。“深海一号”能源站是我国自主研发建造的十万吨级深水半潜式生产储油平台,现落位于地处海南岛东南陵水海域的“深海一号”(陵水17-2)气田。
2021-05-17 09:18
市民们参观特种机器人生产企业,领略科技新应用的独特魅力。
2021-05-16 13:49
2021年5月16日,山东省滨州市举办首届渤海职业技能大赛,342名选手参与竞赛。
2021-05-16 12:55
浙江省杭州市临安区天目山镇周云村,滚滚麦浪与青山、农房相映成景。
2021-05-16 00:05
第40届重庆市大学生书画大赛决赛在重庆大学举行,本届大赛共有来自川渝34所高校的150多名高校书画爱好者参加比赛。
2021-05-15 23:40
2021年5月14日,位于山东省日照的长城汽车日照生产基地焊接和组装车间自动化生产线忙生产赶订单。
2021-05-15 16:57
5月7日,首届“自然中国”林业生态摄影研讨会在内蒙古自治区鄂伦春自治旗毕拉河达尔滨湖国家森林公园举办。
2021-05-15 16:47
时下,日照市29万亩茶园迎来大面积采摘期。日照市属暖温带湿润季风气候,既是世界海岸绿茶的优势产区,也是我国纬度最高、面积最大的绿茶生产基地。特殊的地理环境使日照绿茶具有“叶片厚、耐冲泡、黄绿汤、板栗香”的品质特点。
2021-05-14 17:45
5月12日,“中国最美公路”评选和传播活动启动暨“最美公路发现大使”发布仪式在京启动。
2021-05-13 18:59
第三届中国(日照)杜鹃花节上共展出来自德国、荷兰、比利时、日本等10个国家的200多种杜鹃花在这里争奇斗艳,让游客尽享杜鹃花七彩缤纷的视觉盛宴。
2021-05-13 15:18
2021-05-13 10:09
加载更多