向善而生的AI助盲,让AI多一点,障碍少一点******
有人说,盲人与世界之间,相差的只是一个黎明。在浪潮信息研发人员的心中,失去视力的盲人不会陷入永夜,科技的进步正在力图给每一个人以光明未来。
AI助盲在人工智能赛道上一直是最热门的话题之一。以前,让失明者重见光明依靠的是医学的进步或“奇迹”。而随着以“机器视觉+自然语言理解”为代表的多模态智能技术的爆发式突破,更多的失明者正在借助AI提供的感知、理解与交互能力,以另一种方式重新“看见世界”。
新契机:多模态算法或将造福数以亿计失明者
科学实验表明,在人类获取的外界信息中,来自视觉的占比高达70%~80%,因此基于AI构建机器视觉系统,帮助视障患者拥有对外界环境的视觉感知与视觉理解能力,无疑是最直接有效的解决方案。
一个优秀的AI助盲技术,需要通过智能传感、智能用户意图推理和智能信息呈现的系统化发展,才能构建信息无障碍的交互界面。仅仅依靠“一枝独秀”超越人类水平的单模态人工智能比如计算机视觉技术还远远不够,以“机器视觉+自然语言理解”为代表的多模态算法的突破才是正确的新方向和新契机。
多个模态的交互可以提升AI的感知、理解与交互能力,也为AI理解并帮助残障人士带来了更多可能。浪潮信息研发人员介绍说,多模态算法在AI助盲领域的应用一旦成熟,将能够造福数以亿计的失明者。据世卫组织统计,全球至少22亿人视力受损或失明,而我国是世界上盲人最多的国家,占世界盲人总数的18%-20%,每年新增的盲人数量甚至高达45万。
大挑战:如何看到盲人“眼中”的千人千面
AI助盲看似简单,但多模态算法依然面临重大挑战。
多模态智能算法,营造的是沉浸式人机交互体验。在该领域,盲人视觉问答任务成为学术界研究AI助盲的起点和核心研究方向之一,这项研究已经吸引了全球数以万计的视障患者参与,这些患者们上传自己拍摄的图像数据和相匹配的文本问题,形成了最真实的模型训练数据集。
但是在现有技术条件下,盲人视觉问答任务的精度提升面临巨大挑战:一方面是盲人上传的问题类型很复杂,比如说分辨冰箱里的肉类、咨询药品的服用说明、挑选独特颜色的衬衣、介绍书籍内容等等。
另一方面,由于盲人的特殊性,很难提取面前物体的有效特征。比如盲人在拍照时,经常会产生虚焦的情况,可能上传的照片是模糊的或者没有拍全,或者没拍到关键信息,这就给AI推理增加了难度。
为推动相关研究,来自卡内基梅隆大学等机构的学者们共同构建了一个盲人视觉数据库“VizWiz”,并发起全球多模态视觉问答挑战赛。挑战赛是给定一张盲人拍摄的图片和问题,然后要求给出相应的答案,解决盲人的求助。
另外,盲人的视觉问答还会遭遇到噪声干扰的衍生问题。比如说,盲人逛超市,由于商品外观触感相似,很容易犯错,他可能会拿起一瓶醋却询问酱油的成分表,拿起酸奶却询问牛奶的保质期等等。这种噪声干扰往往会导致现有AI模型失效,没法给出有效信息。
最后,针对不同盲人患者的个性化交互服务以及算法自有的反馈闭环机制,同样也是现阶段的研发难点。
多解法:浪潮信息AI助盲靶向消灭痛点
AI助盲哪怕形式百变,无一例外都是消灭痛点,逐光而行。浪潮信息多模态算法研发团队正在推动多个领域的AI助盲研究,只为帮助盲人“看”到愈发精彩的世界。
在VizWiz官网上公布的2万份求助中,盲人最多的提问就是想知道他们面前的是什么东西,很多情况下这些物品没法靠触觉或嗅觉来做出判断,例如 “这本书书名是什么?”为此研发团队在双流多模态锚点对齐模型的基础上,提出了自监督旋转多模态模型,通过自动修正图像角度及字符语义增强,结合光学字符检测识别技术解决“是什么”的问题。
盲人所拍摄图片模糊、有效信息少?研发团队提出了答案驱动视觉定位与大模型图文匹配结合的算法,并提出多阶段交叉训练策略,具备更充分的常识能力,低质量图像、残缺的信息,依然能够精准的解答用户的求助。
目前浪潮信息研发团队在盲人视觉问答任务VizWiz-VQA上算法精度已领先人类表现9.5个百分点,在AI助盲领域斩获世界冠军两项、亚军两项。
真实场景中的盲人在口述时往往会有口误、歧义、修辞等噪声。为此,研发团队首次提出视觉定位文本去噪推理任务FREC,FREC提供3万图片和超过25万的文本标注,囊括了口误、歧义、主观偏差等多种噪声,还提供噪声纠错、含噪证据等可解释标签。同时,该团队还构建了首个可解释去噪视觉定位模型FCTR,噪声文本描述条件下精度较传统模型提升11个百分点。上述研究成果已发表于ACM Multimedia 2022会议,该会议为国际多媒体领域最顶级会议、也是该领域唯一CCF推荐A类国际会议。
在智能交互研究方面上,浪潮信息研发团队构建了可解释智能体视觉交互问答任务AI-VQA,同时给出首个智能体交互行为理解算法模型ARE。该研究成果已发表于ACM Multimedia 2022会议。该研究项目的底层技术未来可广泛应用于AI医疗诊断、故事续写、剧情推理、危情告警、智能政务等多模态交互推理场景。
眼球虽然对温度并不敏感,但浪潮信息的研发团队,却在努力让盲人能“看”到科技的温度,也希望吸引更多人一起推动人工智能技术在AI助盲、AI反诈、AI诊疗、AI灾情预警等更多场景中的落地。有AI无碍,跨越山海。科技的伟大之处不仅仅在于改变世界,更重要的是如何造福人类,让更多的不可能变成可能。当科技成为人的延伸,当AI充满人性光辉,我们终将在瞬息万变的科技浪潮中感受到更加细腻温柔的善意,见证着更加光明宏大的远方。
“音乐之国”求学记(走近非热门留学国(11))******
薛杨扬(左一)与留学生同学、老师在一起。
黄韵文(右)、黄韵瑜姐妹俩在演出中。
奥地利位于中欧南部,其首都维也纳被誉为“世界音乐之都”。在高等教育领域,奥地利维也纳大学、维也纳音乐与表演艺术大学、萨尔茨堡莫扎特音乐大学等高校历史悠久、专业突出,吸引各地学子前往进修。近日,本报记者采访了几名中国学生,听听他们讲述在奥地利的留学体验。
学习音乐的好地方
“萨尔茨堡是学习古典音乐的好地方。”就读于奥地利萨尔茨堡莫扎特音乐大学的薛杨扬说,他来此留学是想在音乐领域精进。“我学习钢琴演奏,萨尔茨堡是作曲家莫扎特的出生地,也是指挥家赫伯特·冯·卡拉扬的故乡,这里有浓厚的古典音乐氛围。每年8月当地会举办萨尔茨堡音乐节,它是世界上历史最悠久、规模最大的古典音乐节之一,闻名世界的音乐艺术家和演出团体云集此地,带来歌剧、话剧、音乐会和芭蕾舞等表演。”
黄韵文和黄韵瑜是一对双胞胎姐妹,她们在维也纳音乐与表演艺术大学学习室内乐小提琴。姐姐黄韵文说:“作为一名音乐生,维也纳是我梦寐以求的留学地。这里是欧洲古典音乐的摇篮,音乐厅、歌剧院众多,时常有大大小小的音乐演出,艺术氛围浓厚。此外,维也纳音乐与表演艺术大学历史悠久,孕育了众多音乐人才,我和妹妹想来体验这里的生活,丰富阅历,提升演奏技艺。”
除了音乐类院校,奥地利还有享有盛誉的综合型高等学府。“维也纳大学历史悠久,学术水平卓越,这是吸引我前来的重要原因。”项歆璇目前是维也纳大学地质学方向的在读博士生,她说:“留学前我和导师取得了联系,幸运地收到了他的邀请函。导师拟定的博士研究计划和我硕士研究内容契合度高,我决定来这里继续做研究,探索地质学。”
难忘校园生活
“莫扎特音乐大学的课程设置很全面,除了钢琴,我还要上通识课,比如音乐史、射箭、心理咨询课等。”薛杨扬说,令他印象最深刻的是学校的合唱课。“学期结束时,合唱课的老师带我们到当地一所教堂进行公开演出,还有管风琴伴奏。演出吸引了大量观众前来观看,对我来说这是一次非常新奇的体验。”
黄韵瑜很喜欢学校的氛围,她说:“我周围的同学努力上进,大家每天都会踊跃前往琴房练习,我要尽量提早去琴房排队才能轮上琴,运气好的话等十几分钟,慢则得1小时不等。此外,同学们来自各个国家,他们很有主见,在上课或排练时我常与他们讨论想法,大家畅所欲言,我总能得到灵感和启发。”
在项歆璇看来,学校的教授友善负责,令人暖心。“刚开始我的选课经验不足,选到的一门课程有一半内容是德语授课,这让不会德语的我很头疼。教授发现我听不懂后,在课堂上耐心地将每句话都翻译成英语。后来,我和教授熟悉起来,我还向他推荐了维也纳不错的中餐厅,结课之后我们也保持着联络,这是一次很特别的学习经历。”
留学时,薛杨扬经常参加钢琴表演。他说:“我的班级每周都会举办音乐会,同学们都会参与其中,教授有时还会带我们去校外的礼堂、私人别墅演出,这是不错的表现机会。令我难忘的是,之前我去德国参加了一场纪念贝多芬诞辰250周年的主题演出,观众是当地的古典音乐爱好者。整场音乐会还被录制成了光盘,对我而言很有纪念价值。”
走近奥地利文化生活
“我发现,参加朋友聚会时,奥地利同学总会带一瓶酒参加;演出结束时,教授也常会开一瓶好酒庆功。在与朋友和老师的交流中,我逐渐认识到了奥地利葡萄酒的魅力。”薛杨扬说,“奥地利闻名世界的不仅有音乐,还有葡萄酒。奥地利的红酒很有特色,本地代表性的葡萄品种果实大,酿出的酒带有樱桃的芬芳。出于兴趣,我开始翻阅葡萄酒书籍、参观本地酒厂,和相关专业的人交流,学到了不少有趣的葡萄酒知识,发展出了新的爱好。”
项歆璇曾和组里的奥地利同事一起去野外采样,她回忆说,这次经历新鲜而有趣,让她走近了当地居民的生活。“由于路程较远,我们需要自驾几小时去奥地利中部,一路上我和同事聊了奥地利的地理情况、区域划分,增进了我对当地的了解。我们采样的地点在阿尔卑斯山附近的村庄,这里的氛围和维也纳的都市感不同,村民的生活节奏更慢、更放松。”项歆璇说,他们遇见了不少在野外徒步的当地人,当地居民的热情友好给项歆璇一行人留下了很深的印象。
黄韵瑜说,她和姐姐在奥地利参加了不少文化活动。“今年,当地主办的维也纳艺术节中安排了‘奥地利中国日’活动,通过精彩纷呈的节目向观众展现中国传统文化。我和姐姐作为维也纳音乐生代表有幸参与其中,与其他同学一起表演了弦乐四重奏《梁祝》等曲目。当天演出结束后,我们被告知很多观众非常喜欢我们的演出,这让我们特别开心。”
“在海外学习音乐,我和姐姐希望能积累更多专业知识、提升演奏技艺,从而演奏好更多中国音乐作品。我们希望能用音乐作为‘桥梁’,做中外文化交流的使者,让更多人感受到室内乐的魅力。”黄韵瑜说。(本报记者 周姝芸)(本文照片均由受访者提供)
(文图:赵筱尘 巫邓炎)