百摩网
当前位置: 首页 生活百科

人工智能基础信息(人工智能的人工部分-数据标注)

时间:2023-07-12 作者: 小编 阅读量: 6 栏目名: 生活百科

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。该标注规则比较符合标注规则制定的三原则。所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

编辑导读:人工智能的发展,是通过不断学习已知样本实现的。在监督学习的情况下,人工的数据标注是智能的前提与灵魂。本文作者对此进行了分析,希望对你有帮助。

当今社会人工智能领域蓬勃发展,各领域都在追求智能化,耳熟能详的有智能驾驶、智能家居、智能语音、智能推荐等。人工智能是通过机器学习,大量学习已知样本,有了预测能力之后再预测未知样本,以达到智能化的效果,机器学习可分为监督学习和无监督学习,无监督学习的效果是不可控的,常常被用来做探索性的实验。

在实际应用中,通常是有监督学习,有监督学习就需要做数据标注,所以智能的前提是人工,因为智能结果的输出是多次人工样本的输入,可以说人工的数据标注是智能的前提与灵魂,没有人工就没有智能,有多少人工就有多少智能。

一、数据标注的分类

数据标注从难易程度方面可划分为常识性标注与专业性标注。例如,地图识别领域的标注多为常识性标注,标注道路、路牌、地图等数据,语音识别标注也多为常识性标注。做该类型标注工作难点在于需要大量标注训练样本,因为应用场景多样且复杂,对标注员无专业技能要求,主要是认真负责,任务完成效率快、质量高的即为好的标注员。

医疗诊断领域标注多为专业性标注,因为病种、症状的分类与标注需要有医疗专业知识的人才能做,招聘领域标注也属于专业性标注,因为标注员需要熟知招聘业务、各岗位所需的知识技能,还需了解HR招人时的关注点,才能判断简历是否符合职位的招聘要求。该类型的标注工作需要有招聘领域专业知识的标注员,或者称为标注专家,标注工作的难点比较多,例如选拨培养合适的标注员、标注规则的界定、标注质量的控制等多方面。

数据标注从标注目的方面可划分为评估型标注与样本型标注。

评估型标注一般是为了评估模型的准确率,发现一些Badcase样例,然后优化算法模型,该类型标注工作为了节约标注资源可控制标注数量,一般情况下标注千量级的数据,样本具有统计意义即可,标注完成后需要统计正确率,以及错误样例,该类型标注的重点是错误样例的原因总结,分析每个Badcase出现的原因,并将原因归纳为不同的分类,有了原因分析方便算法同学分类型分批次的优化模型。

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。为了样本的均衡性,标注样本多是随机抽取的,这样做的优点是可在一定程度上避免样本偏差,但缺点是要标注大量数据。如果是文本型样本,有时可借助算法抽取一些高频、高质量样本进行标注,这样可一定程度上减少标注工作量,但可能存在样本偏差。总之样本型标注是个苦力活,业界有句话这么说的:如果你和一个人有仇,那么劝他去干标注吧。

数据标注从标注对象方面可划分为文本标注、图像标注、语言标注、视频标注,从标注方式方面可划分为分类标注、标框标注、描点标注,这些标注分类基本都属于标注形式的差异,没有较强的专业度,所以不做较多讲述了。

二、数据标注规则的制定

常识性标注的规则比较简单,标注一部分样本即可总结出较通用的规则,但专业性标注的规则比较复杂,制定专业的标注规则需要遵循以下三原则:多维分析与综合分析相结合,因子权重影响因素场景化,问题类型标签化、结构化。以下是招聘领域简历与职位匹配度标注规则的指导思想,具体细节规则会在《数据标注(下)》中阐述。该标注规则比较符合标注规则制定的三原则。

第一,多维分析与综合分析相结合。

简历与职位的匹配度影响因素肯定是多维的,不能只参考工作经历或专业要求一个因子,或者某几个因子,要多维分析,最终再给出综合评分结果。当然简历与职位的匹配标注也不可能一上来就能给出综合的评分,不能纯感性的告诉标注员:你觉得是简历与职位非常匹配就给分,不匹配就不给分,这在逻辑上也不合理。所以要先给单一因子打分,然后参考每个因子的评分结果,最终再进行综合分析给出评分结果。

第二,因子权重影响因素场景化。

前面有提到简历与职位匹配度评估需要给每个因子打分,那每个因子打分结束后怎么给出综合评分呢,给每个因为赋予权重吗?然后按权重计算总分?答案是否定的,我们要结合具体场景把所有因子进行归类分析,比如设定一些重要因子,如果重要因子不匹配可能就直接不给分,比如工作经历代表的是一个人的胜任力,如果该候选人不具备该岗位的胜任力,总分肯定是0分。还有一些因子虽然不是很重要,但会影响评分,有些因子时而重要时而不重要,比如年龄,HR想要1-3年经验的行政专员,候选人40岁,该情况肯定会影响最终评分且很有可能总分是0分。所以把所有影响因子结合场景进行归类分析是十分必要的。

第三,问题类型标签化、结构化。

标注结果一般情况下会以分数的形式展示,ABCD,或者0123,然后一组数据没有得到满分是因为什么呢?哪里不匹配呢?所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

数据标注是一项看似简单实际却十分复杂的工作,涉及标注分类、标注规则制定、标注原因分析、标注系统搭建、标注团队管理等,尤其涉及到专业领域的标注则更困难,本篇主要介绍了标注分类、标注规则制定,细节的标注规则以及标注系统的搭建,标注团队管理会在后续更新,希望大家持续关注,感谢阅读!

本文由 @艳杰 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

,
    推荐阅读
  • 情侣间甜蜜幸福的除夕夜文案(除夕夜情侣间甜蜜祝福语大全)

    我的往后,你一定要在啊如同梁上燕,岁岁常相见,接下来我们就来聊聊关于情侣间甜蜜幸福的除夕夜文案?如同梁上燕,岁岁常相见。愿来年的冬天,我们还约好一起跨年。寒来暑往秋收冬藏,希望我们来日方长。愿年复年,我始终如少年,你始终如初见。新的一年,你做我的男孩,我做你的宇宙。祝大家除夕快乐,希望新的一年事事有回应件件有着落。又不是要上春晚。新年快乐只有除夕说才会觉得有意义,祝大家新年快乐,除夕快乐。

  • 用蜡封酒方法(如何蜡封酒瓶)

    用蜡封酒方法首先要将封蜡瓶口处用透明胶带緾二层,以增加密闭性、防蜡渗入逢内、去蜡去胶带后恢复原品相。其次就开始把蜡熔化,熔化后就关火起锅,自然冷却5分钟左右。瓶口放入蜡后迅速取出来,然后用嘴向瓶口处吹气,将粘于瓶口上的蜡冷却凝固,如此反复几次,直到瓶口果了一小层,再换另一瓶,不可将瓶口长时间放于蜡内,塑料那种瓶盖会烫变形。第一道上的蜡凝固定,则上第二道蜡,方法同上;上第三道蜡,方法同上。

  • 电机正反转控制线路图讲解(1分钟带你学习电机正反转和互锁)

    前言目前无论是在学校还是在工业上的人最基础的还是电机正反转这个电路,貌似所有的项目及复杂点的电路都是围绕着电机正反转和互锁来完成的,不管是气缸还是电机道理都是一样的例如:传送带,升降机驱动电机如图,将电机直接通三相电,让电机转动。实物图电机正反转及互锁三相电任意交换两相电就会换向那么我们在实现电机正反转的目标就是想办法互换两根相线。加入自锁,加入自锁后需要加入停止按钮

  • 苹果手机数据怎么转移到安卓(苹果手机数据怎么转移到安卓手机)

    苹果手机数据转移到安卓方法如下:1、从任意Android的app商店下载“转移到iOS”。所有运行Android4.0及更新版本的手机和平板电脑都支持这款app。输入安全代码之后,内容就会自动地传输到正确的位置。iOS会设置默认的邮件帐户,还会将所有已有的免费及付费app添加到欲购清单中即可。

  • 煮银耳要煮多久才熟(煮银耳要煮多长时间才熟)

    接下来我们就一起去了解一下吧!银耳口感滑润,香甜醇美,富含蛋白质、维生素、膳食纤维,还含有钙、锌、铁、钾等矿物质,经常食用可润肠通便、美容养颜、生津润肺等,和木耳一样是属于比较容易熟的食物,一般将其撕成小块,开水下锅煮3-5分钟就能熟,但此时的银耳口感偏脆嫩,适宜凉拌来吃,如果是做银耳汤需要炖出胶状,还需继续炖煮30分钟-1小时左右才行。

  • 8090年代最热端游(十大经典怀旧端游排行)

    十大经典怀旧端游排行第一名:热血传奇,我来为大家科普一下关于8090年代最热端游?下面希望有你要的答案,我们一起来看看吧!8090年代最热端游十大经典怀旧端游排行第一名:热血传奇第二名:奇迹第三名:梦幻西游第四名:征途第五名:QQ华夏第六名:劲舞团第七名:跑跑卡丁车第八名:泡泡堂第九名:天龙八部第十名:完美世界

  • 关羽和张飞脸谱颜色(张飞脸谱的由来)

    张飞脸谱的由来老戏迷们非常熟悉戏剧中人物的打扮和脸谱,角色一上场,大伙就知道是谁。张飞虽说大字不识几个,不过干起本行来却是里外的一把好手。而日,张飞割肉的刀法娴熟。屠宰业把张飞尊为祖师爷。不过这却让张飞为难了,看样子,还得再杀几只猪。此时已是太阳西照,张飞在高粱地里东找西找,吓得猪满地乱跑。张飞急了,撒开腿一阵猛追。其实,历史上的张飞,很可能是个性格粗中有细,仪表堂堂的美男子呢!

  • 滑膜炎怎么治疗最有效(老人滑膜炎怎么治疗最有效)

    滑膜炎的注意事项1、体重过重会使关节压力过大,使关节软骨面上的压力不均匀,加速关节软骨的磨损造成滑膜炎,所以肥胖者应减轻体重以预防滑膜炎。

  • 高铁上有没有卖卫生巾的(女子月经提前在高铁上买不到卫生巾高铁上到底可不可以卖卫生巾)

    该网友通过乘务员了解到,高铁上不售卖卫生巾。铁路12306客服据此回应称,卫生巾属于私人用品,不正常售卖。既然有这种问题,高铁上也不能售卖,那最好的办法就是在每列车上配置几包卫生巾,作为临时“应急”使用。不卖就没有违反官方规定,而放几包备用就能很好地解决这个问题。#女子称高铁上来例假买不到卫生巾#

  • 我在外地妻子出轨了怎么办(我经常出差妻子出轨了)

    我在外地妻子出轨了怎么办图/均来自网络,如有侵权,请联系删除。我32岁了,结婚八年了,妻子比我小一岁。为了女儿的心灵不受到伤害,为了她的成长不留下阴影,她是不同意离婚的。生活中,男人多数更注重的是事业,为了取得事业的成功,他们会不遗余力地赚钱,而忽略妻子。所男人以工作再忙,也要多陪陪家人和孩子,女人也要多理解体谅自己的男人,不要出轨给他伤害。