百摩网
当前位置: 首页 生活百科

人工智能基础信息(人工智能的人工部分-数据标注)

时间:2023-07-12 作者: 小编 阅读量: 2 栏目名: 生活百科

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。该标注规则比较符合标注规则制定的三原则。所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

编辑导读:人工智能的发展,是通过不断学习已知样本实现的。在监督学习的情况下,人工的数据标注是智能的前提与灵魂。本文作者对此进行了分析,希望对你有帮助。

当今社会人工智能领域蓬勃发展,各领域都在追求智能化,耳熟能详的有智能驾驶、智能家居、智能语音、智能推荐等。人工智能是通过机器学习,大量学习已知样本,有了预测能力之后再预测未知样本,以达到智能化的效果,机器学习可分为监督学习和无监督学习,无监督学习的效果是不可控的,常常被用来做探索性的实验。

在实际应用中,通常是有监督学习,有监督学习就需要做数据标注,所以智能的前提是人工,因为智能结果的输出是多次人工样本的输入,可以说人工的数据标注是智能的前提与灵魂,没有人工就没有智能,有多少人工就有多少智能。

一、数据标注的分类

数据标注从难易程度方面可划分为常识性标注与专业性标注。例如,地图识别领域的标注多为常识性标注,标注道路、路牌、地图等数据,语音识别标注也多为常识性标注。做该类型标注工作难点在于需要大量标注训练样本,因为应用场景多样且复杂,对标注员无专业技能要求,主要是认真负责,任务完成效率快、质量高的即为好的标注员。

医疗诊断领域标注多为专业性标注,因为病种、症状的分类与标注需要有医疗专业知识的人才能做,招聘领域标注也属于专业性标注,因为标注员需要熟知招聘业务、各岗位所需的知识技能,还需了解HR招人时的关注点,才能判断简历是否符合职位的招聘要求。该类型的标注工作需要有招聘领域专业知识的标注员,或者称为标注专家,标注工作的难点比较多,例如选拨培养合适的标注员、标注规则的界定、标注质量的控制等多方面。

数据标注从标注目的方面可划分为评估型标注与样本型标注。

评估型标注一般是为了评估模型的准确率,发现一些Badcase样例,然后优化算法模型,该类型标注工作为了节约标注资源可控制标注数量,一般情况下标注千量级的数据,样本具有统计意义即可,标注完成后需要统计正确率,以及错误样例,该类型标注的重点是错误样例的原因总结,分析每个Badcase出现的原因,并将原因归纳为不同的分类,有了原因分析方便算法同学分类型分批次的优化模型。

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。为了样本的均衡性,标注样本多是随机抽取的,这样做的优点是可在一定程度上避免样本偏差,但缺点是要标注大量数据。如果是文本型样本,有时可借助算法抽取一些高频、高质量样本进行标注,这样可一定程度上减少标注工作量,但可能存在样本偏差。总之样本型标注是个苦力活,业界有句话这么说的:如果你和一个人有仇,那么劝他去干标注吧。

数据标注从标注对象方面可划分为文本标注、图像标注、语言标注、视频标注,从标注方式方面可划分为分类标注、标框标注、描点标注,这些标注分类基本都属于标注形式的差异,没有较强的专业度,所以不做较多讲述了。

二、数据标注规则的制定

常识性标注的规则比较简单,标注一部分样本即可总结出较通用的规则,但专业性标注的规则比较复杂,制定专业的标注规则需要遵循以下三原则:多维分析与综合分析相结合,因子权重影响因素场景化,问题类型标签化、结构化。以下是招聘领域简历与职位匹配度标注规则的指导思想,具体细节规则会在《数据标注(下)》中阐述。该标注规则比较符合标注规则制定的三原则。

第一,多维分析与综合分析相结合。

简历与职位的匹配度影响因素肯定是多维的,不能只参考工作经历或专业要求一个因子,或者某几个因子,要多维分析,最终再给出综合评分结果。当然简历与职位的匹配标注也不可能一上来就能给出综合的评分,不能纯感性的告诉标注员:你觉得是简历与职位非常匹配就给分,不匹配就不给分,这在逻辑上也不合理。所以要先给单一因子打分,然后参考每个因子的评分结果,最终再进行综合分析给出评分结果。

第二,因子权重影响因素场景化。

前面有提到简历与职位匹配度评估需要给每个因子打分,那每个因子打分结束后怎么给出综合评分呢,给每个因为赋予权重吗?然后按权重计算总分?答案是否定的,我们要结合具体场景把所有因子进行归类分析,比如设定一些重要因子,如果重要因子不匹配可能就直接不给分,比如工作经历代表的是一个人的胜任力,如果该候选人不具备该岗位的胜任力,总分肯定是0分。还有一些因子虽然不是很重要,但会影响评分,有些因子时而重要时而不重要,比如年龄,HR想要1-3年经验的行政专员,候选人40岁,该情况肯定会影响最终评分且很有可能总分是0分。所以把所有影响因子结合场景进行归类分析是十分必要的。

第三,问题类型标签化、结构化。

标注结果一般情况下会以分数的形式展示,ABCD,或者0123,然后一组数据没有得到满分是因为什么呢?哪里不匹配呢?所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

数据标注是一项看似简单实际却十分复杂的工作,涉及标注分类、标注规则制定、标注原因分析、标注系统搭建、标注团队管理等,尤其涉及到专业领域的标注则更困难,本篇主要介绍了标注分类、标注规则制定,细节的标注规则以及标注系统的搭建,标注团队管理会在后续更新,希望大家持续关注,感谢阅读!

本文由 @艳杰 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

,
    推荐阅读
  • 机死机关不了机也重启不了怎么办(怎么办机死机关不了机也重启不了)

    机死机关不了机也重启不了怎么办系统问题,可以通过强制重启的方式解决。同时长按Power+Home键,等出现黑屏之后松开Home键,白色苹果Logo会在Home键松开之后几秒钟内出现,这时候Power键不要松开,等到白色苹果Logo消失屏幕关闭后完成关机。它属于电脑运作的一种正常现象,任何电脑都会出现这种情况。最著名的死机,当属微软公司出品的Windows操作系统的蓝屏了。

  • 哈佛H2S加油箱在哪里(油箱盖怎么开)

    接下来我们就一起去了解一下吧!哈佛H2S加油箱在哪里长城哈弗h2s油箱在车身左侧左后车轮上方,可以看到一方形油箱盖轮廓。长城哈弗h2s油箱盖是按压式的,先解锁车门,然后一按油箱盖就开了。锁上的方法也一样,用手按压就可以上锁了。长城哈弗h2s油箱并不小,有55L的容积,在同级别上算是合格水平,哈弗h2s油箱是工程塑料材质。

  • 酸甜泡萝卜的做法(酸甜泡萝卜的做法是什么)

    跟着小编一起来看一看吧!酸甜泡萝卜的做法把白萝卜去皮,也可以保留,切成自己喜欢的条状或片状,不要切太薄,不然就没有脆爽的口感了。然后加盐搅拌腌制两小时。腌制好后挤干水分放入另一盆中。然后把尖椒切碎放入。在另一个碗里把糖和白醋调制好倒入搅拌。搅拌好后放置一两天就可以食用了。

  • 美在身边手抄报(身边最美的人手抄报)

    美在身边手抄报怎么画?关于美就在身边的手抄报美在身边手抄报,我来为整理几张简单漂亮的美在身边手抄报?以下手抄报图片总有一款是你喜欢的,希望对你有帮助来看看吧!

  • 地下城与勇士手游团本攻略(地下城与勇士手游韩服纳克塞姆60ss必掉副本攻略)

    新的任務內容“納克塞姆”是過去在貝爾王國和齊亞姆王國的戰爭中相愛的“約翰”和“薩亞”的故事。地牢進階方法①進入納克塞姆後通關第一張地圖時,可以選擇“火焰祝福”和“寒冷祝福”獲得。③沿著選定的道路前進,擊敗最終的頭目“約翰”和“沙耶”,通關地下城。*通關後,有100%機率獲得一件Lv.60史詩裝備。*冷焰是一種只能從納克塞姆獲得的製作材料,用於製作史詩裝備罐。

  • 铁道游击队到底是哪年拍的(当年小角色都成了戏骨)

    张涵予、范伟主演的《铁道英雄》已经全国上映,这是又一部反映铁道游击队故事的影片。在1956老铁道与2021年新铁道之间,1995年还上映了一部名字叫《飞虎队》的电影,也是这个主题。既有喜感,也较符合角色性格。不仅观众愤怒,与她演对手戏的张丰毅更愤怒。最后,为了给自己的女人死于日军枪口,很决绝更悲情。饰演日本军官的,是知名男演员石兆琪。

  • 贺兰山在什么地方(关于贺兰山的简介)

    贺兰山在什么地方贺兰山脉位于宁夏回族自治区与内蒙古自治区交界处,北起巴彦敖包,南至毛土坑敖包及青铜峡。山势雄伟,若群马奔腾。蒙古语称骏马为“贺兰”,故名贺兰山。贺兰山南北长220公里,东西宽20~40公里。山地东西不对称,西侧坡度和缓,东侧以断层临银川平原。贺兰山为强烈地震带,1739年银川附近发生8级地震,1561年在中宁、1709年在中卫都发生过7.5级地震。包兰铁路有支线由平罗伸至贺兰山的汝箕沟。

  • 夏日风情七绝(七绝五月颂)

    五月俗称红五月,五月份节日特别多。其包含节日如下:劳动节:5月1日青年节:5月4日母亲节:5月第二个星期日护士节:5月12日全国防灾减灾日:5月12日全国助残日:5月第三个星期日世界电信日:5月17日世界家庭医生日:5月19日我国“大学生心理活动日”:5月25日世界无烟日:5月31日七绝五月颂女神玛雅始源传,五月频繁庆节连。劳动青年亲母日,防灾护士助残天。

  • 当你亲猫咪猫咪害羞的反应(当我亲吻猫咪时)

    亲吻和拥抱,是人类表达爱意的最直接方式。而能亲热地互蹭,只可能发生在两只猫长期接触陪伴,彼此表达爱意之时。而在猫科动物的世界里,这就是表达友爱的方式。我们辣么聪明委曲求全,其实可以用猫咪的方式来表达爱意~所以说,虽然猫咪是能理解你在通过亲亲表达爱意,但有的猫未必喜欢这种方式。

  • 豆王豆腐面怎么做好吃(怎么做豆王豆腐面好吃)

    豆王豆腐面怎么做好吃准备主料熟面500g、豆王500g、西红柿1个、油适量、盐适量、香菜适量、葱适量、姜适量、香油适量、醋适量、酱油适量、干尖椒适量。豆王去除两边硬丝,西红柿一块洗干净。豆王切斜刀,姜丝,干尖椒备好。炒菜的功夫,香菜切段备用。豆王熟透,准备放熟面,如果汤少,可以再少微的加点水。熟面均匀铺到菜上,盖上锅盖小火焖上四五分钟至熟面热透。关火,掀开盖,撒入香菜,倒入调好的葱料。