百摩网
当前位置: 首页 生活百科

人工智能基础信息(人工智能的人工部分-数据标注)

时间:2023-07-12 作者: 小编 阅读量: 3 栏目名: 生活百科

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。该标注规则比较符合标注规则制定的三原则。所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

编辑导读:人工智能的发展,是通过不断学习已知样本实现的。在监督学习的情况下,人工的数据标注是智能的前提与灵魂。本文作者对此进行了分析,希望对你有帮助。

当今社会人工智能领域蓬勃发展,各领域都在追求智能化,耳熟能详的有智能驾驶、智能家居、智能语音、智能推荐等。人工智能是通过机器学习,大量学习已知样本,有了预测能力之后再预测未知样本,以达到智能化的效果,机器学习可分为监督学习和无监督学习,无监督学习的效果是不可控的,常常被用来做探索性的实验。

在实际应用中,通常是有监督学习,有监督学习就需要做数据标注,所以智能的前提是人工,因为智能结果的输出是多次人工样本的输入,可以说人工的数据标注是智能的前提与灵魂,没有人工就没有智能,有多少人工就有多少智能。

一、数据标注的分类

数据标注从难易程度方面可划分为常识性标注与专业性标注。例如,地图识别领域的标注多为常识性标注,标注道路、路牌、地图等数据,语音识别标注也多为常识性标注。做该类型标注工作难点在于需要大量标注训练样本,因为应用场景多样且复杂,对标注员无专业技能要求,主要是认真负责,任务完成效率快、质量高的即为好的标注员。

医疗诊断领域标注多为专业性标注,因为病种、症状的分类与标注需要有医疗专业知识的人才能做,招聘领域标注也属于专业性标注,因为标注员需要熟知招聘业务、各岗位所需的知识技能,还需了解HR招人时的关注点,才能判断简历是否符合职位的招聘要求。该类型的标注工作需要有招聘领域专业知识的标注员,或者称为标注专家,标注工作的难点比较多,例如选拨培养合适的标注员、标注规则的界定、标注质量的控制等多方面。

数据标注从标注目的方面可划分为评估型标注与样本型标注。

评估型标注一般是为了评估模型的准确率,发现一些Badcase样例,然后优化算法模型,该类型标注工作为了节约标注资源可控制标注数量,一般情况下标注千量级的数据,样本具有统计意义即可,标注完成后需要统计正确率,以及错误样例,该类型标注的重点是错误样例的原因总结,分析每个Badcase出现的原因,并将原因归纳为不同的分类,有了原因分析方便算法同学分类型分批次的优化模型。

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。为了样本的均衡性,标注样本多是随机抽取的,这样做的优点是可在一定程度上避免样本偏差,但缺点是要标注大量数据。如果是文本型样本,有时可借助算法抽取一些高频、高质量样本进行标注,这样可一定程度上减少标注工作量,但可能存在样本偏差。总之样本型标注是个苦力活,业界有句话这么说的:如果你和一个人有仇,那么劝他去干标注吧。

数据标注从标注对象方面可划分为文本标注、图像标注、语言标注、视频标注,从标注方式方面可划分为分类标注、标框标注、描点标注,这些标注分类基本都属于标注形式的差异,没有较强的专业度,所以不做较多讲述了。

二、数据标注规则的制定

常识性标注的规则比较简单,标注一部分样本即可总结出较通用的规则,但专业性标注的规则比较复杂,制定专业的标注规则需要遵循以下三原则:多维分析与综合分析相结合,因子权重影响因素场景化,问题类型标签化、结构化。以下是招聘领域简历与职位匹配度标注规则的指导思想,具体细节规则会在《数据标注(下)》中阐述。该标注规则比较符合标注规则制定的三原则。

第一,多维分析与综合分析相结合。

简历与职位的匹配度影响因素肯定是多维的,不能只参考工作经历或专业要求一个因子,或者某几个因子,要多维分析,最终再给出综合评分结果。当然简历与职位的匹配标注也不可能一上来就能给出综合的评分,不能纯感性的告诉标注员:你觉得是简历与职位非常匹配就给分,不匹配就不给分,这在逻辑上也不合理。所以要先给单一因子打分,然后参考每个因子的评分结果,最终再进行综合分析给出评分结果。

第二,因子权重影响因素场景化。

前面有提到简历与职位匹配度评估需要给每个因子打分,那每个因子打分结束后怎么给出综合评分呢,给每个因为赋予权重吗?然后按权重计算总分?答案是否定的,我们要结合具体场景把所有因子进行归类分析,比如设定一些重要因子,如果重要因子不匹配可能就直接不给分,比如工作经历代表的是一个人的胜任力,如果该候选人不具备该岗位的胜任力,总分肯定是0分。还有一些因子虽然不是很重要,但会影响评分,有些因子时而重要时而不重要,比如年龄,HR想要1-3年经验的行政专员,候选人40岁,该情况肯定会影响最终评分且很有可能总分是0分。所以把所有影响因子结合场景进行归类分析是十分必要的。

第三,问题类型标签化、结构化。

标注结果一般情况下会以分数的形式展示,ABCD,或者0123,然后一组数据没有得到满分是因为什么呢?哪里不匹配呢?所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

数据标注是一项看似简单实际却十分复杂的工作,涉及标注分类、标注规则制定、标注原因分析、标注系统搭建、标注团队管理等,尤其涉及到专业领域的标注则更困难,本篇主要介绍了标注分类、标注规则制定,细节的标注规则以及标注系统的搭建,标注团队管理会在后续更新,希望大家持续关注,感谢阅读!

本文由 @艳杰 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

,
    推荐阅读
  • 新日汽车级锂电试验(新日汽车级锂电树立标准)

    虽然已经进入二季度,但在疫情等因素的影响下,各个品牌的表现仍然差距明显。2022年是换购大年,锂电车的需求量剧增,新日迎来乘势而上的大好时机。最近,新日延续一季度的火热态势,多措并举强力推动市场,全国销量持续飙升!在换购大潮中,汽车级锂电就是财富密码,新日成功在市场中脱颖而出。

  • 宝沃车灯开关在哪里? 宝沃汽车的灯光开关在哪里

    宝沃bx7灯开关在方向盘下的操纵杆上。方向盘右侧的操纵杆打开大灯,将操纵杆向前推至远光灯,转回原位至近光灯,向后拉释放至远光灯闪烁警告。应急灯有的在方向盘上,有的在方向盘前下方,一般都是红色的,比较醒目。应急灯在仪表盘上,标志是两个嵌套在一起的三角形。

  • 灰蝗虫的繁殖时间(昆虫记灰蝗虫的繁殖)

    蝗虫又名蚂蚱,不少有害蝗种对农、林、牧业可造成不同程度危害,因此很多人都会在繁殖时期将其消灭,那灰蝗虫的繁殖时间是什么时候?最佳答案:灰蝗虫的繁殖时间是在9-10月份。蝗虫一般在交配后七天开始产卵,晚上白天都有可能只要有合适的地方就会产卵。成虫产卵前期较长,一般为10-30天,多次交配,分批次产卵,雌成虫会将卵聚产在土下。

  • 南宁青秀山莫奈花园在哪里

    莫奈既是著名画家,也是出色的园艺家。他在他的花园里极其重视色彩的协调性,红色、橘黄、蓝色等色调的花丛相互交错,呈现出自然的动感。在青秀山,你们也能欣赏到这一特色。大红、大紫、橘黄、玫粉......这些色彩艳丽的花花草草种植在道路旁,花园长椅也特意漆成了和原园里的同款绿色,并放置在花丛边供人们休息。观赏地点:青秀山东门经叶子花园中轴线右转直行200米

  • 假如生活把你打倒(当生活拿锤子抡向你的时候)

    不能强迫别人来爱自己,只能努力让自己成为值得爱的人。因为身后有退路,就会心存侥幸和安逸,身后无退路,才会为自己赢得出路。十六、每件发生在你身上的事,无论美丑,都是礼物。在智慧与见识的支撑下,让人倾倒。而不是浑身带刺,思想偏激,令人敬而远之。对于自己来说,成熟则是可悲的。

  • 平安夜送男孩苹果(平安夜互送苹果)

    大家想过平安夜,是因为这种节日会有不同的新鲜感,而且也可以拉近自己和朋友之间的距离,互动感会更强!至于平安夜的一个缺点,那估计就是苹果的价钱炒的太高了,孩子们根本承担不起,那么过节就会变成一种负担!总体来说,不要总局限于常规的方式,可以试着从新鲜角度出发,过一个令人难忘的平安夜!写在最后:2020年的平安夜已经到来了,你家的孩子有收到苹果吗?

  • 赛博朋克2077怎么换车(游戏赛博朋克2077换车方法)

    下面更多详细答案一起来看看吧!赛博朋克2077怎么换车要换车辆的前提条件是玩家身上有两辆或者以上的车辆可以选择。按下V可以召唤当前的车辆,如果要切换自己其他的车辆的话可以按住V键,然后会弹出一个菜单栏,里面是所有玩家身上有的可用车辆,选择一辆自己想开的就可以了。

  • 会计就业前景(会计的就业前景分析)

    证券行业和其他金融机构。在这些单位担任的会计工作岗位:会计财务部门会计人员;内部稽核部门人员;其他部门人员,保险精算师,证券市场分析人员,委托理财经理,营业部人员,项目评估专家,保险理赔估价等。

  • 防晒隔离妆前乳一样的吗(防晒隔离妆前乳傻傻分不清楚)

    准确的说隔离霜应该包括在妆前乳里面。虽然,很多隔离和妆前乳会带有一定的防晒功能,但是那个防晒指数并不能跟专门的防晒霜相提并论。如果使用的隔离霜达到隔离、润色、防晒三合一效果,不建议再使用妆前乳,因为这样一来再叠上妆前乳与粉底会让你妆感很厚重。这是因为晚上回家没有好好卸除化妆品,隔离和妆前乳都属于化妆品,而皮肤是不吸收任何化妆品的,残留在脸上的化妆品会导致脸部长痘、长粉刺等肌肤问题。

  • 懂得感恩的朋友圈句子(朋友圈感谢的话语)

    懂得感恩的朋友圈句子?我们一起去了解并探讨一下这个问题吧!我不是天使,但我拥有天堂;我不是海豚,但我翱翔海洋;我没有翅膀,但我俯视阳光;我没有三叶草,但我手捧希望!因为我有你们,感谢!直到有一天,当我发现我们都已经渐渐地老去的时候,我才感悟到人世间最珍贵的东西莫过于朋友之间的友谊!朋友,谢谢你一直以来对我的关心!愿所有的幸福都围绕着你,祝天天开心,幸福永远!