百摩网
当前位置: 首页 生活百科

人工智能基础信息(人工智能的人工部分-数据标注)

时间:2023-07-12 作者: 小编 阅读量: 6 栏目名: 生活百科

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。该标注规则比较符合标注规则制定的三原则。所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

编辑导读:人工智能的发展,是通过不断学习已知样本实现的。在监督学习的情况下,人工的数据标注是智能的前提与灵魂。本文作者对此进行了分析,希望对你有帮助。

当今社会人工智能领域蓬勃发展,各领域都在追求智能化,耳熟能详的有智能驾驶、智能家居、智能语音、智能推荐等。人工智能是通过机器学习,大量学习已知样本,有了预测能力之后再预测未知样本,以达到智能化的效果,机器学习可分为监督学习和无监督学习,无监督学习的效果是不可控的,常常被用来做探索性的实验。

在实际应用中,通常是有监督学习,有监督学习就需要做数据标注,所以智能的前提是人工,因为智能结果的输出是多次人工样本的输入,可以说人工的数据标注是智能的前提与灵魂,没有人工就没有智能,有多少人工就有多少智能。

一、数据标注的分类

数据标注从难易程度方面可划分为常识性标注与专业性标注。例如,地图识别领域的标注多为常识性标注,标注道路、路牌、地图等数据,语音识别标注也多为常识性标注。做该类型标注工作难点在于需要大量标注训练样本,因为应用场景多样且复杂,对标注员无专业技能要求,主要是认真负责,任务完成效率快、质量高的即为好的标注员。

医疗诊断领域标注多为专业性标注,因为病种、症状的分类与标注需要有医疗专业知识的人才能做,招聘领域标注也属于专业性标注,因为标注员需要熟知招聘业务、各岗位所需的知识技能,还需了解HR招人时的关注点,才能判断简历是否符合职位的招聘要求。该类型的标注工作需要有招聘领域专业知识的标注员,或者称为标注专家,标注工作的难点比较多,例如选拨培养合适的标注员、标注规则的界定、标注质量的控制等多方面。

数据标注从标注目的方面可划分为评估型标注与样本型标注。

评估型标注一般是为了评估模型的准确率,发现一些Badcase样例,然后优化算法模型,该类型标注工作为了节约标注资源可控制标注数量,一般情况下标注千量级的数据,样本具有统计意义即可,标注完成后需要统计正确率,以及错误样例,该类型标注的重点是错误样例的原因总结,分析每个Badcase出现的原因,并将原因归纳为不同的分类,有了原因分析方便算法同学分类型分批次的优化模型。

样本型标注即为模型提供前期的训练样本,作为机器学习的输入,该类型标注工作需要标注大量数据,一般情况下需要标注万量级的数据。为了样本的均衡性,标注样本多是随机抽取的,这样做的优点是可在一定程度上避免样本偏差,但缺点是要标注大量数据。如果是文本型样本,有时可借助算法抽取一些高频、高质量样本进行标注,这样可一定程度上减少标注工作量,但可能存在样本偏差。总之样本型标注是个苦力活,业界有句话这么说的:如果你和一个人有仇,那么劝他去干标注吧。

数据标注从标注对象方面可划分为文本标注、图像标注、语言标注、视频标注,从标注方式方面可划分为分类标注、标框标注、描点标注,这些标注分类基本都属于标注形式的差异,没有较强的专业度,所以不做较多讲述了。

二、数据标注规则的制定

常识性标注的规则比较简单,标注一部分样本即可总结出较通用的规则,但专业性标注的规则比较复杂,制定专业的标注规则需要遵循以下三原则:多维分析与综合分析相结合,因子权重影响因素场景化,问题类型标签化、结构化。以下是招聘领域简历与职位匹配度标注规则的指导思想,具体细节规则会在《数据标注(下)》中阐述。该标注规则比较符合标注规则制定的三原则。

第一,多维分析与综合分析相结合。

简历与职位的匹配度影响因素肯定是多维的,不能只参考工作经历或专业要求一个因子,或者某几个因子,要多维分析,最终再给出综合评分结果。当然简历与职位的匹配标注也不可能一上来就能给出综合的评分,不能纯感性的告诉标注员:你觉得是简历与职位非常匹配就给分,不匹配就不给分,这在逻辑上也不合理。所以要先给单一因子打分,然后参考每个因子的评分结果,最终再进行综合分析给出评分结果。

第二,因子权重影响因素场景化。

前面有提到简历与职位匹配度评估需要给每个因子打分,那每个因子打分结束后怎么给出综合评分呢,给每个因为赋予权重吗?然后按权重计算总分?答案是否定的,我们要结合具体场景把所有因子进行归类分析,比如设定一些重要因子,如果重要因子不匹配可能就直接不给分,比如工作经历代表的是一个人的胜任力,如果该候选人不具备该岗位的胜任力,总分肯定是0分。还有一些因子虽然不是很重要,但会影响评分,有些因子时而重要时而不重要,比如年龄,HR想要1-3年经验的行政专员,候选人40岁,该情况肯定会影响最终评分且很有可能总分是0分。所以把所有影响因子结合场景进行归类分析是十分必要的。

第三,问题类型标签化、结构化。

标注结果一般情况下会以分数的形式展示,ABCD,或者0123,然后一组数据没有得到满分是因为什么呢?哪里不匹配呢?所以前期制定标注规则时一定要把原因分析考虑进去,列出所有不匹配的原因,形成结构化的原因标签,有利于最终分析Badcase的分类与占比,然后算法或者策略团队在优化时可以优先解决占比高或影响恶劣的case。

数据标注是一项看似简单实际却十分复杂的工作,涉及标注分类、标注规则制定、标注原因分析、标注系统搭建、标注团队管理等,尤其涉及到专业领域的标注则更困难,本篇主要介绍了标注分类、标注规则制定,细节的标注规则以及标注系统的搭建,标注团队管理会在后续更新,希望大家持续关注,感谢阅读!

本文由 @艳杰 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

,
    推荐阅读
  • 加拿大rockland(RocklandImmunochemicals与Rockland有何区别)

    由此可以看出,二者虽然名称相似,但在经营领域上却完全不同,RocklandImmunochemicals专注于生命科学研究,而Rockland则注重生活时尚。相较而言,RocklandImmunochemicals抗原产企业成立时间更久。而Rockland作为拉杆箱品牌其受众相对较广,目标客户群体范围涵盖较大。

  • 珍珠粉能美白牙齿吗(珍珠粉能不能美白牙齿)

    下面希望有你要的答案,我们一起来看看吧!而且珍珠粉颗粒比较大,经常用珍珠粉刷牙有可能会造成牙齿过度磨耗,会损伤牙釉质。对于有牙结石牙菌斑或者烟渍的患者,建议到医院进行超声波洁牙。另外平时还要注意养成良好的卫生习惯,按时刷牙,饭后漱口,避免形成新的牙结石,没有牙结石以及烟渍等色素沉积,牙齿能够恢复其本来的颜色。如果牙齿本身的颜色不够白,还可以做冷光美白。

  • 福州秋天赏桂花地点推荐(福州桂花哪里多)

    闽江公园北园的望龙园有20株大丹桂,缤纷园7株15年以上。南园一株身高超过9米的大丹桂树,旁边植约11株金桂。晋安河公园:目前种植400多棵丹桂。金鸡山公园:市区桂花最多的公园,共有超过1500株。此外,于山风景区、鼓山风景区、儿童公园等地,桂花也有一定规模。

  • 国外十大吝啬鬼(欧洲四大吝啬鬼)

    条约规定,如果安东尼奥到期无法偿还债务,便要割一磅肉赔给夏洛克。不幸来临了,安东尼奥的船出了事故无法抵达,愤恨的夏洛克不允许通融,非要割掉安东尼奥身上的一磅肉,并将之告上了法庭。最终,安东尼奥获救了。在得知妻子死后,女儿欧也妮也权继承母亲的财产后。葛朗台害怕起来,和女儿讲和,讨好女儿,诱骗欧也妮签署了一份放弃母亲遗产继承权的证件,把全部家产总揽在自己手里。

  • 催旺自己事业的办公室风水(催旺自己事业的办公室风水有什么办法)

    催旺自己事业的办公室风水以最高负责人为核心,布局整个公司机构的风水因为董事长或总经理是整个公司的首脑,其风水布局、迁移择日甚至公司命名都会以主要负责人为核心进行安排。工厂大门或主管办公室的大门不能被对门压住具体来说就是我方的大门不要小于对方。同一区域内的气场是有限的,如果气场都被对方吃掉,那么我方屋宅能够拿到的吉气自然有限。天花板过低,格局层次则降低导致明堂低矮,发展前景自然受到限制。

  • 未来可期怎么解释(什么是未来可期)

    以下内容希望对你有帮助!说明将有一个较好的结果。未来可期的原句是“流年笑掷未来可期”,意思是光阴一笑抛却,未来可以期盼。可期,意即可以期望、值得期待。未来可期出自于流年笑掷,未来可期这句话意思对于匆匆流逝的时光,我们要以坦然平和的心态去面对,并且对于即将到来的未来抱有无限的憧憬和期待。做到不拘泥于过去,畅想拥抱未来。

  • 大众汽车银行怎么样 大众汽车金融是哪个银行

    "今年前6个月,入境旅游人数达到6787万人,入境旅游人数超过出境旅游人数884万人。今年下半年入境游客增长预计超过4%。40多个国家和地区发行了银联卡。发行银联卡6800多万张,比年初增加1500多万张。这是泰国发行的第一张国产品牌借记卡,目前已发行60多万张。马来西亚马来西亚大众银行今年发行银联借记卡,是马来西亚首家发行银联卡的本地银行。将逐步推出针对境外持卡人的优惠和权益,敬请关注。

  • excel条件格式功能(Excel自定义条件格式规则)

    Excel可以用来分析数据,还可以编辑数据,其中自定义条件格式功能,可以通过自定义格式规则,让Excel数据展现的更加灵活。下面通过几个简单的例子来认识一下Excel自定义条件格式规则用法。这时候在表格上就能看到低于平均值的数据。进入新建规则,点击,接着输入公式=mod>4,再设置格式,填充颜色。这样非工作日的单元格就能自动填充为红色。

  • 广汽三菱阿图柯下线现场(广汽三菱阿图柯AIRTREK正式上市)

    然而情怀是不能当饭吃的,一个不争的事实就是,面对当下最火热的“新四化”潮流,三菱汽车并没有加入这场角逐。至于阿图柯AIRTREK搭载的APP智能车辆控制和讯飞语音交互系统,目前则已经像是国内新上市电动车的标准动作了。目前阿图柯AIRTREK仅推出两款车型,分别是补贴后售价19.98万元的先锋版和22.98万元的硬核版。

  • 高速刹车抖动的原因(你知道吗)

    可首先检查发动机所连接的真空管,确认您换机油或做其他保养时是否碰掉该真空管,造成混合气泄漏;其次,确认车辆在保养时是否断开过蓄电池,造成发动机节气门“学习值”消失,致使发动机怠速过低,从而出现抖动现象。一般说来,刹车盘平面偏摆量超过0.05毫米,车辆在高速踩刹车时,刹车踏板会有轻微跳动,这种跳动也会通过相关转向系统传递到方向盘,造成方向盘左右抖动。刹车盘在正常磨损后超过极限厚度,必须更换。