手机浏览器扫描二维码访问
咱们前面聊了数据是AI的“粮食”,没数据AI就玩不转,但光有粮食还不够——就像咱们做饭得考虑米新不新鲜、会不会浪费,AI用数据也得解决“数据从哪儿来”“数据干不干净”“能不能随便用”这些问题。要是这些问题没处理好,就算有再多数据,AI也可能“吃坏肚子”,甚至闯祸。接下来咱们就接着唠,看看数据给AI“供能”的背后,还有哪些不得不说的关键事儿。
一、数据从哪儿来?AI的“粮食”不是天上掉的
很多人可能觉得“AI用的数据,随便找一找就有”,但其实不是——要收集到足够多、足够相关的数据,可不是件容易事儿,得靠不同的“渠道”去“找米”,而且每个渠道都有自己的门道。
最常见的一种渠道,是咱们“主动给的”。比如你用社交软件发朋友圈、发评论,用购物APP下单、收藏商品,用导航软件查路线、记常用地址,这些行为都会产生数据,而平台会把这些数据收集起来,用来训练AI。就像你在外卖平台点了几次奶茶,平台收集到“你爱喝三分糖、去冰的奶茶”这个数据,AI就能给你推荐同类型的新品;你在短视频APP上总给宠物视频点赞,平台收集到这个数据,AI就会多推宠物内容给你。这些数据都是咱们在使用软件时,不知不觉“贡献”出去的,也是AI数据的重要来源。
还有一种渠道,是“专业团队专门采的”。比如要做一个能识别农作物病虫害的AI,光靠用户上传的照片不够——得有农业领域的团队,去田间地头拍不同作物(小麦、水稻、玉米)、不同病虫害(蚜虫、白粉病、锈病)的照片,而且得拍清楚病变部位、不同发病阶段的样子,还得标注好“这是小麦蚜虫病”“这是水稻白粉病”。这种数据专业性强,要求高,不能随便凑数,得花大量时间和人力去采集。之前有个做医疗AI的团队,为了训练AI识别肺癌,花了3年时间,从全国几十家医院收集了十几万张肺部CT影像,还得让医生一张张标注“这是良性结节”“这是早期肺癌”,可见多不容易。
另外,还有“公开数据集”可以用。行业里有些机构会整理好数据,免费或低价开放给大家用,比如咱们之前提到的ImageNet,还有用于自然语言处理的“中文维基百科数据集”、用于语音识别的“Common Voice数据集”。这些数据集就像“公共粮仓”,AI开发者不用自己从头收集,能省不少事。但这类数据集也有缺点——可能不够“贴合具体需求”,比如公开的语音数据集大多是标准普通话,要是想做一个针对某地方言的语音AI,还得自己额外收集方言数据。
总之,AI的“粮食”不是天上掉的,要么是咱们用户在使用中“贡献”的,要么是专业团队辛苦采集的,要么是从公开渠道获取后再加工的。每一份数据背后,都有不少人力和时间的投入。
二、数据得“干净”:不然AI会“学歪”
咱们做饭的时候,米要是有虫、有石子,得先淘干净才能煮,不然煮出来的饭没法吃;AI用数据也一样,得先把数据“洗干净”,要是数据里有错误、有杂质,AI学了之后就会“学歪”,做事情出错。
啥是“不干净”的数据?比如数据里有“错误标注”——本来是猫的图片,却标成了狗;本来是“用户不喜欢吃辣”的记录,却标成了“喜欢吃辣”。AI学了这些错数据,就会跟着犯错:看到猫的图片,会当成狗认;给不喜欢吃辣的用户,推荐超辣的火锅。
还有一种是“重复数据”——比如同一张猫的图片,在数据集中出现了100次。AI学的时候,会反复学这张图,误以为“猫就长这样”,等遇到其他样子的猫(比如无毛猫、三花猫),就认不出来了。这就像咱们学认字,要是只反复写同一个字的一种写法,遇到行书、草书的写法,就不认识了。
还有“偏见数据”,这个更麻烦。比如要做一个“招聘AI”,用来筛选简历,结果收集的数据里,大部分“优秀员工”的简历都是男性,女性简历很少,而且标注的时候,还把“女性”和“不适合加班”“不稳定”这些标签绑在一起。AI学了这种数据,就会产生“偏见”,筛选简历时会优先选男性,甚至直接把女性简历筛掉,这就造成了性别歧视,肯定是不行的。
之前国外就发生过这样的事:某公司用AI筛选求职者,结果发现AI对女性求职者很不友好,后来查原因,才发现训练数据里,过去十年录用的员工中男性占比很高,数据本身就有偏见,AI自然就“学歪”了。最后公司只能停用这个AI,重新清理数据。
所以,数据收集来之后,必须得“清洗”:先把重复的数据删掉,再把错误标注的数据改对,最后还要检查有没有偏见,尽量让数据更公平、更准确。这一步就像咱们做饭前淘洗米、挑拣菜,虽然麻烦,但必不可少——只有“干净”的数据,才能让AI学好,做事情不出错、不跑偏。
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!
三、数据不能随便用:得保护“个人隐私”
咱们前面说,很多数据是用户“贡献”的,比如聊天记录、购物记录、定位信息,这些数据里藏着咱们的“个人隐私”——要是随便用,很可能会泄露隐私,比如有人用AI分析你的聊天记录,知道你家里的情况;用你的定位数据,知道你每天去哪儿、住在哪儿。所以,AI用数据的时候,必须得守规矩,保护好个人隐私,不能“乱用粮食”。
现在行业里有个很重要的原则,叫“数据匿名化”——就是把数据里能识别出“你是谁”的信息去掉。比如你的外卖订单数据,会把你的真实姓名、手机号、详细住址换成一串代码,只留下“某用户在某天点了一份麻辣烫”这样的信息。这样AI能学到“有人喜欢吃麻辣烫”,却不知道这个人是你,就不会泄露你的隐私。
还有“数据授权”——平台要收集你的数据,得先告诉你“要收集什么数据”“用来做什么”,你同意了才能收集。比如你第一次用某APP,会弹出一个“隐私协议”,里面写着“我们会收集你的位置信息,用于为你推荐附近的服务”,你点了“同意”,平台才能收集你的位置数据;要是你不同意,平台就不能收集。这就像别人要借你的东西,得先问你同不同意,不能随便拿。
妈妈的名字很好听,叫黎绮雯,是个警察。她经常对我说,她随时都有可能在追捕罪犯的过程中丧命,到那时候,我需要学会如何保护我自己。现在的我看起来太懦弱了,妈妈有时候看我的眼神总是有些恨铁不成钢,我知道妈妈心中一定是觉得,作为一个警察的儿子,懦弱成这样,如果是被别人外人知道了,一定会笑掉自己的大牙。...
苍穹动摇时,我放声狂笑,挥动如意金箍棒,砸它个天翻地覆! 此后一万年,你们还会记住我——齐天大圣孙悟空! ※※※ 这个世界上总有那么一些人,他们英勇无畏,固执,乃至偏执,不羁,骄傲,而又狂妄。即使到了绝境,他们也绝不妥协。 宁愿死,也不愿输。...
左手锅,炒人间美味;右手刀,辨世间冤屈 从现代法医到古城仵作,到天下第一女捕头 晏骄亲身书写着传奇。 而这个成功女人背后的男人,定国公, 也终于过上了相妻教子看家带娃的退隐生活。 【不是,划掉!!】 现代女法医与半退隐将军吃喝查案的故事, 夫妻搭档,干活不累!故事发生在上部结束后两年1个月...
一次意外,让宅男秦少风穿越重生到了异世,成为了连泱国蓝江城秦家大少。什么修为被废?丹田也无法修复了?不怕,咱有一个神级修炼系统,破坏的再严重的丹田也能修复!系统在手,功法无尽任我有!达摩老祖的易筋经……齐天大圣的火眼金睛……李寻欢的小李飞刀……美好的世界,我秦少风来了!......
盛世太平,朝中无事,能引起些许波澜的,无外乎一些八卦。 某日,号称天下第一才子、第一美男子、第一风流子的白晓风,办了家晓风书院。 一时间,什么公主、郡主、才女、千金……蜂拥而至,各个醉翁之意不在酒。 史官程子谦蹲点晓风书院,各种“子谦手稿”流出,流到街头巷尾又流到皇宫内院,白晓风最终情归何处,成了都城百姓茶余饭后津津乐道的话题。 慢住,说到这里,大家是否认为本书的主角就是白晓风?非也! 皇朝有个将军,叫索罗定,这位名字拗口又玩世不恭、“臭名远播”还不受欢迎的皇朝第一高手,才是本书的男主。 皇帝给了索罗定一个任务,让他进书院做卧底,汇报第一手资料,偶尔推波助澜偶尔破坏好事,好让皇帝在跟嫔妃们打赌时稳赢不输。 另外,皇帝还让索罗定顺便去学学礼仪,改改他那一身的痞气。 而负责“管束”索罗定的,是白晓风那位毒嘴又八卦的漂亮妹子白晓月。 索罗定就这么跟白晓月杠上了,这丫头不是一般的难对付!...
舒天,Omega,仗着自己天生拥有3s级精神力在学校里耀武扬威,牛逼冲天。 可他做梦都没想到,有朝一日他竟然被所谓的娇花系统成功绑定。 【任务一:您的学习成绩下降,请去找未婚夫要个安慰的抱抱。】 【任务二:您的衬衫脏了,请向未婚夫借件儿他的衬衫来穿。】 【任务三:您的未婚夫身负重伤,行动不便,请您用毛巾帮他仔细擦拭身体。】 舒天握着手里的毛巾,看了看躺在床上“行动不便”却还释放着Alpha信息素的男人。 顿时黑脸掀桌:什么狗屁系统!老子不干了! 系统:叮,请维持好娇花人设哦,系统惩罚中…… 舒天立马身子一软,泪眼婆娑,面色微红的在心里爆了句粗口:系统你大爷! 文案二: 秦景恒和他暗恋多年的Omega有了婚约,原本以为他会厌恶拒绝,却没想到那人突然变了性子,娇娇软软的老想往他怀里钻。 面对心上人的撒娇关怀,他抑制了七年的感情终于一发不可收拾…… *abo星际文/只想谈个恋爱的甜饼/日常流水账/不生子 *(大写加粗)系统会有强制任务的元素*...