贴吧热议吧 关注:366,087贴子:3,979,768

弱智吧:AI 届的唯一真神,语料比知乎、豆瓣、小红书都强!

只看楼主收藏回复

先来回答 3 个问题:
万能胶能不能粘住不粘锅?
把变色龙扔彩虹糖里会怎么样?
为什么学校有保卫处,没有进攻处?
这些问题都来自弱智吧,一个被忽略的语料宝库。
高质量的语料
这两天出现了一篇有趣论文《COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning》,大意是《搞微调,还得拼质量》。
我们都知道,在大模型训练中,我们的中文数据集多多多多多多多多多多多多多多少少有点问题:要么是英文派生的,要么是脱离实际的,加之中华文化的博大精深和一些都知道的原因,共同造就了优质数据的匮乏。
方法总比困难多,研究团队推出了一个名为 COIG-CQIA 中文指令微调数据集,其取自我们通常认为的高质量数据源,如问答社区、维基、考试和现有的自然语言处理(NLP)数据集。当然,这里还包括「弱智吧」。
之后,研究人员用这些数据集来调教 Yi-6B,再通过 BELLE-EVAL 使用 GPT4 进行评估,得出结论:「弱智吧」的出品遥遥领先,远超过一切其他网络媒体(如:知乎)

不仅是性能,在之后的 SafetyBench 安全测试中,「弱智吧」的出品更是显著优于一切其他数据源。
更多细节,可以直接查看论文:https://arxiv.org/abs/2403.18058
弱智吧语录鉴赏:
我买了一斤藕,为什么半斤都是空的?
午餐肉,我可以晚上吃吗?
我想配个6000多的电脑,大概要多少钱?
香菇掉厕所了还能叫香菇吗?
玉皇大帝住的是平流层还是对流层?
变形金刚买保险是买车险还是人险?
导盲犬禁止入内,是给盲人看的,还是给导盲犬看的?
空腹能吃饭吗?
生蚝煮熟了叫什么?
每天吃一粒感冒药,还会感冒吗?
雷公电母放的是直流电还是交流电?
如果猪肾虚,那它的腰子还补吗?
请问孕妇打人算群殴吗?
去自首的路上被抓了还算自首吗?
老鼠生病了可以吃老鼠药治好吗?
万能胶能不能粘住不粘锅?
陨石为什么每次都能精准砸到陨石坑?
为什么运动员的教练不去比赛呢?
被五步蛇咬了倒退五步能把蛇反杀吗?
斑马是黑底白花还是白底黑花?
吃止痛药去打架,算开挂吗?
被门夹过的核桃,还能补脑吗?
吃健胃消食片能吃饱吗?
把一只变色龙扔彩虹糖里会怎么样?
不孕不育会遗传吗?
正月剪头被舅舅制止并暴打一顿舅舅是否构成正当防卫?
秃头的人洗头,用洗头膏还是洗面奶?


IP属地:北京1楼2024-04-04 21:17回复
    我只看到小红书是最低的


    IP属地:北京来自Android客户端3楼2024-04-04 21:41
    收起回复


      IP属地:黑龙江来自iPhone客户端6楼2024-04-04 21:42
      收起回复
        3


        IP属地:浙江来自Android客户端7楼2024-04-04 21:43
        收起回复




          IP属地:四川来自Android客户端8楼2024-04-04 21:43
          收起回复


            IP属地:浙江来自Android客户端9楼2024-04-04 21:44
            收起回复
              遥遥领先


              IP属地:上海来自iPhone客户端10楼2024-04-04 21:44
              收起回复
                还行


                IP属地:天津来自Android客户端11楼2024-04-04 21:44
                回复
                  11


                  IP属地:河北来自iPhone客户端12楼2024-04-04 21:45
                  收起回复


                    IP属地:山西来自Android客户端13楼2024-04-04 21:46
                    收起回复
                      双关语是一个很能提现文化的东西,弱智吧在这方面确实牛


                      IP属地:广东来自Android客户端16楼2024-04-04 21:48
                      收起回复
                        这些币问题真是看一次难绷一次,人类不能没有弱智吧


                        IP属地:河南来自Android客户端17楼2024-04-04 21:49
                        收起回复
                          你以为你对你舅是正当防卫,其实你是杀人未遂


                          IP属地:吉林来自Android客户端18楼2024-04-04 21:51
                          收起回复
                            为什么字体这么赤石


                            IP属地:北京来自Android客户端19楼2024-04-04 21:52
                            收起回复
                              确实,弱智吧的评论有中文独有的特色


                              IP属地:湖北来自Android客户端20楼2024-04-04 21:53
                              收起回复