手机浏览器扫描二维码访问
第109章 OpenAI最近有点儿跳得限制一下（第1页）
第109章OpenAI最近有点儿跳，得限制一下！
郝成请了一顿饭，何钢吃了满肚子的心事。
饭局刚刚一结束，他就立刻回到酒店，联系上了于东。
“老何，我咋发现你每次一去临州，都会变得这么慌慌张张的呢？”
于东甚至调侃上了。
“你先别忙，听我说。”
何钢仔细的将郝成在车上的话简单跟于东复述了一遍，而后总结道：“可不要看这东西是郝成在扯闲篇，是在泛泛而谈大路的概念，是没有透露任何AI训练方法的。
“但实际上，他这个泛泛而谈，跟我们一大群人去聊天，他不一样！”
“我知道，他已经训练出小沙了，他的大路概念那是正确的概念。”
于东长长的呼了口气：“从这泛泛而谈中或许能找到方向。
“但光听这些也没有用啊！”
思索了很久，于东也是无奈道：“你说的所有的东西，我只能总结出三个字‘类似人’，而这种方向，团队早就考虑过了。
“但现在的问题不是方向，是方法，我们没有找到任何的方法。
唯一的好消息是，我们以传统方式训练AI的成本也大大的降低了，效率却大大的提高了。”
于东说的这个倒是实情，不仅仅是华为、抖音、腾讯甚至OpenAI，训练AI的成本都降低了。
究其原因，也很简单，他们让小沙帮他们做数据清洗、标定和反馈。
数据清洗原本是一个非常复杂且繁琐的工作，也是训练AI非常关键的步骤，数据清洗的质量越高，AI训练的质量也就越高。
以往，这个工作都是由人工来实现的，也有用AI来做的，但是效果就会很差，往往会投喂一些垃圾数据，造成模型被污染，进而产生一些低级错误。
而现在有了小沙，这项工作可以更快速的进行，准确率甚至不比人工清洗差。
而更关键的一个问题，以往GPT类的模型，是RLHF，也就是基于人类反馈的强化学习。
怎么做的呢：就是先预训练一个语言模型，然后做微调。
微调怎么调呢：就是你问一个问题，语言模型给你回答，然后人工给这些回答进行排名，然后获得一个有质量排序的数据集，用这个数据集反过来再去微调相关的模型参数，一遍又一遍循环往复，然后答案就会越来越接近人想要的。
而现在，小沙代替了人工的这个步骤。
RLHF模型先前被认为不可能无限提高，其中最重要的一个原因就是，随着参数越来越多，数据量越来越大，人工去获取一个有质量排序的数据集也变得越来越不可能。
于是有人就认为，自我反馈模型，也就是让模型自我去评价去提升的模型才是未来，纵然它有时候显得很弱智。
但是现在，有了小沙，小沙替代【基于人类反馈的强化学习】里边的人类，变成了【基于小沙反馈的强化学习】，这一切就又变得可能了！
不仅解决了自我反馈容易弱智的问题，同时解决了人工反馈效率过低、成本过高的问题。
这就相当于将两个模型的优点直接结合了。
而且，超大规模超超大规模，也不用担心人工的问题了。
所以，各家的模型现在进步都非常大，原因就在于此。
想要变得跟小沙一样厉害，那当然不可能——基于小沙训练的AI想超过小沙那本身就是一个悖论。
但是，只要舍得堆积算力，无限的堆积算力，再加上用小沙代替人类进行反馈的强化学习，理论上最终能极限逼近小沙的水准。
当然，理论只是理论，现实中不存在无限算力，考虑实际情况，用这种方式结合超大算力训练一年，达到小沙的六七成水准应该是可能的。
第109章OpenAI最近有点儿跳，得限制一下！
华为这边默默的评估过，现在几乎所有的AI训练企业都在偷偷的这么干。
“需要跟郝成说一下这个情况吗？”
何钢问了一嘴。
“这他应该知道吧？”
蓬莱客原创新书折腰 和离之后by陈令安袁固翠微居完整版 和离之后 折腰无防盗章节 辰小序原创新书裁员后我成了科技教父 十夜灯小说主角陈令安袁固 顾声笙陈最笔趣阁免费阅读 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 魏劭小乔折腰笔趣阁未删减版 和离之后海棠文无删减 陈令安袁固笔趣阁免费阅读 折腰魏劭小乔免费阅读无错版 孽海by言淼宋遇宁翠微居完整版 太子妃位被夺我转身嫁太子他爹无防盗章节 太子妃位被夺我转身嫁太子他爹陆凌瑶免费阅读无错版 两小无猜海棠文无删减 绝尘烟客原创新书太子妃位被夺我转身嫁太子他爹 主角叫魏劭小乔的小说 勤劳的小野猫小说主角言淼宋遇宁 主角叫陆凌瑶的小说
太古剑尊
并指青云，气吞幽冥。大道交错，剑者独尊。这是一个人和一把剑的故事！红尘三千丈，琉璃染天香。群雄共逐鹿，剑尊掌苍黄。剑的真谛，万年之秘，以血海无涯重铸登天之路，以亿万枯骨再炼剑道经书。一切尽在太古剑尊。...
三胞胎死后，我嫁给了渣前夫他小叔
老公小青梅养的狗害两岁女儿得了狂犬病送医。渣老公却为了救他的小青梅和三只狗，延误了救女儿的黄金时间最终惨死医院。同一时间，婆婆的不看管，致使家里的大宝小宝溺死游泳池中。安抒抒痛失三个孩子，一夜白了头。从此，她褪下过去无用的温婉懂事，将自己磨炼成锋利见血的利刃，一刀一刀将恶人凌迟。葬礼上，缺失父爱的孩子们，到死也没等到父亲来送他们一程。于是，她在婆婆的尖叫声中，当场为渣老公举办葬礼。并当着亲朋好友面，果断为死去的孩子们当场换爹！小叔，你愿意做我孩子们的爹吗？小她三岁的小叔哭成狗，我愿意！多年后，渣前夫悔不当初历经艰辛找到她，看到她怀里的三胞胎愕然他们是我的孩子？你既然怀孕了，当初为什么要和我离婚？年轻帅气的小叔从屋里走出来亲了亲老婆，又一把抱过儿子女儿，在渣前夫震惊的眼神中冷冷回道你儿子女儿？做梦吧你，这三个是你堂弟堂妹！注姐弟恋＋双洁！...
名门艳旅
...
琴帝
九叠琴音震寰宇，谁敢闻言不识君？七色魔法代等级，雄雄揭大幕。琴之帝王，给这片大陆带来翻天覆地的改革。伴随着旷古绝今的赤子琴心的出现，一代琴魔法师，在碧空海之中悄然诞生。这将是一个单纯的少年，逐渐成为琴中帝王的故事，开创音乐魔法的先河，颠覆以往的设定，赤橙黄绿青蓝紫，彩虹等级将成为所有武技和魔法衡量的标准。原本仅仅是...
母女重生互换身体，两人都杀疯了
前世，真千金盛敏敏刚出生被恶意调包，过了12年牲口般的农女生活。12岁被接回盛府，亲生父母，3个嫡亲的哥哥无条件地偏宠假千金，最后盛敏敏跟自己刚出生的孩子被假千金活活烧死。今生，盛敏敏与亲生母亲互换身体，她决定以母亲的身份整死假千金，3个哥哥跟所有仇人盛敏敏心情不爽逆子，逆女，跪下！扑通几...
左手白无常右手黄泉路，都是瓜！
闻家真千金被找回来了，还是个从山里出来，满嘴胡言的小神棍，整个圈内都等着看她笑话。短短几日，宋家那小霸王追着要当她小弟萧氏一族奉她若上宾特管局一处求她加入，玄门世家想要拜她为师闻曦小手一挥，直播赚功德水友大师，最近我总觉得被鬼压床了，还梦见诡异的婚礼现场。闻曦出门在外不要乱捡东西，你那是被人配冥婚了。水...