公众号:算法码上来
字节跳动 | AI Lab | NLP算法工程师
字节春招开始了,整理了大家最关心的20个问题 字节春招开始了,整理了大家最关心的20个问题
2023届的春招开始了,我给大家整理了一些最关心的问题。如果有任何其他疑问,请在评论区留言或者私信我。 怎么投递?我的内推码:A7FSJMK 校招和暑期实习投递:投递链接:https://jobs.toutiao.com/s/Lv6wSF7
2022-02-17
当年如果有这个,语文就不会不及格了 当年如果有这个,语文就不会不及格了
最近在github上看到了一个项目,是小牛翻译开源的文言文-现代文平行语料,一共有967257个句对,地址在下面:https://github.com/NiuTrans/Classical-Modern 于是我突发奇想,何不用它来训练一个文
2022-01-16
分析了B站所有的弹幕,原来大家都是这样的人 分析了B站所有的弹幕,原来大家都是这样的人
关注公众号【算法码上来】,每日算法干货马上就来! 不知道大家平时看不看B站,看视频的时候发不发弹幕,又喜欢发些什么?今天我写了一个简单的爬虫程序,获取了B站上所有视频的弹幕,然后进行了简单的分析。
2021-12-18
这道小学六年级的数学题,恕我直言没几个人会做 这道小学六年级的数学题,恕我直言没几个人会做
关注公众号【算法码上来】,每日算法干货马上就来! 今天网上冲浪的时候突然看到一道小学六年级的数学题,如上图所示,求阴影部分的面积。 我下意识就想到了微积分,这不就建立坐标系,求出交点,计算积分就行了嘛。转念一想,小学生哪里会积分,这
2021-12-18
【白话模型量化系列二】量化感知训练 【白话模型量化系列二】量化感知训练
关注公众号【算法码上来】,每日算法干货马上就来! 上一篇我们讲解了矩阵乘法量化的基本原理,这一篇来讲解一下量化前需要做的一些准备工作——量化感知训练。 【白话模型量化系列一】矩阵乘法量化 什么是量化感知训练呢?简单来说就是,浮点数转整
2021-12-17
二零二一年终总结 二零二一年终总结
关注公众号【算法码上来】,每日算法干货马上就来! 今天是12.13,一晃二十六周岁了。从2017年开始,每年都会简单总结一下一年中经历的事情,不知不觉已经五年了。 二零一七年终总结二零一八年终总结二零一九年终总结二零二零年终总结 回顾
2021-12-13
【白话模型量化系列一】矩阵乘法量化 【白话模型量化系列一】矩阵乘法量化
模型量化是模型加速方向一个很重要的方法,主要思想就是用int8数据格式来存储和进行计算。这样做有两点好处: 可以减小模型存储的体积。原本float32存储需要4个字节,现在int8存储只需要1个字节,体积是原来的1/4。 可以加快计算速度
2021-11-25
昨晚学妹参加了B站秋招笔试,还想考考我? 昨晚学妹参加了B站秋招笔试,还想考考我?
学妹昨晚参加了B站的2022届秋招算法笔试,做完给我发来了一道题,想考考我,说挺难的。 我看了两分钟,给她发去了我的思路。然后学妹一眼就看懂了,立马秒过。 那么这道题到底是怎么做的呢? 题目要求将$n$个数切分成$k$块,求每块的序号乘上该
2021-08-26
cuBLAS矩阵乘法性能分析(附代码示例) cuBLAS矩阵乘法性能分析(附代码示例)
使用教程矩阵乘法是神经网络中最基础、最重要的一个运算。在用CUDA实现矩阵乘法时,不需要我们手动写,cuBLAS库提供了现成的矩阵乘法算子,例如cublasGemmEx和cublasLtMatmul。其中后者是轻量级版本,API调用更灵活。
2021-08-24
最全攻略:利用LightSeq加速你的深度学习模型 最全攻略:利用LightSeq加速你的深度学习模型
前言LightSeq是字节跳动火山翻译团队开源的一款Transformer系列模型加速引擎,分为训练和推理两个部分。其中推理加速引擎早在2019年12月就已经开源,而训练加速引擎也在2021年6月开源。项目地址:https://github
2021-08-24
让大家久等了,BERT推理加速终于开源了 让大家久等了,BERT推理加速终于开源了
前几个月一直有不少小伙伴问我要LightSeq的BERT推理加速代码,当时内部已经使用了,但是一直没空整理开源。 现在代码终于整理好了,写了一个简单的样例,大家有需要的可以使用起来了。 实现原理这里我直接使用预训练好的BERT模型,用户只需
2021-08-10
大数据分析,带你认识一个你从未见过的周杰伦 大数据分析,带你认识一个你从未见过的周杰伦
周杰伦可以说是大多数90后的青春了,连我妈这种从来不咋看新闻的人也知道他。 你是否曾在初中时抄过他的歌词?你又是否曾经将他的歌词写进作文? 今天我就用大数据来分析一波他的所有歌词,带你认识一个你从未见过的周杰伦。 获取周杰伦的所有歌词这件事
2 / 22