关注公众号【算法码上来】，每日算法干货马上就来！ 今天网上冲浪的时候突然看到一道小学六年级的数学题，如上图所示，求阴影部分的面积。 我下意识就想到了微积分，这不就建立坐标系，求出交点，计算积分就行了嘛。转念一想，小学生哪里会积分，这

关注公众号【算法码上来】，每日算法干货马上就来！ 今天是12.13，一晃二十六周岁了。从2017年开始，每年都会简单总结一下一年中经历的事情，不知不觉已经五年了。 二零一七年终总结二零一八年终总结二零一九年终总结二零二零年终总结 回顾

模型量化是模型加速方向一个很重要的方法，主要思想就是用int8数据格式来存储和进行计算。这样做有两点好处： 可以减小模型存储的体积。原本float32存储需要4个字节，现在int8存储只需要1个字节，体积是原来的1/4。 可以加快计算速度

学妹昨晚参加了B站的2022届秋招算法笔试，做完给我发来了一道题，想考考我，说挺难的。 我看了两分钟，给她发去了我的思路。然后学妹一眼就看懂了，立马秒过。 那么这道题到底是怎么做的呢？ 题目要求将$n$个数切分成$k$块，求每块的序号乘上该

使用教程矩阵乘法是神经网络中最基础、最重要的一个运算。在用CUDA实现矩阵乘法时，不需要我们手动写，cuBLAS库提供了现成的矩阵乘法算子，例如cublasGemmEx和cublasLtMatmul。其中后者是轻量级版本，API调用更灵活。

前言LightSeq是字节跳动火山翻译团队开源的一款Transformer系列模型加速引擎，分为训练和推理两个部分。其中推理加速引擎早在2019年12月就已经开源，而训练加速引擎也在2021年6月开源。项目地址：https://github

前几个月一直有不少小伙伴问我要LightSeq的BERT推理加速代码，当时内部已经使用了，但是一直没空整理开源。 现在代码终于整理好了，写了一个简单的样例，大家有需要的可以使用起来了。 实现原理这里我直接使用预训练好的BERT模型，用户只需

周杰伦可以说是大多数90后的青春了，连我妈这种从来不咋看新闻的人也知道他。 你是否曾在初中时抄过他的歌词？你又是否曾经将他的歌词写进作文？ 今天我就用大数据来分析一波他的所有歌词，带你认识一个你从未见过的周杰伦。 获取周杰伦的所有歌词这件事

最近吴亦凡的事件闹的沸沸扬扬，相信不少吃瓜群众也都有所耳闻。 但咱们今天不谈他的事件到底怎么样，咱们来谈谈他的歌到底如何。 收集歌词我写了一个代码，从QQ音乐上收集了吴亦凡所有的歌词信息，自动汇总整理成一个txt文件，代码在下面：https

在上一期教程中，我演示了如何从零开始训练一个比较智障的聊天机器人。 https://zhuanlan.zhihu.com/p/392175369 但是当时数据量太少，模型简单，完全没法用，只能回复训练集中出现过的句子。 而现在，完全体的聊天

很多人工智能小白可能不知道那些高大上的语音助理、机器翻译或者聊天机器人都是怎么被创造出来的，也不知道一个深度学习模型是怎么从零开始搭建并运行起来的。 今天我就简单教大家如何从零开始搭建一个Transformer模型，并在自己的数据上训练起来

相信很多人都知道Hugging Face，也都用过它的Transformers预训练语言模型，但你们有没有觉得它训练的有点太慢了呢？ 这时候，字节第二快的男人要站出来了（第一快是我mentor），手把手教你怎么让训练时间缩短一半。 训练BE