火山翻译 字节跳动火山翻译团队推出全新 AI 训练引擎

PConline，6月28日。今天，字节跳动火山翻译团队宣布推出LightSeq训练加速引擎，面向全球开发者开放。

Transformer是自然语言处理、计算机视觉等AI技术领域最常用的基础模型，广泛应用于机器翻译、文本生成、文本摘要、图像处理、时间序列预测等任务。训练和推理是AI技术的两个主要过程，相当于学习知识和解决问题。

据悉，LightSeq训练加速引擎可以支持Transformer的完全加速，从单词嵌入层、编码层、解码层到最终的损失函数层，全流程在业内首次得到支持。而且lighteq的训练速度极快，与主流的序列生成库相比，lighteq最早只能用三分之一的时间完成训练。

据公开报道，字节跳动目前已经开放了机器学习平台Klever、联邦学习平台Fedlearner、高性能分布式训练框架BytePS等重磅项目。