3月29日，蚂蚁集团昨日宣布，正式开源Ling-Coder-Lite。

据官方介绍，Ling-Coder-Lite是一款 MoE 架构的代码大语言模型，实现推理效率提升 1.5-2 倍。

据介绍，2个轻量级代码大模型 Ling-Coder-Lite 和 Ling-Coder-Lite-base 已在 Hugging Face 与 ModelScope 开源 。同时，蚂蚁集团开源用于退火训练的 SyntheticQA、用于后训练 SFT（Supervised Fine-tuning）和 DPO（Direct Preference Optimization）共计约 3000 万条数据，支持社区进一步研究和开发。

据介绍，基于 Ling-MoE 架构，Ling-Coder-Lite 总参数量为 16.8B，推理时激活参数仅为 2.75B。Ling-Coder-Lite 支持 Python、Java、C++、Java 等数十种常用编程语言，除简单的和多语言的代码生成之外，还支持竞赛类和应用类高级代码生成、代码理解和输入输出推理、数据科学和 SQL 类数据分析、代码修复等。