Reading Paper “CodeBERT: A Pre-Trained Model for Programming and Natural Languages” by MSRA

less than 1 minute read

Published:

这篇文章是在2020年发表的,由微软亚洲研究院提出。之前只是调用Microsoft的API使用CodeBERT,但没有对其进行过深入研究,最近精读了这篇文章,进一步理解了这一类大模型的Pre-train, Fine-tune, 和Evaluaete一系列步骤。