目录

ICL

目录

ICL即In-contexting Learning。 ICL 包含三种分类: - Few-shot learning,允许输入数条示例和一则任务说明; - One-shot learning,只允许输入一条示例和一则任务说明; - Zero-shot learning,不允许输入任何示例,只允许输入一则任务说明。 image.png

训练时

推理时

与微调不同,使用ICL推理时并不更新参数。可以简单理解为带有Tuning的都会更新参数,因为叫“微调”,而ICL并不更新参数,但训练时的ICL会更新参数(将ICL模板作为语料),这显而易见。

参考

In-context Learning学习笔记 - 知乎 (zhihu.com)