以OpenAI的GPT-3（Brown et al., 2020）和Google的PaLM（Chowdhery et al., 2022）为代表的大模型，仰仗其海质的参数和大范围的预训练数据，展现了壮大的作做语言了解取生成才华。跟着大模型技术的成熟，将来大模型将不只仅做为独立的工具，更将成为人类工做和糊口中的智能助手。跟着更壮大的硬件方法的显现（如TPU和GPU的晋级），以及新型架构（如途径性架构 Pathways）的引入（Chowdhery et al., 2022），大模型的训练老原无望获得有效控制。
