9 J0 V" g1 y3 i2 C: d$ \
WriterChucheng
4 E& G5 r* d9 P: b查看我的印记
1 ^" u( y7 l( J酱油帝2
~& A* ?% t+ A# ~) ?回顾GPT类人工智能的发展历程可知，OpenAI公司自GPT-1开始，就将坚持创新视为人工智能大模型的必由之路。为了避免谷歌在人工智能领域形成垄断，OpenAI与谷歌开启了狂飙竞速。2018年，OpenAI推出了1.17亿参数的GPT-1，谷歌推出了3亿参数的BERT。更擅长“写作文”的GPT与更擅长“完形填空”的BERT采用了不同的技术路线，竞争结果是发布更早的GPT-1完败于晚4个月发布的BERT。但出师不利后，OpenAI并没有改变技术策略，而是坚持走“大模型路线”加速创新。2019-2020年，在几乎没有改变模型架构的基础上，OpenAI陆续推出参数更大的迭代版本GPT-2、GPT-3，前者有15亿参数，在性能上已经超过BERT；后者则有1750亿参数，几乎可以完成自然语言处理的绝大部分任务。GPT-3发布之后，OpenAI研究人员依旧在思考如何对模型进行进一步升级。经过创新性地引入“人类反馈强化学习机制”（RLHF），OpenAI获得了更好遵循用户意图的语言模型InstructGPT，并最终成功构建了InstuctGPT的姊妹模型——ChatGPT。
# R; r' p6 y# V4 v* b* @4 ?2015-2020年间，用于训练人工智能大模型的计算量增加了6个数量级。计算量的增加导致其需要庞大资金投入，否则难以为继。据估算，OpenAI的模型训练成本高达1200万美元，GPT-3的单次训练成本高达460万美元。人工智能公司DeepMind从零开始训练AlphaZero的花费在3500万美元左右。目前，ChatGPT每月的计算成本可能达数百万美元。美国官方对人工智能的投资逐年增加。2020年达到18.37亿美元，较2019年增长了25%，支出前三位的美国政府机构分别是国防部（14亿美元）、宇航局（1.391亿美元）和国土安全部（1.123亿美元）。美国国家科学基金（NSF）在2021年要求将8.68亿美元资金用于与人工智能相关的方面，并拨款1.6亿美元用于新增8家人工智能研究所；NSF还与合作伙伴共同宣布向11个其领导的国家人工智能研究中心投资2.2亿美元。美国民间掀起人工智能投资热。据Leonis Capital统计，自2020年至今，对生成人工智能的风险投资增长了400%以上，2022年已达21亿美元。
: D- V8 `8 n8 Y* q( A我国高校人工智能专业培育起步较晚，2019年，教育部印发了《教育部关于公布2018年度普通高等学校本科专业备案和审批结果的通知》，全国共有35所高校获首批建设“人工智能”本科专业资格。但与美西方人才储备情况相比差距依旧明显。一方面是人才供需严重失衡。根据工信部相关数据，人工智能不同技术方向岗位的人才供需比均低于0.4，人才供不应求成为常态。从细分行业来看，智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。另一方面是高层次科研人才与美国差距较大。《2019年全球AI人才流动报告》显示，美国高校培养了全球44%的人工智能领域博士，大于欧盟（21%）和中国（11%）的总和。《智慧人才发展报告（2021）》也显示，相比中国（10.69%），美国人工智能高层次学者数量占全球的67.87%，领先优势明显。 | 
|手机版|Archiver|
( 桂ICP备12001440号-3 )|网站地图
发表于