小型言语模型 ：AI局限的新抢手

科技日报记者 刘霞

多年来 ，小型谷歌等科技巨擘和OpenAI等草创公司，言语不时在尽心戮力地独霸海量在线数据，模型打造更除夜 、局限更昂贵的抢手人工智能（AI）模型 。这些除夜型言语模型（LLM）被普及独霸于ChatGPT等聊天机械人中 ，小型辅佐用户措置各类各式的言语义务，从编写代码、模型筹算行程，局限到创作诗歌等 。抢手

自ChatGPT面世以来，小型AI模型便在变除夜、言语变强之路上“疾走”。模型但鼓噪事前 ，局限科技公司也愈来愈存眷更小
、抢手更精简的小型言语模型（SLM）。他们认为
，这些玲珑玲珑的模型不单“术业有专攻”，并且放置成本更昂贵 、更节能。

将来 ，这些局限不一的AI模型将协同工作 ，成为人类的左膀右臂。

小型模型独具优势

跟着AI技能行进神速，AI模型的“块头”穷年累月 。ChatGPT的创作创作创造者OpenAI旧年夸耀称，其GPT-4模型具有约2万亿个参数  。参数展示AI模型的大年夜小 ，一样往常参数越多，AI模型的身手越强，重除夜的参数量使GPT-4成为迄今最壮除夜的AI模型之一，能答复从天体物理学到植物学等多局限搜聚万象的问题。

可是，假定某家公司只想借助AI模型措置特定局限（如医学）的问题，或一家告白公司只需一款AI模型来分化消费者行动，以便他们更精准地推送告白 ，GPT-4这类模型就有点“除夜材小用”了，SLM反而更能知足用户们的请求。

美国《福布斯》双周刊网站在11月的报导中 ，将SLM称为AI局限的“下一个除夜义务” 。

微软公司生成式AI副总裁塞巴斯蒂安·布贝克展示 ，当然SLM的参数量如今并没有不合标准 ，但除夜约在3亿到40亿个之间 ，玲珑到可以拆卸在智好手机上。

专祖撒播宣传，SLM更胜任复杂的义务 ，如总结和索引文档 、搜刮内部数据库等 。

法国草创公司LightOn的担当人劳伦特·都德认为 ，与LLM比照，SLM具有诸多优势：起首，这些模型的回响速度更快，能同时照顾更多查询，答复更多用户；其次，SLM放置成本更低
，动力破钞也更少。

都德诠释道，如今良多LLM需求除夜量处事器来举办操练，然后措置查询。这些处事器由尖端芯片构成 ，需求除夜量电力来运转，并举办冷却。而操练SLM所需芯片更少，运转破钞的动力也更少 ，这使其更便宜 、更节能
。

SLM还可直接拆卸在设备上  ，在不依托数据中心的气候下运转  ，这能进一步确保数据的安然性 。《福布斯》展示，SLM能以起码的筹算成本奉行各类义务，使其成为挪动设备 、边沿设备等的志向选择 。

AI模型掀起“极简风”

谷歌、微软、元宇宙平台公司和OpenAI等公司闻风远扬 ，推出了各类SLM。

旧年12月底，微软公司正式宣布了只需27亿个参数的言语模型Phi-2。微软研究院在其X平台官方账号上展示 ，Phi-2的功用优于现有其他SLM ，且能在笔记本电脑或挪动设备上运转 。本年4月，微软又推出了只需38亿个参数的Phi-3系列模型。

本年8月，微软公司果断不移 ，推出了最新的Phi-3.5-mini-instruct。这款SLM为高效、进步先辈的天然言语措置义务量身打造 。9月，英伟达公司开源了Nemotron-Mini-4B-Instruct。该公司展示，这款SLM出格契合边沿筹算和设备端的独霸。报导称，这两款SLM在筹算成本独霸和下场默示之间完成了出色均衡。在某些方面
，其功用甚至可媲美LLM 。

OpenAI也不甘逞强  。本年7月 ，OpenAI 公司宣布了GPT-4o mini，称其是该公司最智能和最实惠的SLM。

此外 ，亚马逊公司也准予在其云平台上独霸各类局限的AI模型。

此外，其他公司也纷纷斥地更契合本身需求的SLM。比如，美国制药巨擘默克公司正与波士顿征询集团（BCG）合作斥地一款SLM ，旨在根究某些疾病对基因的影响。这将是一款参数介于几亿到几十亿之间的AI模型。

大年夜小模型感染互补

当然SLM在屈就等方面具有稀少优势
，但LLM在措置宏壮问题 、供给更普及的数据访谒方面还是具有极除夜优势 。

展看将来，LLM和SLM两种模型将“是同伙而非敌手”，它们之间的协作交换将成为主流趋势。

当碰着用户提出的某个问题时 ，一款SLM会“身先士卒”，邃晓这个问题，再屈就问题标宏壮性，将相干信息发送给几个大年夜小不一的AI模型。这些模型“齐心合力”“并肩连袂”为用户措置艰苦。

如今市道上的AI模型要么太除夜 、太贵 ，要么措置速度太慢。二者合作 ，或是最好措置筹划 。