本地AI:推理成本零增!跨境隐私、效率新风口!

当前,全球人工智能技术正经历一个蓬勃发展的时期,以大型语言模型(LLM)为代表的云端AI服务在商业领域占据主导地位。这些模型凭借其强大的通用能力,深刻改变了许多行业的运作模式。然而,随着AI技术的广泛应用,其伴随的数据安全、隐私保护、运营成本以及能源消耗等挑战也日益凸显。正是在这样的背景下,一种新的技术路径——将小型语言模型(SLM)部署到本地设备,开始受到业界关注,并被视为未来AI发展的重要趋势之一。
在这个技术浪潮中,一家来自北欧丹麦哥本哈哈根的初创企业NobodyWho,正在探索并推广一种创新的解决方案,旨在通过将小型语言模型直接运行于用户终端设备,来挑战大型科技公司在云端AI领域的传统模式。该公司于近期成功筹集了200万欧元的种子前轮融资,旨在加速这一技术路线的成熟与普及。其核心理念是提供一种成本效益更高、数据安全更有保障且更加环保的替代方案,以应对当前云端大型语言模型所面临的诸多挑战。
NobodyWho的愿景是推动欧洲在全球AI竞争中的能力提升,并倡导小型语言模型作为一种更加可持续和负责任的AI发展方向。这家公司的创始人兼首席执行官是塞西莉·瓦格纳·法尔肯斯特罗姆 (Cecilie Waagner Falkenstrøm),她是一位屡获殊荣的企业家和艺术家。早在2016年,她便在交互式人工智能领域开展了开创性工作。与联合创始人兼首席技术官阿斯比约恩·奥林 (Asbjørn Olling) 及其工程师团队一道,他们在本地AI技术领域深耕近十年。他们的研究成果不仅包括联合国委托项目,甚至在2021年,还在美国国家航空航天局(NASA)的国际空间站上进行了一项边缘AI实验,足见其在本地AI技术研发方面的深厚积累和前瞻性。
当前主流的云端大型语言模型,大多由少数几家大型科技企业掌控。它们的运行需要巨大的计算资源、持续的网络连接,并涉及将大量数据传输至第三方服务器。这不仅带来了高昂的运营成本和潜在的服务锁定风险,更在结构上造成了数据安全性的流失,尤其对于重视数据主权和隐私的区域而言,这无疑是一个重要的考量因素。
NobodyWho所采取的方法与此截然不同。该公司的核心引擎使得小型语言模型(SLM)能够直接在笔记本电脑和智能手机等本地设备上运行。这意味着组织和个人可以完全掌控其数据,无需将其上传至云端。通过这种“设备优先”的架构设计,数据无需离开设备即可完成处理,从而从根本上实现了数据主权和“设计即隐私”的理念。
瓦格纳·法尔肯斯特罗姆女士解释说:“这些模型按照大多数标准来看仍然是大型的,但它们与ChatGPT等系统相比要小得多。它们更类似于早期世代的大型模型,并且完全能够胜任许多实际应用场景的需求。”
本地推理:数据安全与隐私保护的优势
在本地设备上运行人工智能模型,直接带来了显著的隐私和安全优势。从安全角度来看,这种分布式架构也使得系统更加具有弹性。与依赖单一、可能成为攻击目标的中心化云服务器不同,计算任务被分散到成千上万,甚至数百万个设备上执行,极大地增强了系统的鲁棒性。
此外,本地推理将成本负担从云基础设施完全转移。用户利用自有硬件进行计算,这意味着系统可以实现规模扩展而无需增加推理成本。无论一个应用程序服务于十个用户还是千万个用户,都不会产生不断上涨的云服务费用。
这使得先进的人工智能技术能够被更广泛的组织所利用,包括那些原本可能因成本过高而望而却步的机构,例如非政府组织(NGO)、公共部门机构以及处于发展初期的初创企业。对于国内众多致力于跨境业务的中小企业而言,这种模式无疑降低了AI技术的使用门槛,使其能够更经济高效地利用AI工具提升国际竞争力。
大幅减少AI碳足迹:绿色智能新路径
人工智能,尤其是大型模型的训练和推理过程,对能源消耗和环境碳排放的影响日益引起关注。据有关数据显示,大型云端AI的运行产生了显著的碳足迹,这与全球可持续发展的目标有所冲突。
NobodyWho提出的“本地优先”小型语言模型(SLM)架构,则大幅降低了这种环境影响。通过缩小模型体积并将它们部署到离用户更近的设备端,模型运行所需的能源消耗得以显著减少。初步的基准测试结果显示,这种方法在模型训练阶段可将碳足迹降低高达100倍,而在推理阶段更是能降低至500倍。
这些数据表明,小型语言模型技术不仅在经济效益和运行速度上具有优势,更在环境可持续性方面展现出巨大的潜力。这对于全球范围内,尤其是在倡导绿色发展和节能减排的背景下,为AI技术的健康发展提供了一个积极的解决方案。
| 指标 | 云端大型模型(参考) | NobodyWho本地SLM | 优化倍数 |
|---|---|---|---|
| 训练碳足迹 | 高 | 低 | 高达100倍 |
| 推理碳足迹 | 高 | 更低 | 高达500倍 |
这种对环境负责的AI发展路径,与当前全球对可持续发展和环境保护的重视高度契合。它不仅为科技创新提供了新的方向,也为企业履行社会责任、构建绿色生态提供了可行方案。
开源为本:构建开放AI生态
NobodyWho的核心技术,包括其推理引擎、推理库以及开发者集成工具,均以开源的形式提供,并且这一原则将持续保持。该公司并非专注于构建专有的语言模型,而是将重心放在基础设施层面,使现有的开源模型能够真正在实际产品中发挥作用。他们的引擎支持超过10,000个开源语言模型在不同设备和操作系统上高效运行。
该公司创始人兼首席执行官塞西莉·瓦格纳·法尔肯斯特罗姆女士表示:“我们的信念很简单:模型已经存在。真正的瓶颈在于如何让它们变得实用易部署,特别是对于那些不具备机器学习专业知识的开发者而言。”
她进一步解释说,大多数开发者并非机器学习专家。NobodyWho的目标是让运行本地语言模型变得像集成任何其他软件依赖项一样简单。“一个应用程序开发者应该能够用两行代码来运行一个本地模型,”她说,“你不需要拥有机器学习博士学位才能部署人工智能。”
为了实现这一目标,NobodyWho直接与主流的开发者框架进行集成。公司在近期发布了Python语言的支持,并正逐步扩展到其他开发生态系统。这使得开发者可以将NobodyWho轻松集成到现有项目中,而无需深入的机器学习知识或进行复杂的定制基础设施工作。
NobodyWho采取了一种“开源核心”的商业模式。尽管所有核心组件都保持开源,但NobodyWho通过提供模型微调服务来获取收益。在微调服务领域,计算资源需求往往迅速变得昂贵,并且操作管理对团队来说也相当复杂。
瓦格纳·法尔肯斯特罗姆女士解释说:“公司当然可以在内部进行模型微调,但这需要服务器、工程师的时间以及持续的维护。而通过我们的引擎进行模型微调,他们只需支付计算费用,我们收取少量服务费。这比他们自己操作要显著更便宜、更简单。”
一旦模型经过微调,它就可以部署到数百万最终用户设备上,且无需额外的推理成本。这是在本地运行模型而非在云端运行的一个关键优势。对于跨境电商等需要处理大量个性化用户数据的行业而言,这种成本优势和数据掌控力具有极高的吸引力。
小型语言模型:数据驻留之处的智能算力
在使用小型语言模型(SLM)而非大型语言模型(LLM)时,其潜在的权衡之处是业界普遍关心的问题。对此,瓦格纳·法尔肯斯特罗姆女士分享道:“过去,调用云端模型API非常简单,而本地运行模型则相对困难。但现在,我们已经解决了这个问题。借助NobodyWho,本地推理的传统复杂性鸿沟已被有效消除。”
当然,在某些特定场景下,非常大型的模型仍然是不可或缺的,例如处理极其广泛或复杂的推理任务。这些大型模型并不会因此而消失。然而,对于大多数实际的商业应用而言,例如智能客服、人力资源助理、客户支持以及特定领域工具,小型语言模型已经足够胜任,尤其是在经过微调之后。
瓦格纳·法尔肯斯特罗姆女士进一步解释说:“微调小型模型也更加容易。它需要更少的数据和计算资源,并且能够获得更可控的行为表现。大多数公司都在特定的业务环境中运营,而小型模型在这些特定场景下表现出色。”
NobodyWho采用了欧洲公共许可证(EUPL)1.2版本,该许可证明确允许个人和公司在其代码基础上构建商业产品。这一深思熟虑的选择,旨在通过跨主流操作系统和开发框架的广泛支持,推动其技术的实际应用和采纳。
瓦格纳·法尔肯斯特罗姆女士表示:“如果想要真正的普及,就必须允许商业用途。否则,你就无法形成一个生态系统,而仅仅是一个演示。”这种开放的策略,对于鼓励全球开发者参与共建、加速技术迭代具有积极意义。
超越实验阶段:开发者生态蓬勃发展
NobodyWho的生态系统正在迅速形成。目前,已有超过5,000名开发者通过GitHub平台与NobodyWho进行协作开发,此外还有一个活跃的Discord社区,贡献者们在其中讨论用例、分享反馈并共同塑造产品发展路线图。
瓦格纳·法尔肯斯特罗姆女士补充道:“开源是至关重要的。它使得一个真正的社区得以涌现,而不仅仅是用户,更包括了贡献者。”这种开放协作的精神,对于任何新兴技术实现突破性发展都至关重要。
随着平台的发展远超最小可行产品(MVP)阶段,公司的重点已坚定地转向规模化发展。瓦格纳·法尔肯斯特罗姆女士表示:“我们已经度过了实验阶段。现在的目标是扩展框架支持,并赋能更多的开发者构建生产级别的应用程序。”
她坚信,人工智能领域的下一次飞跃将来自于让模型变得更小巧、更本地化、更以人为本。
“AI的未来将不会由规模大小决定,而是由任何人都可以在自己设备上运行的去中心化模型所开创。”
投资者们将本地化、节能高效的人工智能的崛起视为欧洲重要的战略机遇,尤其是在市场对隐私合规且成本效益高的云端模型替代方案需求日益增长的背景下。NobodyWho的本轮融资得到了PSV Tech、The Footprint Firm以及Norrsken Evolve等机构的支持。
PSV Tech联合创始人兼普通合伙人克里斯特尔·皮隆 (Christel Piron) 表示:“我认识塞西莉女士将近十年,亲眼目睹了她如何持续将大胆的想法转化为切实可行的技术。支持NobodyWho对我们来说是理所当然的:这是一个卓越的团队,正在构建关键的欧洲AI基础设施,它具有隐私保护、高能效的特点,并且对全球各地的开发者和公司都具有可访问性。”
The Footprint Firm的首席信息官索菲·卡尔 (Sofie Käll) 分享道:“NobodyWho正在开创性地构建基础设施,使这些超高效的模型真正成为开发者的即插即用工具。这是一个在增长最快的碳排放类别中具有变革性意义的气候技术机遇,我们很高兴能支持这样一个有能力推动行业走向更负责任的AI发展的团队。”
瓦格纳·法尔肯斯特罗姆女士认为,无论采取何种策略,欧洲在“越大越好”的竞争中,都无法在计算能力、资本投入和超大规模基础设施方面与美国或中国匹敌。但她同时指出:“根据我们的经验,我们深知小型模型在许多领域都具有实实在在的强大能力。这为欧洲提供了一个以不同方式参与竞争的机会。”
同时,NobodyWho所做的事情也具有强烈的价值观导向。她强调:“作为欧盟和北欧地区的企业,我们深切关注数据安全、GDPR合规性、可持续性和数据主权。NobodyWho的设计理念正是为了体现这些价值观。”
技术即力量:赋能个体与社会
瓦格纳·法尔肯斯特罗姆女士坚信,欧洲需要相信自身的力量。她指出,欧洲拥有世界上最优秀的教育体系、软件工程师和研究机构。“我们不需要复制美国,我们需要构建能够反映欧洲优势和价值观的人工智能。此外,技术即力量。如果我们关心隐私、主权、可持续性和民主控制,那么这些价值观就必须嵌入到技术本身之中。这正是NobodyWho正在努力的方向:去中心化、开放、保护隐私,并且任何人都可以基于此进行构建的人工智能。”
瓦格纳·法尔肯斯特罗姆女士认为,NobodyWho是首批专门为小型语言模型构建基础设施的公司之一,代表着该领域真正的第一波浪潮。“在2024年,小型语言模型(SLM)的讨论远不如现在普遍。而到了2025年,开发者和投资者已经普遍理解了这一类别。模型正在迅速改进,工具链也日趋成熟。大型科技公司未来也会进入这个领域,但他们会优先优化自己的生态系统。例如,苹果会为苹果产品构建,微软会为微软产品构建。而我们是平台无关的,这创造了一个重要的市场机遇。”
对于中国的跨境从业人员而言,NobodyWho所代表的这种本地化、去中心化、注重数据隐私和成本效益的AI发展趋势,具有重要的参考价值。它不仅为全球AI技术发展提供了多元化的视角,也预示着未来AI应用将更加贴近用户需求,更加注重效率与安全。建议国内相关从业人员密切关注此类动态,探索如何在跨境业务中运用类似理念,提升数据管理水平,优化运营成本,并为全球用户提供更安全、更个性化的智能服务。
新媒网(公号: 新媒网跨境发布),是一个专业的跨境电商、游戏、支付、贸易和广告社区平台,为百万跨境人传递最新的海外淘金精准资讯情报。
本文来源:新媒网 https://nmedialink.com/posts/local-ai-zero-cost-scale-privacy-era.html


粤公网安备 44011302004783号 











