
当你的笔记本电脑在移动中难以运行大型AI模型时,家中高性能工作站的算力却处于闲置状态。LM Studio最新推出的“LM Link”功能,旨在改变这一现状。
通过与Tailscale合作,LM Link构建了一个专为AI模型设计的私有安全网络。它允许用户将安装有LM Studio的不同设备相互连接,从而实现远程调用模型,体验与本地运行无异。
技术核心:基于Mesh VPN的加密通道
LM Link并未采用传统的端口转发方案,而是基于Tailscale的mesh VPN技术。所有设备间的通信均进行端到端加密,数据不会暴露在公共互联网上。这一设计免除了用户手动配置路由器或担忧网络安全问题的麻烦。
应用场景
该功能开启了多种新的使用可能:
* 在办公室的服务器上部署大型模型,通过外出时的笔记本电脑远程调用。
* 在家用电脑上训练或微调个人模型,在差旅途中于酒店房间内继续使用。

无缝兼容现有工具
对于开发者而言,现有的工具链无需任何修改。无论是通过本地API连接LM Studio的各类开发工具或应用,只需继续指向 localhost:1234 地址,即可透明地使用远程模型。
隐私与共存
LM Studio强调,用户的所有聊天记录始终保存在本地设备上,仅有必要的设备列表信息会上传至服务器,用于设备间的发现与连接。此外,LM Link可与设备上已有的Tailscale VPN服务和平共存,互不干扰。

当前状态与展望
目前LM Link处于预览阶段,免费版本支持最多2个用户,每个用户可连接5台设备。
LM Link的推出,不仅扩展了LM Studio自身的能力边界,也标志着个人AI使用模式的一个潜在转折点——从单机运行向分布式、网络化协作演进,这可能催生出更多创新的AI应用场景。

该预览功能现已开放体验。
关注“鲸栖”小程序,掌握最新AI资讯
本文来自网络搜集,不代表鲸林向海立场,如有侵权,联系删除。转载请注明出处:https://www.itsolotime.com/archives/23093
