← 返回信息流

dev.to #ai短讯

Never Leaves:离线AI在施工现场起草报价单与报告

dev.to作者:Empire Labs Pty Ltd开源AI评分:50/100

该项目为Hacktoberfest开源挑战提交,旨在解决现场工人(如水管工、电工)在无网络环境下生成正式文档的需求。应用利用本地开源权重模型,在完全断网状态下将粗糙笔记转化为专业的报价单和现场报告,实现真正的端侧离线智能处理。

这是 Hacktoberfest 开源 AI 挑战第一周“Touch Grass”的参赛作品。

我做了什么

Never Leaves 在你的本地笔记本电脑上,基于你自己的粗略笔记,使用本地开放权重模型,并在内核层面断开网络的情况下,起草真正的工作文档。

它生成两种技工或现场工人必须发送的文件:报价单和现场报告。

以下是与本周主题相关的关键部分。需要这个工具的人已经在户外了。他们整天在房屋底下、屋顶上、牧场里,或者嘴里咬着手电筒待在天花板夹层中。他们不在屏幕前,也不想待在屏幕前。晚上九点把他们拖回桌边的不是工作本身,而是关于工作的文书工作。

因此,该工具的设计目标是让面对屏幕的时间成为一天中最短的部分。你在现场把凌乱的笔记丢到笔记本电脑上,就像你告诉学徒那样。然后,当你的靴子上还沾着灰尘时,你就能收到一份草稿报价。无需信号,无需账户,无需上传,无需等待任何东西。

它是为那些没有替代方案的现场设计的。在没有连接的情况下,将客户的姓名、地址和电话号码粘贴到一个你无法审计的公司系统中,对许多实际工作来说是不可行的选项。这些人从云工具中一无所获,但可以从这个工具中获得帮助。

演示

在读取你的笔记之前,网络就已经关闭。该工具向你展示

第一次运行打印出的第一件事就是其自身隔离的证明。这是下面记录的运行的真实第一个屏幕截图:

==============================================================
 NEVER LEAVES - proof of isolation
==============================================================
  isolated            yes
  mechanism           linux network namespace via unshare -rn
  interfaces          lo
  interfaces up       none
  routes              0
  open IP sockets     0
  checked at          2026-10-08T03:38:00+00:00
==============================================================
  Only the loopback interface exists and it is not up. The route table is empty and no IP sockets are open, so outbound traffic was impossible rather than merely unused.
==============================================================

仅存在环回接口且处于关闭状态。路由表为空。没有打开的 IP 套接字。出站流量是不可能的,而不仅仅是未使用。

套接字计数并非装饰。一个没有接口的命名空间无法阻止从其父进程继承了已打开套接字的进程。计算打开的 IP 套接数量是排除这种情况的方法。这是通过条件的一部分。

never-leaves check 证明同样的事情并立即退出,因此可以用作脚本中的门控。

4B 模型根据潦草的笔记起草报价

Gemma 3 4B,作为单个 Q4_K_M 文件(2.5 GB),通过 llama-cpp-python 在进程中加载。这条笔记是一次潦草的现场访问记录:

阅读原文