内网机器人提示注入基础:深圳实测笔记

关于「内网机器人提示注入基础」的笔记

系统/用户分离;不信任工具原文。本地 AI 仍然是一个动手的领域。很多有用的答案来自愿意分享完整配置、失败经过和解决方法的人,而不是精致的发布会。

一篇有用的帖子包含什么

  • 完整配置:CPU、显卡、内存、硬盘、操作系统、驱动和运行时版本。
  • 模型文件和量化,以及来源。
  • 按顺序写出尝试过的步骤,包括失败的。
  • 写明测量方法的观察结果,绝不照搬别处的数字。
  • 如果机器放在共享空间,记录噪音、发热和功耗。

离线与手机端

在手机、平板或迷你主机上跑小模型,用来记笔记、起草翻译、做离线问答都很实用。按可用内存选模型尺寸,给系统留出空间。长时间使用会发热,短提示词加适当停顿会好很多。展台和离线演示要对内容签名,并控制更新渠道。

帮助新手

新手最需要一条单一路径:一个运行时、一个小模型、一个评测集和一份检查清单。不要让初学者同时折腾五个工具。鼓励他们把做过的事写下来,这些笔记常常就是下一个人的教程。

维护故障维基

按现象、配置、解决办法、负责人和日期组织条目。标题要和大家搜索的内容一致,比如完整的报错信息。运行时更新后回头检查旧条目,标出已经不适用的内容。

参与贡献的方式

  • 复现别人的配置,并反馈对你是否有效。
  • 把冗长的排错讨论整理成附带最终解决办法的简短总结。
  • 翻译有用的指南,并注明原作者。
  • 给只有结果的帖子补上测量方法。
  • 运行时或模型更新后,标出过时的教程。

小贡献会积少成多。一个诚实记录失败的社区能节省所有人的时间,也能让新手少走重复的弯路。

想了解更多,可以看看本地AI 1号网和本地 AI 社区。

速记要点

  • 引用速度之前,用自己的提示词实测。
  • 商用前先读模型许可证。
  • 每次变更都写上日期和负责人。
  • 演练恢复,而不只是做备份。

作者:本地AI 1号网,深圳团队,专注本地大模型软硬件、装机与私有化部署。