LLaMa2 Chat gpt 大模型本地部署初体验

一直想在自己电脑或者测试环境随便找台服务器尝试部署一下“大模型”,但“大模型”对于内存和GPU的要求令人望而却步,层出不穷的各种术语也令人困惑,有点难以下手。 经过一段时间,在百度千帆大模型平台、讯飞星火大模型平台、魔搭社区等平台的锤炼之下,对于“大模型”的应用有了一点点认知,但离“本地”部署和应用仍然差距甚远。无意中了解到 llama.cpp 这个开源项目,才算打开了一扇窗户。

发布于 technology

confluence 备份与恢复

confluence是技术团队重要的知识资产,为了服务器发生故障后快速恢复,做了一次恢复演练,本文记录备份和恢复步骤。

发布于 technology

商城系统 前后端交互 报文安全性问题 方案设计

H5商城作为面向互联网的系统,在客户端与服务端通信时需要考虑报文安全性问题,在此对实践中采用的其中一些设计方案做一个总结和介绍。

发布于 technology

Gitlab 备份和恢复

gitlab可以算作公司最重要的知识资产之一,虽然由于其设计,每个开发本地可能都存在着负责项目的全部提交记录,但一旦gitlab发生故障,轻则浪费大量时间进行项目重建,重则丢失项目代码数据。未雨绸缪,提前进行gitlab备份和数据恢复演练,本文记录gitlab的定时备份方案和数据恢复操作。

发布于 technology

使用idea开发和调试maven插件

在上一篇日志中,我在框架项目A中自定义了一个maven插件,并且执行了 mvn clean install命令安装到本地仓库。在业务项目B目录下,使用maven命令mvn compile com.tangliu:gm-maven-plugin:2.0.0-SNAPSHOT:run,将项目B的target下资源添加到容器的类加载路径,并启动了框架项目A的容器,成功实现了我的期望:业务开发不需要关心框架代码,不需要打开框架项目A, 但开发调试时可以直接在当前项目启动。 本篇日志记录开发和使用maven插件时,若遇到问题需要调试该如何处理。

发布于 technology

自定义maven插件,在项目中命令启动springboot并加载当前项目资源

背景最近在制定团队内公用的基础框架,基于单应用多module的架构思路,使用maven管理项目依赖,在项目中定义了一个springboot模块,该模块依赖具体的业务实现模块,启动后通过扫描路径下的类加载服务,业务开发同事只需要开发具体业务模块即可。 但是在项目管理时,不期望业务开发同事关心和修改基础框架。最开始的做法是让业务开发同事在项目的module管理模块下新建业务module模块(见下描述),在不同分支开发不同的业务,开发自测的时候,需要在springboot模块中依赖具体业务module并启动。

发布于 technology

用户资金账户表设计

本文档记录在做项目资金账户模块时的设计思路,主要考虑如何在变动中保持用户资金账户余额的一致性。

发布于 technology

Confluence安装Drawio插件

之前画图习惯了用processOn,确实很方便,而且还有多人协作模式,可惜文件数量太有限了,买了一年会员,后面还涨价了,只好另寻出路。也有在confluence写文档的习惯,然而每次processOn的文件都需要手动截图贴到confluence上,还要留个链接跳转到processOn上以便继续编辑。跟其他人做协同办公时就很苦恼,想找个更好的解决方案,将文档、绘图和协同办公整合。

发布于 technology

SpringBoot配合Drools workbench(BusinessCentral)和maven配置实现动态规则更新

如前面的博文《Docker安装drools workbench和kie-server,使用http调用kie-server rest接口传json参数跑规则》所述,折腾了老半天,装好了workbench,终于可以编辑规则了。也配置好了kie server,终于可以动态发布规则了。然而还是遇到点问题…

发布于 technology

Nginx安装步骤记录

记录linux下两种Nginx的安装方式和步骤。

发布于 technology