我们好好学习

wsl2安装docker+dify+xinference

Sat, 23 Nov 2024 10:02:37 +0800

1、wsl2安装ubuntu，这里指定版本安装一个新环境

 wsl --install -d Ubuntu-22.04

2、安装完的ubuntu是在c盘的，放到其他盘里，先导出，再倒入

#导出Ubuntu-22.04到d盘wsl目录里
wsl --export Ubuntu-22.04 D:\wsl\ubuntu2204_backup.tar
#注销原先的环境
wsl --unregister Ubuntu-22.04
#导入新环境
wsl --import Ubuntu-22.04 D:\wsl\ubuntu2204 D:\wsl\ubuntu2204_backup.tar

3、先在用户目录下，创建一个.wslconfig，添加配置，如用户名是1，目录就在C:\Users\1

[experimental]
#网络镜像模式
networkingMode=mirrored
hostAddressLoopback=true
#共用 Windows DNS、防火墙、代理设置
dnsTunneling=true
firewall=true
autoProxy=true

然后直接用win11去下载docker桌面端安装包，安装完成进入后，设置->Resources->WSL intergation里勾上ubuntu，提交就可以了（忘了是不是要重启）

wsl -d Ubuntu-22.04

4、设置root密码

#默认root没密码，所以执行后会让输入
sudo passwd root

5、平时使用都是root方便，设置默认用户为root

#先切root，避免权限问题
su
#输入root密码
vim /etc/wsl.conf
#添加下面的内容
[user]
default=root

#保存后，关闭ubuntu，新开个cmd窗口，重启wsl
wsl --shutdown
#重新再启动，就自动是root

6、设置默认wsl命令启动的镜像

wsl --set-default Ubuntu-22.04

#然后执行wsl就能直接启动这个

7、安装openssh-server，方便ssh控制

# 习惯东西都放到/opt里
cd /opt
apt update
apt install openssh-server
# 安装完后，修改配置支持root登陆
vim /etc/ssh/sshd_config
# 找到PermitRootLogin部分应该是注释的，直接添加下面保存
PermitRootLogin yes
PasswordAuthentication yes
# 然后启动ssh，就可以局域网访问了（默认wsl的ip和win的ip是同一个，暂时没研究其他的网卡方式）
service ssh start

8、ubuntu安装docker和docker-compose（win11装了桌面端就可以不用装docker了,docker-compose好像也可以直接用win的）

# 用curl方式安装，先装curl
apt install curl
# 下载安装
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
# 执行docker -v后可以，安装docker compose
curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
# 设置权限
chmod +x /usr/local/bin/docker-compose
# 设置软链接
ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 查看版本，验证成功
docker-compose version

9、安装anaconda的py环境管理，直接官网下载，上传到服务器

chmod +x Anaconda3-2024.10-1-Linux-x86_64.sh
./Anaconda3-2024.10-1-Linux-x86_64.sh

# 安装开始要阅读协议，按空格可以翻页快速到底
# 输入yes开始安装，然后设置目录直接回车，用默认目录
# 等待安装完成会让输入yes/no,输入yes
# 如果错过yes，可以手动
source ~/anaconda3/bin/activate
# 然后要设置环境变量生效
source ~/.bashrc
# 然后验证显示版本就完成
conda --version

10、安装py环境

conda create -n dify python=3.11.7

11、切换环境，安装xinference

conda activate dify
pip install "xinference[transformers]"
#安装成功，启动
xinference-local --host 0.0.0.0 --port 9997

12、从git下载dify，上传到，进入目录里的docker目录下，复制一个.env.example变成.env，修改里面EXPOSE_NGINX_PORT端口，作为应用的运行端口

13、如果是没有gpu的，可以运行dify前，把ollama xinference的镜像一并加进去：

# ollama
ollama:
image: ollama/ollama
container_name: ollama
ports:
- 11434:11434
volumes:
- ./volumes/ollama:/root/.ollama
restart: always
# xinference
xinference:
image: xprobe/xinference:v0.16.2-cpu
container_name: xinference
ports:
- 9997:9997
volumes:
- ./volumes/xinference/.xinference:/root/.xinference
- ./volumes/xinference/.cache/huggingface:/root/.cache/huggingface
- ./volumes/xinference/.cache/modelscope:/root/.cache/modelscope
environment:
- XINFERENCE_MODEL_SRC=modelscope
command: xinference-local -H 0.0.0.0
restart: always

14、启动成功后，下载ollama的模型，使用docker exec -it ollama ollama run qwen2.5:7b

通过frp+服务器+域名将本地网站映射到外网

Mon, 04 Nov 2024 23:22:27 +0800

因为要将台式机穿透出去，作为gpu算力使用，借助frp来实现一些接口或dify之类框架的映射，在外网访问台式机电脑。

使用熟悉的老版本frp：https://github.com/fatedier/frp/releases/tag/v0.51.3

需要进行反向代理，否则只能做微信开发的接口转发，网站的静态资源无法正常访问，这里直接借助宝塔配置反向代理，也让frp能守护进程方式运行。

先配置好服务器的frp，配置文件如下，上传到服务器上：

[common]
# 为 HTTP 类型代理监听的端口，启用后才支持 HTTP 类型的代理，未配置则默认不启用，这里用180作为外部端口，服务器和宝塔安全组都需要放行
vhost_http_port = 180
# 服务端监听端口，接收 frpc 的连接，默认值：7000，与本机客户端匹配使用
bind_port = 7000
# 鉴权方式: token, oidc，就token就行
authentication_method = token
# 鉴权使用的 token 值，自己设置一个值，客户端要匹配上
token = token_123456

# 下面这些是配置frp控制台的，目前没咋用到
# 启用 Dashboard 监听的本地地址
dashboard_addr = 0.0.0.0
# 启用 Dashboard 监听的本地端口
dashboard_port = 7500
# Dashboard 登录账号
dashboard_user = admin
# Dashboard 登录密码
dashboard_pwd = 123456

上传上去后，通过服务器的宝塔面板，应用商店中搜索并安装一个supervisor，然后用他创建一个守护进程，填写如下：（按自己的目录来）(要chmod +x 给执行权限)

保存后，确认运行状态正常，然后去站点里，创建网站，使用映射的域名，并且在域名解析那边解析到服务器ip上，然后在网站配置的反向代理中，增加以下配置：(发送域名就是写$host)

剩下就是客户端了，客户端配置：

[common]
server_addr = 服务器ip
server_port = 7000
# 鉴权方式:token, oidc,需要和服务端一致
authentication_method = token
# 鉴权使用的 token 值,需要和服务端一致
token = token_123456
[dify]
type = http
local_ip = 127.0.0.1
local_port = 本地服务的端口
custom_domains = 域名

然后运行就可以了，win电脑要用cmd之类的工具进入到目录下运行

日本旅游-准备篇

Tue, 03 Sep 2024 22:08:58 +0800

持续更新…………

时间：2024年8月

地点：浙江宁波

性质：半特种兵穷游模式，即对吃住不讲究，尽量能多打卡一些地方；

1、护照

1、生活在宁波鄞州区南商这边，最近办理点在“鄞州区政务服务中心”，高德地图搜索即可，上班时间、地点均有

2、大楼里印象中是到2楼公安服务办理，有咨询台的，可以问一下办理护照业务到哪；

3、进入办理大厅，有自助机具来填写申请表格，旁边一般会有服务人员来协助填写，可以办理护照、港澳通行证等，填写细节可以咨询他

4、填写完机具打印出表格后，到旁边的拍照室可以拍证件照；

5、拍完照后，大厅有自助取号机，取号后等到号了，办理即可

6、办理完，扫单子上的二维码进行支付，支付完大概一周时间，可以领取。领取是有24小时的机器的，带当时的单子和身份证即可；

2、签证

淘宝上找了家店，不同店可能价格不一样，要求细节可能也会略有差异，展示的那家店的材料清单：

日本单次签证材料（可提供清晰电子版本扫描件或清晰拍照件）

1. 护照首页 ( 有效期6个月以上即至护照截止日，旧护照无需提供)

2. 照片 (近半年新拍的2张2寸白底彩色照片3.5*4.5cm，不能美颜，照片不要贴)（可提供电子版本、扫描件、拍照件）

3. 身份证正反面

4. 户口本（地址页+本人页）

5. 符合办理单次的经济条件（只有主申请人需要提供这条）

6. 签证申请表+订单信息表（黑色水笔中文填写，不可有涂改，下单后提供邮箱发送给您）

额外提供

7. 若户籍不属于江浙沪皖赣，提供领区内居住证正反面、社保

8. 直系家属随同办理请提供相应关系证明复印件（如结婚证、出生证、户口本等）

经济条件（6选1，根据所提供的经济材料选择套餐办理，即不同类型的证明，价格不一样）

1、在职证明（写明10w年收入）+近1年银行流水单（能体现工资或奖金字样10w进账）

2、在职证明（写明10w年收入）+近1年税单（年缴税700元）

3、（无需在职证明）任一银行存款证明原件，无需冻结，金额10W元起

4、（无需在职证明）信用卡金卡正反面复印件+最近1个月消费对账单可电子版

5、国内4年全日制本科或以上学历，在读生或毕业三年内（学信网学籍证明+毕业证或学生证）

6、其他：房租收入、股票分红证明书等等，能体现10万年收入的其他财力证明。

3、机票

1、飞机票的价格是会根据供需关系而浮动的，如果是国内法定节假日出游的，定了日子后越早买越好，一般只会涨价，如果是非节假日的，可以关注，有些临近的机票可能会因为坐不满而降价。

2、可以多看几个购票软件，当时对比了航旅纵横和携程，机票的航线和价格不一样；

4、酒店

1、同样也要多比下价格，携程、klook、agoda、booking等等，刚开始订的东京成田机场的东横inn，471，结果agoda上只要370，两边都是首次注册首笔订单

5、工具

富士山能见度查询：https://fuji-san.info/zh-cn/index.html

MQTT协议使用

Fri, 10 May 2024 22:56:51 +0800

服务端

因为使用的发布/订阅模式，似乎不需要自己写服务端，只要安装现成开源服务器即可，这里选了EMQX

#到官网，选择服务器版本，下载安装，已centos7为例：
#下载源码包
wget https://www.emqx.com/zh/downloads/broker/5.6.1/emqx-5.6.1-el7-amd64.tar.gz
#安装
mkdir -p emqx && tar -zxvf emqx-5.6.1-el7-amd64.tar.gz -C emqx
#运行
./emqx/bin/emqx start

安装启动完成后，默认通过ip:18083进入管理后台，默认账号admin密码public，可以通过管理后台查看客户端信息以及使用在线websocket客户端。

授权

需要防止别人恶性伪装成客户端来请求，需要增加授权机制，待续

客户端（go）

package main

import (
   "fmt"
   MQTT "github.com/eclipse/paho.mqtt.golang"
   "log"
   "os"
   "os/signal"
   "time"
)

func main() {
   client()
}
func client() {
   // 创建 MQTT 客户端配置
   opts := MQTT.NewClientOptions()
   //设置mqtt服务器地址
   opts.AddBroker("tcp://服务器地址:1883")
   //设置当前客户端的id
   opts.SetClientID("go-mqtt-client")
   opts.SetUsername("adminUser1") // 设置用户名
   //opts.SetPassword("your_password") // 设置密码，如果有的话
   //opts.SetCleanSession(true) //不接收之前的历史消息，实际未测试到应用场景，因为不会过滤掉遗嘱消息

   // 设置遗嘱消息，会在客户端断开时发送，1代表至少发送一次，false代表不保留，如果用true，那么其他设备一旦订阅这个主题，就会收到该消息
   //opts.SetWill("full/topic/LWT", "Admin Offline", 1, false)
   // 创建 MQTT 客户端实例
   client := MQTT.NewClient(opts)

   // 连接到 MQTT 服务器
   if token := client.Connect(); token.Wait() && token.Error() != nil {
      log.Fatal(token.Error())
   }

   // 设置消息接收回调函数
   messageHandler := func(client MQTT.Client, msg MQTT.Message) {
      fmt.Printf("【%s】：%s\n", msg.Topic(), msg.Payload())
   }

   // 订阅主题并设置消息处理函数，接收主题推送
   if token := client.Subscribe("elec/sys/#", 0, messageHandler); token.Wait() && token.Error() != nil {
      log.Fatal(token.Error())
   }

   time.Sleep(3 * time.Second)
   //发送消息，让电源开关打开
   sendMsg(client, "elec/sys/id1/cmnd/Power", "on")
   // 创建一个用于接收操作系统中断信号的通道
   c := make(chan os.Signal, 1)
   // 注册通道以接收操作系统中断信号（通常是 Ctrl+C）
   signal.Notify(c, os.Interrupt)
   // 阻塞程序，直到收到中断信号
   <-c
   // 中断信号已收到，执行清理工作并断开与 MQTT 服务器的连接
   client.Disconnect(250)
}

func sendMsg(client MQTT.Client, topic, msg string) {
   token := client.Publish(topic, 0, false, msg)
   token.Wait()
   fmt.Printf("发出给【%s】消息:%s\n", topic, msg)
}

客户端（设备）

买的是插座，所以：

1、先插到电源上；

2、长按开关，然后用手机在wifi列表里，找到他的名字，连接；

3、连接后会自动打开wifi选择，选择家里wif，输入账号密码，连接wifi成功

4、连接成功后，就可以用内网ip，直接访问设备后台

5、在后台首页Configure进去，然后选择Configure MQTT进去，然后配置服务器的ip、端口等各信息，可以参考官网，示例如下：

Host：服务器ip地址
Port：默认一般是1883
Client：应该是设备标识，目前不知道如何应用
User：用户名，后台会显示，并且如果要校验账号，则会用到
Password：对应密码，如果要校验账号时就必须要
Topic: 官网说时设备唯一主题，但实际测试设置啥都感觉没影响？比如我设置了id1
Full Topic：完整主题，假如我设置elec/sys/id1，那么设备就会忘这个主题推下面接收消息的案例，并且如果要往设备推，也要用这个

设置完毕后，等待他重启即可。然后去服务器后台，应该就能看到这个设备连接上了

发送消息说明

#假设设备上配置的完整主题是elec/sys/id1，那么开启电源就是
主题：elec/sys/id1/cmnd/Power 
内容：1或者on都可以

接收消息说明

#假设设备上配置的完整主题是elec/sys，并且在管理端的客户端上，订阅了elec/sys/#主题，则会收到下面消息
主题：elec/sys/id1/LWT 
内容：Online或Offline （目前不知道是不是通过遗嘱消息来实现，只要一订阅里吗会收到）

主题：elec/sys/id1/STATE
内容：应该是设备状态信息
示例：{"Time":"2024-05-11T15:42:43","Uptime":"0T00:05:09","UptimeSec":309,"Heap":25,"SleepMode":"Dynamic","Sleep":50,"LoadAvg":19,"MqttCount":1,"POWER":"OFF","Wif{"AP":1,"SSId":"TP-LINK_DANDAN","BSSId":"68:77:24:51:2B:26","Channel":6,"Mode":"11n","RSSI":84,"Signal":-58,"LinkCount":1,"Downtime":"0T00:00:03"}}

主题：elec/sys/id1/SENSOR
内容：应该也是插座一些信息，暂不知道含义
示例：{"Time":"2024-05-11T15:42:43","ENERGY":{"TotalStartTime":"2024-05-11T15:30:12","Total":0.000,"Yesterday":0.000,"Today":0.000,"Period":0,"Power":0,"Apparenter":0,"ReactivePower":0,"Factor":0.00,"Voltage":0,"Current":0.000}}

主题：elec/sys/id1/RESULT
内容：有电源变化，其他还未知
示例：{"POWER":"ON"}

主题：elec/sys/id1/POWER
内容：电源状态，不知道和上面这个差异在哪
示例：ON

目前困惑

设备发消息和收消息的主题前缀是一样的，那么管理端要接收消息，就得订阅通配主题elec/sys/# ，然后服务端控制电源就会往elec/sys/id1/cmnd/Power发，这导致服务端也收到这个消息了，这是本身mqtt设计如此，应用中自己忽略吗？还是怎么回事？感觉额外在接收多余的信息了。

实际生产可能是通过规则引擎，在服务器端收到消息的时候，先进行过滤，服务端只收需要的信息，并且用比如kafka的架构，让消息先到kafka，然后再消费来处理业务，那这样发消息的客户端和收消息的业务处理端就分开了，未实践，如果设备量不大，就这样写一个客户端自己处理似乎也能跑。

win11 RTX4070Ti 部署langchain-chatchat

Sat, 03 Feb 2024 22:51:11 +0800

1、下载py的环境管理工具：Anaconda （等同于node环境的nvm工具）

2、创建一个专属环境

conda create -n langchain python=3.11.7
#安装完后切换
conda activate langchain

3、下载项目文件

#通过git或手工下载项目文件
git clone https://github.com/chatchat-space/Langchain-Chatchat.git
#通过Anaconda中的cmd窗口，进入到项目目录

3、下载模型文件，使用项目默认的模型（下载后应该是在项目目录）

git lfs install
$ git clone https://huggingface.co/THUDM/chatglm3-6b
$ git clone https://huggingface.co/BAAI/bge-large-zh

4、初始化配置文件

python copy_config_example.py

5、对configs/model_config.py文件编辑

#根据EMBEDDING_MODEL的值bge-large-zh-v1.5，找到下方158行的地方，将路径修改为实际路径，前面加r，例如
bge-large-zh-v1.5": r"D:\dev\python\model\bge-large-zh"
#同理修改llm模型的路径，在chatglm3-6b在168行

6、安装

pip install -r requirements.txt 
pip install -r requirements_api.txt
pip install -r requirements_webui.txt

7、装完后其实运行不起来，会提示torch和cuda不匹配，需要单独安装，并且在安装前，需要安装nvidia的cuda toolkit 和 cuDNN

#现在命令窗口确认当前cuda版本，我的是cuda12.2
nvidia-smi

8、到nvidia官网下载https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=11&target_type=exe_local

9、安装完后，还要下载cuDNN，地址（需要先注册登录好像）：https://developer.nvidia.com/rdp/cudnn-download

10、下载后，解压出来，将文件夹改名成cudnn放到cuda的目录下，我的目录是：

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2

11、可以另起一个cmd窗口，进入extras目录，执行demo_suite文件，如果提示Result=PASS 则ok

12、同理也执行deviceQuery.exe

13、去pytorch官完安装gpu版本的torch，地址：https://pytorch.org/get-started/locally/

#当前没有cuda12.2的，选了12.1其实也可以用，另外用pip先安装了一次，发现没有效果，可能项目里已经pip依赖装过了，我换conda安装就可以
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

14、查看cuda是否可用

#进入python
python
#引入文件，回车
import torch
#打印状态,出现true则代表成功
torch.cuda.is_available()

15、引入项目带的演示知识库

python init_database.py --recreate-vs

16、启动项目

python startup.py -a

mysql5.6导入mysql8的坑

Tue, 31 Oct 2023 21:22:12 +0800

1、虽然在mysql8里设置数据库的排序规则是utf8mb4_general_ci ，但是导入后，却都被变成了utf8mb4_0900_ai_ci

解决：用navicae导出的，表语句中没有COLLATE属性，所以批量替换 CHARSET=utf8mb4 为 CHARSET=utf8mb4 COLLATE=utf8mb4_general_ci

2、mysql5.7以前，对于日期等允许'0000-00-00' 这种自负存储，但之后包括8都默认开启严格模式，不支持了，如果是有数据的要导入，那只能关闭严格模式，如果是新建的新项目，那建议就用1970-01-01了

linux安装go环境

Mon, 23 Oct 2023 21:32:11 +0800

1、在 https://go.dev/dl/ 下载linux的包

2、上传到服务器，解压，比如放到/opt后，执行下命令，解压到当前目录得到go文件夹

tar -xzf go1.21.3.linux-amd64.tar.gz

3、添加环境变量

vim /etc/profile

#在原先 export PATH USER LOGNAME MAIL HOSTNAME HISTSIZE HISTCONTROL 这行上方，添加一行
export PATH=$PATH:/opt/go/bin

#保存后，使变量生效
source /etc/profile

#通过go version 能显示版本号则完成
#最后添加go镜像
go env -w GOPROXY=https://goproxy.cn,direct

宝塔ftp连不上

Wed, 18 Oct 2023 09:18:26 +0800

1、先检查端口是否有开放，涉及宝塔端口和云服务器的安全组；

2、对Pure-ftpd的配置文件中，大概180来行的ForcePassiveIP 开放，并且把ip改成服务器的外网ip；

通过frp进行内网穿透

Mon, 16 Oct 2023 23:48:39 +0800

因为ngrok会定义刷新域名，有点限制，如果没有服务器域名，用他合适，如果有自己的服务器、域名，则用frp：

按照https://blog.csdn.net/mirage003/article/details/127681591 方式搭建即可

注意：

（1）frp版本要用0.51.3，后续版本的配置文件变成toml，写法也变成驼峰，完全不一样了，未找到资料，所以换成和文章一样的小版本：

https://github.com/fatedier/frp/releases/tag/v0.51.3

如果访问服务端提示：则应该是域名解析没对或反向代理没配对，客户端设置了域名后，就必须要用这个域名来访问的。

[W] [http.go:95] do http proxy request error: no such domain: frps /

（3）mac m1通过homebrew安装的nginx配置文件在/opt/homebrew/etc/nginx/nginx.conf

server_name  localhost wxpub.mzwjc.com;
location ^~ /wxpub {
            proxy_pass http://localhost:8081/wxpub;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
        }

(3) 服务器上服务端后台运行：

查看进程

ps -aux|grep frp | grep -v grep

如果存在，则可以杀死先

kill -9 进程id

通过nohup运行

nohup ./frps -c ./frps.ini &

然后随便输入就可以退出了

客户端同样方式，换成frpc在内网电脑运行，win系统要关闭下自带杀毒，然后在cmd里运行

(4) 如果穿透转发后，用微信开发工具访问域名，显示的Invalid Host Origin header 之类的，需要去uniapp的配置里，在h5部分，设置disableHostCheck，比如

"h5" : {

	"devServer" : {
            "disableHostCheck" : true,
	    "port" : 8081
        },

    }

宝塔nginx配置允许各种文件的下载

Mon, 16 Oct 2023 20:18:10 +0800

location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|pdf|doc|docx|xls|xlsx|rar|zip|gz|7z|ppt|pptx|mp3|mp4|avi|mov|wmv)$
    {
        add_header Access-Control-Allow-Origin *;
        add_header Access-Control-Allow-Methods 'GET, POST, OPTIONS';
        add_header Access-Control-Allow-Headers 'DNT,X-Mx-ReqToken,Keep-Alive,User-Agent,X-Requested-With,If-Modified-Since,Cache-Control,Content-Type,Authorization';
        add_header  Access-Control-Expose-Headers 'Content-Disposition';

        
        expires      30d;
        error_log /dev/null;
        access_log /dev/null;
    }

在网站的配置文件中，修改原先类似的部分为上面的内容