本地部署RAG文档问答系统
参考：https://zhuanlan.zhihu.com/p/649366179 https://www.anjhon.top/llms-mac-local-rag Llama-cpp-python 的安装 llama.cpp是 ggml 这个机器学习库的衍生项目，专门用于 Llama 系列模型的推理。llama.cpp 和 ggml 均为纯 C/C++ 实现，针对 Apple Silicon 芯片进行优化和硬件加速，支持模型的整型量化 (Integer Quantization): 4-bit, 5-bit, 8-bit 等。社区同时开发了其他语言的 bindings，例如 llama-cpp-python，由此提供其他语言下的 API 调用。 GitHub 仓库：https://github.com/abetlen/llama-cpp-python apple silicon 安装教程参考：https://llama-cpp-python.readthedocs.io/en/latest/install/macos/ 安装脚本： pip uninstall...
macToGO
参考：https://support.apple.com/zh-cn/111336 如果你有外置储存设备（例如 USB 或雷雳驱动器），则可以在这台设备上安装 macOS，然后将它用作 Mac 的启动磁盘。 注意：外部存储设备必须要符合一定标准，才可以作为启动盘。 安装 macOS 到外部存储设备 外部存储设备中安装高版本 macOS 下载地址:https://support.apple.com/zh-cn/102662. 如果我们希望外部存储设备中的 macOS 版本高于（或等于）当前启动盘的 macOS，这操作就非常简单，只需要下载 macOS 安装包，然后点击安装，磁盘选择外部存储设备即可。 外部存储设备中安装低版本 macOS 此时，只能在恢复模式下，启动 macOS 引导程序，将 macOS 安装到外部存储设备中。 流程为： 下载低版本 macOS 安装包 制作 macOS 引导程序 重启进入恢复模式，选择 macOS 引导程序，安装 macOS 到外部存储设备 步骤 2，使用 macOS 安装包中的 createinstallmedia 工具： sudo...
本地部署大模型
安装 Ollama ollama 是一种本地大模型管理工具 brew install ollama --cask 常见的 ollama 指令有： ollama list：显示模型列表。ollama show [model]：显示模型的信息ollama pull [model]：拉取模型ollama push [model]：推送模型ollama cp [model]：拷贝一个模型ollama rm [model]：删除一个模型ollama run [model]：运行一个模型ollama serve：启动本地 LLM 服务器 当使用 ollama serve 指令后，显示如下信息： 2025/03/26 13:23:33 routes.go:1230: INFO server config env="map[HTTPS_PROXY: HTTP_PROXY: NO_PROXY: OLLAMA_CONTEXT_LENGTH:2048 OLLAMA_DEBUG:false OLLAMA_FLASH_ATTENTION:false OLLAMA_GPU_OVERHEAD:0...
kaggle Detect hallucinations in LLMs
赛题链接：https://www.kaggle.com/competitions/ml-olympiad-detect-hallucinations-in-llms 任务分析：这是一个文本分类任务，难点在于如何提取文本特征、建立文本关系特征，以及如何解决类别不平衡问题 运行环境、使用框架、语言 操作系统：Linux ubuntu 4.15.0-213-generic #224-Ubuntu SMP Mon Jun 19 13:30:12 UTC 2023 x86_64 x86_64 x86_64 GNU/Linux 硬件环境： Intel® Xeon® Gold 6226R CPU @ 2.90GHz + NVIDIA GeForce RTX 3090 * 8 (CUDA Version: 12.4) 语言和运行环境：python 3.9.21 (main, Dec 11 2024, 16:24:11) + jupyter notebook 7.2.2 使用框架：pytorch...
DataFountain-虚假职位招聘预测
赛题链接：https://www.datafountain.cn/competitions/448 任务分析：这是一个分类任务，难点在于，第一，数据集难以处理，第二，类别不平衡，负类样本占比达到95% 运行环境、使用框架、语言 操作系统：Linux ubuntu 4.15.0-213-generic #224-Ubuntu SMP Mon Jun 19 13:30:12 UTC 2023 x86_64 x86_64 x86_64 GNU/Linux 硬件环境： Intel® Xeon® Gold 6226R CPU @ 2.90GHz + NVIDIA GeForce RTX 3090 * 1 (CUDA Version: 12.4) 语言和运行环境：python 3.9.21 (main, Dec 11 2024, 16:24:11) + jupyter notebook 7.2.2 使用框架：pytorch 2.5.1+cu124 数据分析、特征设计、抽取、处理 数据处理部分的代码在data_processing.ipynb中，处理好的数据存储在...
重装macOS
升级指定新版本的 macOS 非常简单，只需要在 app store 中下载并安装即可，这样也不会抹掉原来的数据。但是安装低版本 macOS，要想恢复数据会存在麻烦，因为 低版本的 macOS 可能不兼容高版本的数据，本文仅尝试恢复数据。 注意事项 为了防止降级失败，我们不能将原来的操作系统抹掉。 使用时间机器备份数据。 将低版本的 macOS 安装在磁盘新分区或外部存储设备中。 我们的总体思路是：安装低版本的 macOS，并使用迁移助手，从时间机器中恢复数据。 下载 macOS 安装包 下载地址:https://support.apple.com/zh-cn/102662. 下载完成后，会得到一个应用程序包，我们会发现点击不了它，因为不能安装低版本 macOS，在 xxx.app/Contents/Resources/ 目录下存在两个工具： createinstallmedia：制作 macOS 引导程序 startosinstall：安装 macOS 操作系统 macOS 引导程序和 macOS...
Vscode 连接远程服务器（免密码）
无跳转机连接 本机：A，远程主机：B 要实现免密连接，A 需要有公钥和私钥对，将 A 的公钥放到远程主机 B 的 ~/.ssh/authorized_keys 中。当 A 请求连接 B 时，B 使用 authorized_keys 中的公钥加密一段话发送给 A，A 用 A 的私钥解密这段话，再发送给 B，由 B 验证如果验证成功，则实现 A——>B。 使用 ssh-keygen -t rsa 在 A 和 B 中产生公私钥（若 A 和 B 中已经存在则跳过） 将 A 的公钥 ~/.ssh/id_rsa.pub 放到 B 的 ~/.ssh/authorized_keys 中 配置 vscode remote ssh 插件，在 A 的 ~/.ssh/config 中写入： Host B HostName xxxxxx #B的ip Port xx #端口 User xxx #用户名 IdentityFile ~/.ssh/id_rsa #A的私钥 使用跳转机连接 本机：A，跳转机：J1，跳转机：J2，远程主机：B 将 A 的公钥...
ssh 多跳转机本地端口转发
本地端口转发 本地主机 A 想要访问服务器 B 上 localhost:10086 的服务，应该怎么做？一种常见做法就是，将 A 主机上的一个端口映射到主机 B 端口 10086。 A 无法直接访问 B 的 IP 地址，但是可以通过跳转机 J1，J2 来和 B 建立 ssh 关系，即：A–>J1—>J2—>B host ip username port A / / 10001，10002，10003 J1 1.1.1.1 user1 22（22 端口建立 ssh 关系） J2 2.2.2.2 user2 22 B 3.3.3.3 user3 22 A 登陆到跳转机 J1，然后将 A 的端口 10001 映射到 跳转机 J2 的 22 端口 （2.2.2.2:22） sshpass -p 'pw1' ssh -f -L 1:2.2.2.2:22 -N -o StrictHostKeyChecking=no user1@1.1.1.1 A 登陆到跳转机 J2（ssh 连接...
Git的一些经验
连接问题 参考：https://v2ex.com/t/843383#reply47 远程仓库有两种连接方式：https 和 ssh： https://github.com/xxx.gitgit@github.com:xxx.git 可以使用 git config -l 来看当前仓库对应的远程仓库的链接来分辨使用的是 ssh 连接，还是 https 链接。 我一般使用ssh key来完成身份验证,基本流程是,将公钥id.rsa.pub存储到GitHub账户上,私钥放到~/.ssh/id_rsa中,这样每次git push的时候,就会自动验证身份. 设置 Http Proxy git config --global http.proxy socks5://127.0.0.1:7890 事实上使用 socks5h 更佳，即 git config --global http.proxy socks5h://127.0.0.1:7890 h 代表 host ，包括了域名解析，即域名解析也强制走这个 proxy 。另外不需要配置 https.proxy，git...
hexo自动部署到githubPages和vercel
准备 首先本地有一份博客源码，然后github上面要有两个仓库:hexo-source和xxxx.github.io.git。还需要一份密钥，用来链接github仓库，密钥可以是github token，也可以是ssh密钥。 github token 是用来以https链接仓库；ssh密钥是用来以ssh链接仓库，分为私钥和公钥，私钥放到本地，公钥放到github。 hexo-source仓库用来备份本地源码，将其设置为 private (毕竟，我不想其他人直接git clone就把我的博客系统抄袭了)。 .gitignore中的文件不需要备份，因为其中都是一些环境依赖，还有发布后的代码。 .DS_StoreThumbs.dbdb.json*.lognode_modules/public/.deploy*/_multiconfig.yml xxxx.github.io.git是github Pages仓库，它一定是 public 的，使用hexo...