# 交互式安装程序（推荐）
npx @orchestra-research/ai-research-skills

# 直接命令
npx @orchestra-research/ai-research-skills list      # 查看已安装的技能
npx @orchestra-research/ai-research-skills update    # 更新已安装的技能

使用 Claude Code CLI 直接安装技能类别：

# 添加 marketplace
/plugin marketplace add orchestra-research/AI-research-SKILLs

# 按类别安装（21 个类别可用）
/plugin install fine-tuning@ai-research-skills        # Axolotl、LLaMA-Factory、PEFT、Unsloth
/plugin install post-training@ai-research-skills      # TRL、GRPO、OpenRLHF、SimPO、verl、slime、miles、torchforge
/plugin install inference-serving@ai-research-skills  # vLLM、TensorRT-LLM、llama.cpp、SGLang
/plugin install distributed-training@ai-research-skills
/plugin install optimization@ai-research-skills

🏗️ 模型架构（5 项技能）

• LitGPT - Lightning AI 的 20 多个干净 LLM 实现，附带生产训练配方（462 行 + 4 个引用）
• Mamba - 状态空间模型，O(n) 复杂度，比 Transformer 快 5 倍（253 行 + 3 个引用）
• RWKV - RNN+Transformer 混合，无限上下文，Linux 基金会项目（253 行 + 3 个引用）
• NanoGPT - Karpathy 编写的一定 300 行教育 GPT（283 行 + 3 个引用）
• TorchTitan - PyTorch 本地分布式训练，用于 Llama 3.1，具有 4D 并行性

🔤 分词（2 项技能）

• HuggingFace Tokenizers - 基于 Rust，<20s/GB，BPE/WordPiece/Unigram 算法（486 行 + 4 个引用）
• SentencePiece - 语言无关，50k 句/秒，用于 T5/ALBERT（228 行 + 2 个引用）

🎯 微调（4 项技能）

• Axolotl - 基于 YAML 的微调，支持 100 多个模型（156 行 + 4 个引用）
• LLaMA-Factory - WebUI 无代码微调（78 行 + 5 个引用）
• Unsloth - 2 倍更快的 QLoRA 微调（75 行 + 4 个引用）
• PEFT - 参数高效的微调，包含 LoRA、QLoRA、DoRA 等 25+ 方法（431 行 + 2 个引用）

🔬 机制解释（4 项技能）

• TransformerLens - Neel Nanda 的库，用于使用 HookPoints、激活缓存进行机制解释，电路分析（346 行 + 3 个引用）
• SAELens - 稀疏自动编码器训练和分析，用于特征发现、单语义性研究（386 行 + 3 个引用）
• pyvene - Stanford 的因果干预库，具有声明式配置（473 行 + 3 个引用）
• nnsight - 通过 NDIF 进行远程解释性，无需本地 GPU 即可运行 70B+ 模型实验（436 行 + 3 个引用）

📊 数据处理（2 项技能）

• Ray Data - 分布式 ML 数据处理，流式执行，GPU 支持（318 行 + 2 个引用）
• NeMo Curator - GPU 加速数据管理，去重 16 倍更快（375 行 + 2 个引用）

🎓 训练后处理（8 项技能）

• TRL 微调 - Transformer 强化学习（447 行 + 4 个引用）
• GRPO-RL-Training (TRL) - TRL 的组相对策略优化（569 行，黄金标准）
• OpenRLHF - 完整的 RLHF 管道，使用 Ray + vLLM（241 行 + 4 个引用）
• SimPO - 简单偏好优化，无需参考模型（211 行 + 3 个引用）
• verl - 字节跳动 HybridFlow RL 框架，FSDP/Megatron + vLLM/SGLang 后端（389 行 + 2 个引用）
• slime - THUDM 的 Megatron+SGLang 框架，为 GLM-4.x 模型提供支持（464 行 + 2 个引用）
• miles - slime 的企业分支，包含 FP8、INT4、推测 RL，用于 MoE 训练（315 行 + 2 个引用）
• torchforge - Meta 的 PyTorch 本地 RL，使用 Monarch+TorchTitan+vLLM（380 行 + 2 个引用）

🛡️ 安全与对齐（4 项技能）

• Constitutional AI - 通过原则进行 AI 驱动的自我改进（282 行）
• LlamaGuard - LLM 输入/输出的安全分类器（329 行）
• NeMo Guardrails - 可编程 guardrails，使用 Colang（289 行）
• Prompt Guard - Meta 的 86M 提示注入 & 脚本注入检测器，99%+ TPR，<2ms GPU（313 行）

⚡️ 分布式训练（6 项技能）

• Megatron-Core - NVIDIA 的框架，用于训练 2B-462B 参数模型，在 H100 上 MFU 为 47% (359 行 + 4 个引用)
• DeepSpeed - 微软的 ZeRO 优化（137 行 + 9 个引用）
• PyTorch FSDP2 - 完全分片数据并行 v2，具有 fully_shard 和 DTensor（231 行 + 12 个引用）
• Accelerate - HuggingFace 的 4 行分布式训练 API（324 行 + 3 个引用）
• PyTorch Lightning - 高级训练框架，具有 Trainer 类（339 行 + 3 个引用）
• Ray Train - 多节点编排和超参数调整（399 行 + 1 个引用）

⚡️ 优化（6 项技能）

• Flash Attention - 2-4 倍更快的注意力，具有内存效率（359 行 + 2 个引用）
• bitsandbytes - 8 位/4 位量化，减少 50-75% 内存（403 行 + 3 个引用）
• GPTQ - 4 位训练后量化，减少 4 倍内存，<2% 准确率损失（443 行 + 3 个引用）
• AWQ - 激活感知权重量化，4 位，最小准确率损失（310 行 + 2 个引用）
• HQQ - 半二次量化，无需校准数据，多后端（370 行 + 2 个引用）
• GGUF - llama.cpp 量化格式，K 量化方法，CPU/Metal 推理（380 行 + 2 个引用）

📊 评估（3 项技能）

• lm-evaluation-harness - EleutherAI 的标准，用于跨 60+ 任务基准测试 LLM（482 行 + 4 个引用）
• BigCode Evaluation Harness - 代码模型基准测试，使用 HumanEval、MBPP、MultiPL-E、pass@k 指标（406 行 + 3 个引用）
• NeMo Evaluator - NVIDIA 的企业平台，用于 100+ 基准测试，跨越 18+ 捆绑包，具有多后端执行（454 行 + 4 个引用）

☁️ 基础设施（3 项技能）

• Modal - 无服务器 GPU 云，具有 Python 原生 API，T4-H200 按需（342 行 + 2 个引用）
• SkyPilot - 跨 20+ 提供商的多云编排，具有 spot 恢复（390 行 + 2 个引用）
• Lambda Labs - 保留/按需 GPU 云，H100/A100，持久文件系统（390 行 + 2 个引用）

🔥 推理 & 服务（4 项技能）

• vLLM - 高吞吐量 LLM 服务，使用 PagedAttention（356 行 + 4 个引用，生产就绪）
• TensorRT-LLM - NVIDIA 的最快推理，24k tok/s，FP8/INT4 量化（180 行 + 3 个引用）
• llama.cpp - CPU/Apple Silicon 推理，GGUF 量化（251 行 + 3 个引用）
• SGLang - 结构化生成，使用 RadixAttention，5-10 倍更快，用于代理（435 行 + 3 个引用）

🔧 代理（4 项技能）

• LangChain - 最受欢迎的代理框架，500+ 集成，ReAct 模式（658 行 + 3 个引用，生产就绪）
• LlamaIndex - LLM 应用的数据框架，300+ 连接器，专注于 RAG（535 行 + 3 个引用）
• CrewAI - 多代理编排，基于角色的协作，自主工作流程（498 行 + 3 个引用）
• AutoGPT - 自主 AI 代理平台，可视化工作流构建器，持续执行（400 行 + 2 个引用）

🔍 RAG（5 项技能）

• Chroma - 开源嵌入数据库，本地/云端，24k 星（385 行 + 1 个引用）
• FAISS - Facebook 的相似性搜索，十亿规模，GPU 加速（295 行）
• Sentence Transformers - 5000+ 嵌入模型，多语言，15k 星（370 行）
• Pinecone - 管理型向量数据库，自动扩展，<100ms 延迟（410 行）
• Qdrant - 高性能 Rust 向量搜索，混合搜索与过滤（493 行 + 2 个引用）

🎨 多模态（7 项技能）

• CLIP - OpenAI 的视觉语言模型，零样本分类，25k 星（320 行）
• Whisper - 稳健的语音识别，99 种语言，73k 星（395 行）
• LLaVA - 视觉语言助手，图像聊天，GPT-4V 级别（360 行）
• Stable Diffusion - 通过 Diffusers 进行文本到图像生成，SDXL, ControlNet, LoRA（380 行 + 2 个引用）
• Segment Anything - Meta 的 SAM，用于零样本图像分割，使用点/框/掩码（500 行 + 2 个引用）
• BLIP-2 - 视觉语言预训练，使用 Q-Former，图像描述，VQA（500 行 + 2 个引用）
• AudioCraft - Meta 的 MusicGen/AudioGen，用于文本到音乐和文本到声音生成（470 行 + 2 个引用）

🎯 提示工程（4 项技能）

• DSPy - 声明式提示编程，具有优化器，Stanford NLP，22k 星（438 行 + 3 个引用）
• Instructor - 结构化 LLM 输出，使用 Pydantic 验证，15k 星（726 行 + 3 个引用）
• Guidance - 使用正则表达式/语法进行约束生成，Microsoft Research，18k 星（485 行 + 3 个引用）
• Outlines - 结构化文本，零开销，8k 星（601 行 + 3 个引用）

📊 MLOps（3 项技能）

• Weights & Biases - 实验跟踪，sweeps，工件，模型注册（427 行 + 3 个引用）
• MLflow - 模型注册，跟踪，部署，自动记录（514 行 + 3 个引用）
• TensorBoard - 可视化，分析，嵌入，标量/图像（538 行 + 3 个引用）

👁️ 可观察性（2 项技能）

• LangSmith - LLM 追踪和评估，用于 AI 应用（422 行 + 2 个引用）
• Phoenix - 开源 AI 可观察性，使用 OpenTelemetry 追踪和 LLM 评估（380 行 + 2 个引用）

🔬 新兴技术（6 项技能）

• MoE Training - MoE 训练，使用 DeepSpeed，Mixtral 8x7B，成本降低 5 倍（515 行 + 3 个引用）
• 模型合并 - 使用 mergekit 合并模型，TIES、DARE、SLERP（528 行 + 3 个引用）
• 长上下文 - 使用 RoPE、YaRN、ALiBi 扩展上下文窗口，32k-128k 个 token（624 行 + 3 个引用）
• 推测解码 - 1.5-3.6 倍更快的推理，使用 Medusa、Lookahead（379 行）
• 知识蒸馏 - 压缩模型 70B→7B，使用 MiniLLM，温度缩放（424 行）
• 模型剪枝 - 50% 稀疏性，使用 Wanda、SparseGPT，准确率损失 <1%（417 行）

📝 ML 论文写作（1 项技能）

• ML 论文写作 - 为 NeurIPS、ICML、ICLR、ACL、AAAI、COLM 写出版就绪论文，使用 LaTeX 模板，引用验证，写作最佳实践（532 行 + 5 个引用）

💡 创意构思（2 项技能）

• 研究头脑风暴 - 研究性构思框架，用于发现高影响力的研究方向，具有 10 个互补的视角（384 行）
• 创造性思维 - 认知科学框架（联想、结构映射、约束操作）用于产生真正新颖的研究想法（366 行）