AI 总结

如何成长

  • 了解 AI 的模型和技术应用知识
  • 熟练使用 AI 开发工具
  • 构建 AI 驱动的原型 需要将概念转化为实际应用
  • AI 社区获取信息
  • 不断学习和多做实战项目

需要技术

Prompt 提示词工程

  • 要求
    • 指令具体
    • 信息丰富
    • 尽量少歧义
  • 角色
    • 你是一个专业的金融投资研究助手 你非常严谨

Context Engineering

컨텍스트 엔지니어링이란 모델이 작업을 수행하는데 필요한 모든 정보, 도구, 환경을 체계적으로 설계하고 구성하는 접근 방식입니다. 컨텍스트는 사용자의 요청에 맞춰서 동적으로 변화되어야 하고 모델이 중요한 정보를 놓치지 않도록 돕는 것입니다.

RAG Retrieval-Augmented Generation

  • 通过外部资源或数据库中纳入相关信息来实现

Function Calling

  • 与外部函数或 api 交互的能力
  • 询问用户 补全信息
  • 基于 LLM 的语言理解能力 通过理解语义 自主决策使用某项工具 并结构化调用

Agent 智能体

- LLM Based Agent
    - 概念
        - 无状态
        - 有状态
        - 连续
        - 离散
    - 目标
        - 将无状态输出的大模型变成了有状态输出的逻辑大脑目标也是工业化
        - 用好Agent关键是思考那些东西值得被离散化,状态化
        - 不断测试大模型能力并研究如何提高状态判断的准确度
- Multi-Agent Model

Fine tuning 微调

RAG vs Function Calling

能力维度RAGFunction Calling
数据时效性依赖索引更新(可能有延迟)实时或近时(直接调用接口)
实现复杂度需构建检索逻辑需定义清晰的接口和参数
适用场景静态知识(文档、FAQ)动态交互(订单查询、天气)

fine-tuning VS embedding

判断好坏是很看情境的,通常需要对业务比较熟悉的人来判断 (例如客服的场景需要资深客服判断)。 fine-tuning 是提升模型的可控性,让模型可以更偏向某个你偏好的语气; embedding 则是让你可以不断即时加入新的资料。

agent与workflow的区别是什么?

在 Anthropic 的《Building effective agents》一文中,有对两者清楚的区别。文中谈到,所谓的workflow,是设定既定的路径,然后让 AI 在既定的路径中去执行不同任务。目前在社群中可以看到像是 n8n 或者 Zappier 这类工具,都偏向工作流这一个分类。

AI Agent不需要事先设定好的流程,只需要目标,就会自行完成指定的任务,所以这种既定的流程,还不能算是agent,而只能被称为工作流。