一些观点
市面上主流的 LLM 工具的限制所在是什么，它适合做什么，它不适合做什么？
主流 LLM 工具的限制：
Hallucination
我们可以把 LLM 模型理解为互联网的“影印（缩略图）”。LLM 通过预训练数据集进行训练，利用算法处理和分析数据，因此有着极其不稳定的准确性，可能生成不正确或不一致的内容。最近互联网的高频词：Hallucination（幻觉）就是在 ChatGPT 4o 发布后很多用户的评价。
信息源、处理过程透明化弱
LLM 工具在输出内容时，不会主动标明其信息来源，用户难以追溯其内容的出处，无法验证信息的可靠性。其次，在得出某个结论或建议时，通常不会展示其推理过程和中间步骤，用户难以信任其结果的合理性和准确性。
信息源污染
LLM 工具在语义方面差异不大，但对于信息源的选择和权重尤其重要。和新闻媒体、互联网的流言蜚语相似，信息在多次传递过程中，容易被断章取义、夸大其词或选择性报道，导致信息被掩盖或曲解。中文互联网圈这种情况分外严重。
它适合做什么，它不适合做什么？
NLP 和开放性内容
ChatGPT 适合在内容生成（编写、概括）、客户服务（基础）、教育培训（基础）、操作指南、编程辅助、RPA 工具场景（信息抓取、格式转换）、创意生成等领域提供参考性的帮助。
在产品经理工作中可以得到应用的有：
信息采集（公开信息调用、文本信息快速加工）
评论分析（Pros/Cons/应用场景/用户痛点）
用户画像（根据不同产品生成 Persona、用户体验地图、帮助判断目标人群、功能优先级、营销侧重点、潜在迭代空间）。
实时、深度、互联网外的内容
首先，LLM 无法进行实时监控、动态数据更新和紧急决策。法律、医疗、数学等需要专业知识和高精度的任务，我们需要交叉匹配。其次，LLM 所有的信息都是来自于互联网（等可被获取的公开信息）。因此，我们可以简单的说：Google 搜索不到的东西，LLM 大概率也搜索不到。
提问的艺术。
如何使用 Prompt 来 Tuning（调优）大模型的内容输出？
明确目标、持续细化问题、明确输出格式
前提，我们需要明确 LLM 的限制所在，接着再开始正式发问。（以及不同提供商、语言环境、 LLM 产品版本的限制所在，比如 Claude、ChatGPT 3.5 和 ChatGPT 4o）
首先，明确再明确我们期望回复的问题，精简关键词。并根据处理内容的类型来细分 Prompt。（比如信息探索型、比如 Youtube 视频总结型）
接着，把问题分解成具体的、可执行的子任务。可以给列出具体的案例，如特定输出的文本格式，如内容需要规避的内容，如 LLM 需要补足的地方。注意，命令本身不能前后矛盾。
最后，由于 LLM 背后的机制非常复杂，需要持续验证不同指令、不同模型来 A/B test 实际效果，持续迭代和打磨。
一定意义上这属于自然语言编程，让 LLM 为自己工作。
AI 的发展速度极快，使得许多人感到焦虑，甚至有些人的技能在 AI 更新前就被淘汰。我们应该做怎样的准备？在未来，我们的价值是什么。
保持好奇开放心态、跨领域学习、软技能精进（沟通、创造、批判性思维）
技术的发展要求人们不断适应和学习，从而适应技术发展和行业界限模糊化的趋势。我们应该保持好奇心，开放心态，不受业务领域限制，学习最 Foundamental（基础）来建立 First Principle （第一性原理）的知识。持续吸收其他行业的基础知识，让自己有快速捕捉事情本质的思维能力。成为快速懂行的“外行人”。
适应、利用 LLM 工具
生产力在持续进化，时代的趋势不可阻挡。我们需要主动适应并调整自身。
LLM 的自然语言处理能力、数据处理能力、背后依托的数据源非常强大。它可以帮助我们节约大量的重复性的工作、建立个性化的 LLM 工具、也可帮助我们快速了解特定技术、知识、历史，作为加速我们的决策过程，帮助个人更快地学习和创作，成为撬动“地球”的支点。
另外一个维度，LLM 是基于互联网信息共享之上，LLM 在帮助我们整合和挖掘这个共享社区的种种资讯，而它所引用的信息源也可以为我们所用，成为我们深入到社区各分支的引路者，帮助我们自身建立主动信息获取和知识框架。建立个人的第一手信息源，优化数据获取链路以及交叉验证能力。
未来，我们的价值是什么
大模型可以处理自然语言，也拥有巨大体量的数据库。但对于 LLM 智慧方面而言，它仅是各种信息碎片缝合起，无法在沟通、创造、辩证类型的事务下代替我们的工作。
推荐工具
Perplexity.ai
Perplexity 是一款先进的问答工具，集成了搜索引擎，即使是免费版本也可很高效的输出内容。并一一列出信息源、图表、及 Follow-up Questions，帮助我们判断数据可靠性，也进一步帮助我们深入至特定的话题。
Elmo
Elmo 是一个 AI 助手 Chrome 扩展程序，能够提取网页、PDF、YouTube 视频和 Google 文档的关键信息，并以摘要和要点的形式展现，同时支持深入关键词探索。在研究、学习时的辅助工具，可以帮助我们快速探索知识。
ChatGPT
ChatGPT Plus 配合特定的指令可以更关注问题的本质、准确性、完整性、可扩展性。可以非常个性化的根据场景来定制工具。比如在工作过程中需要完成的快速信息收集、整理、重复性较高的部分。月订阅费仅要20美金。
例如我构建的两个 GPT 工具：
ChatPerplexity：专注市场洞察、头脑风暴、聚焦用户需求和画像、消费者心理学研究、认识技术趋势等。它可以帮助我清晰、快速、开放的列出我希望了解的知识，告知信息源的同时，扩展更多信息渠道，帮助我全面、深入的了解随机的一个话题。
Diary Clerk：灵活的收集当天所有的笔记、碎片化的内容，概述并整理成一篇完整的笔记。另外也可以捕捉灵感，和内心对话。减少记录的时间成本和心理压力。
Dola
Dola 是一个人工智能驱动的日历助理，它能够通过文本、语音信息和图片来安排、编辑和取消日程事件，支持与 Google Calendar、Apple Calendar 和 CalDAV 同步。用户可以通过 iMesssage、Whatsapp、Teelgram、LINE 直接与 Dola 交流，快捷完成日程安排，包括添加提醒、调整时间和地点等。
Pi, your personal ai.
Pi 是一个设计用于提供个性化、上下文感知对话的 AI。
与 Siri 等传统语音助手不同，Pi 强调长篇、细致的对话，能够根据用户需求和偏好进行调整。
Pi 使用更复杂的模型来分析和生成更自然、更富有情感的语音输出，模仿人类对话的细微差别。它能够根据对话的内容和上下文调整语气，使交流更具人性化和互动性。
Leave a Reply