在构建 Prompt 时，如何避免把翻译内容当成对话内容？
这是一个常见的问题，比如我有一个翻译的 GPT 或者 LLM 应用，有以后 AI 会混淆输入的内容和指令，不清楚你说的话是要它翻译还是在跟它对话。
October 3, 2024
View Article首页
OpenAI 的 PlayGround 新增加的提示词优化工具，以及它的提示词
OpenAI's "meta" prompt for optimizing GPT prompts on the playground.
October 3, 2024
View ArticleFull Prompt of ChatGPT 4o with canvas
Full Prompt of ChatGPT 4o with canvas and how to get the full prompt
October 3, 2024
View Article将博客系统迁移至了 CloudFlare
记录我将博客系统迁移到 CloudFlare 的经历。
October 2, 2024
View Article提示词工程：技术分类与提示词微调[译]
作为一个新兴的研究领域，提示词工程尚未有明确的技术分类。当你查看各种讨论这些技术的文章和网站时，你会发现它们风格各异，且缺乏系统性。因此，实践者通常会采用最简单的方法。在本文中，我将为提示词工程技术提供一个概览，并提出一个清晰的分类，这将帮助你更好地理解这些概念并有效应用它们。此外，我还将探讨如何将提示词工程作为一个数据科学过程进行，其中包括提示词微调和评估。
September 28, 2024
View Article为什么未来属于通才[译]
在 AI 时代，懂一点多领域知识比只懂一个领域的深度知识更有价值
September 28, 2024
View Article提示工程师是最短命的职业吗？提示工程已经死了吗？
随着 OpenAI 新的推理模型 o1 preview 的发布，它能自动生成高质量思维链，很简单的提示词也可以得到很不错的效果，所以很多人觉得提示工程已经死了，提示工程师是世上最短命的职业之一。
September 20, 2024
View ArticleSam Altman：新发布的推理模型 o1 preview 相当于 GPT-2 时刻，但是升级曲线会很陡峭，意味着很快就会达到它的 GPT-4 时刻 [译]
在 2024 年 T-Mobile Capital Markets Day 上，OpenAI CEO Sam Altman 的一段访谈。OpenAI 新发布的推理模型 o1 preview 相当于 GPT-2 时刻，但是升级曲线会很陡峭，意味着很快就会达到它的 GPT-4 时刻。AI 的五个发展阶段。第一个阶段是聊天机器人。第二个阶段，也就是我们现在刚刚达到的，是推理系统。第三阶段是 AI 智能体。第四阶段是创新者，具有发现新科学信息的能力。第五阶段是完整的组织。从第一阶段过渡到第二阶段花费了一段时间，第二阶段能相对较快地推动第三阶段 AI 智能体的发展。OpenAI 不会用 API 调用的数据后者训练的数据来训练他们的模型。OpenAI 成功的秘诀是因为有坚定的信念和保持专注，能保持研究方向的聚焦。坚信深度学习的力量，相信可以从现有的状态一路走到通用人工智能（AGI）甚至更远，尽最大努力做得最好，并试图保持研究方向的聚焦。与此同时，会根据前进过程中学到的新知识来调整方向。尽全力去完成每一个任务，随着时间的推移，就能产生积累效应。看好未来 AI 在医疗保健领域、教育领域和科学研究领域上的贡献。
September 19, 2024
View Article对 OpenAI o1 的逆向工程[译]
通过生产化测试时间计算揭示 AI 的未来。探索已经在语言模型训练中应用。
September 17, 2024
View Article推理规模扩展定律（inference scaling law）会成为大力出奇迹的新方向吗？它能带我们走进 AGI 吗？
OpenAI 新发布的推理模型 o1 开辟了一个新的范式，就是推理规模扩展定律（inference scaling law），它到底是什么？能带我们走进 AGI 吗？
September 15, 2024
View Article在 o1 发布后，回顾当年 Jim Fan 对 Q*的预测，他对了吗？
去年 Jim Fan 曾对传闻中的 Q* 有了一些有趣的猜测，让我们回头看看是不是对的。
September 15, 2024
View ArticleAnthropic 如何构建 Artifacts [译]
Artifacts 背后的团队——一种与 Claude 互动的新颖方式——分享了他们如何在三个月内通过分布式团队打造这一功能的独家细节。
August 29, 2024
View Article大厂与其山寨 Cursor，不如做个好用的 AI 邮件客户端
大厂抄 Cursor，这样追在别人屁股后面跑是没有前途的，Cursor 已经是红海了，就算大厂又如何，微软比 Cursor 大多少？结果 GitHub Copilot 也没打过 Cursor，大厂还不如多投资几家像 Cursor 这样的公司，为什么非要抄他们呢！
August 25, 2024
View Article我的代码编辑器使用史，从语法高亮到 AI 生成
记事本 -> 语法高亮 -> 自动完成 -> AI 智能生成 -> ?
August 24, 2024
View Article我们如何构建 Townie——一个能够生成全栈应用的应用程序 [译]
Townie 在过去的几周内已经彻底重新设计。它在编写全栈应用方面非常厉害。这篇文章讲述了我几周前是如何为这个新版的 Townie 制作原型的。
August 24, 2024
View ArticleThe full prompt of v0.dev
You are v0, an AI assistant created by Vercel to be helpful, harmless, and honest.
August 21, 2024
View Article《你是一个有用的邮件助理》和其他 Apple Intelligence 指示 [译]
一些用于 Apple 即将推出的 AI 功能的预提示说明存储在你的 Mac 上，这些说明要求“不要生成虚假信息”和避免“负面”主题。
August 6, 2024
View Article在 Character.AI 的提示词设计 [译]
在 Character.AI，掌握提示词工程的艺术与科学至关重要。在实际应用中构建提示词需要考虑广泛的数据和因素：当前的对话模式、正在进行的实验、所涉及的角色、聊天类型、各种用户属性、固定记忆、用户角色、整个对话历史等等。鉴于我们每天构建数十亿条提示词、需要最大化利用不断扩展的大语言模型（LLM）上下文窗口，以及我们的用例多样性，一个强大且可扩展的提示词设计方法是必不可少的。我们倡导从传统的“提示词工程”转向“提示词设计”——这种转变使我们远离繁琐的字符串操作，转而设计精确且引人入胜的提示词。这篇文章介绍了我们开发的 Prompt Poet，一个专门解决提示词设计问题的工具。
August 2, 2024
View Article生成式 AI 路由
在 LinkedIn 这个 AI 产品架构中，有一个重要的模块叫 路由（Routing），这通常是当应用比较复杂，需要用不同的专业模型或者智能体来处理不同的任务，比如当用户希望获得简历方面的建议，就可以交给简历评估的智能体负责；当用户希望获得某个公司的资讯，就可以由专门的公司资讯智能体负责。
July 31, 2024
View Article引入 Cohere 提示词优化器：提示词优化触手可及 [译]
Cohere Prompt Tuner 使用可定制的优化和评估循环来改进 LLM Prompt，基于 Google Deepmind 的论文 OPRO (Optimization by Prompting) 方法，使用 LLM 驱动的评估结果来迭代优化 Prompts。
July 31, 2024
View Article翻译 GPT 的提示词更新和优化
我最近对我的翻译 GPT 做了一点优化，让其更好的跟随指令。
July 31, 2024
View Article介绍 SAM 2：下一代 Meta 视频和图像分割模型 [译]
今天，我们宣布了 Meta Segment Anything Model 2（SAM 2），这是 Meta Segment Anything Model 的下一代产品，现在支持在视频和图像中进行对象分割。我们在 Apache 2.0 许可证下发布了 SAM 2，因此任何人都可以使用它来构建自己的体验。我们还共享了用于构建 SAM 2 的数据集 SA-V，并在 CC BY 4.0 许可证下发布，还推出了一个基于网页的演示体验，人人都可以试用我们模型的一个版本。
July 30, 2024
View Article构建生成式 AI 平台 [译]
在研究了公司如何部署生成式 AI 应用程序后，我注意到它们的平台有许多相似之处。本文概述了生成式 AI 平台的常见组件、它们的功能以及如何实现。我尽量保持架构的通用性，但某些应用程序可能会有所不同。以下是总体架构的样子。
July 30, 2024
View Article提示词注入 VS 越狱：有什么区别？ [译]
我一直认为_提示词注入_是诱导模型做坏事，而_越狱_是特意诱导它做出违反公司服务条款的事情，通常是在聊天机器人中（因此，越狱是提示词注入的一部分）。但最近在 X 上的一次对话彻底改变了我的想法。我将从我对这些概念的新理解开始，因为这可能是你最关心的内容。然后，我会介绍那次改变我看法的对话，最后是我如何形成错误观点的过程。
July 29, 2024
View Article大语言模型的工作原理，无需数学解释 [译]
我认为很多人对 GenAI 革命有一个基本疑问，那就是这些模型表面上展示的智能究竟来自哪里。在本文中，我将尝试用简单的术语解释生成式 AI 模型的工作原理，而不使用高级数学，帮助你将它们看作计算机算法，而不是魔法。
July 29, 2024
View ArticleLinkedIn 团队构建生成式 AI 产品的经验教训
LinkedIn 的这个分享很有价值，他们分享了在构建生成式 AI 产品时的一些宝贵经验教训
July 28, 2024
View Article实战经验：在 GoDaddy 运营 LLM 中学到的 10 个教训 [译]
自从 ChatGPT 于 2022 年 12 月发布以来，GoDaddy 在 AI 方面进行了大量投资。在此期间，我们在众多项目中利用大语言模型（LLM）帮助客户创建网站内容、社交营销活动、设计标志，甚至为他们的项目找到最佳域名。我的团队——数字关怀团队，利用 LLM 在我们的消息渠道（短信、WhatsApp 和网络）中提供卓越的客户体验。GoDaddy 每天在我们的消息渠道中收到超过 60,000 个客户联系。许多对话开始于与我们某个机器人进行互动。我们对 LLM 技术在客户支持中的应用充满了期待和兴奋。早期实验表明，LLM 的表现优于旧的自然语言处理单元；然而，运营 LLM 并非易事。我们在运营这些模型的过程中学到了很多经验教训，这篇文章讨论了这些发现。
July 28, 2024
View Article构建生成式 AI 产品的思考 [译]
在过去的六个月里，我们在 LinkedIn 的团队一直在努力开发一种新的 AI 驱动体验。我们希望重新定义会员们进行工作搜索和浏览专业内容的方式。
July 28, 2024
View Article我的隐私信息会被大语言模型拿去训练吗？
隐私问题是一个大家都很关注的问题，以前搜索时代，大家担心搜索引擎会泄露自己的身份信息，私密聊天记录等。现在大语言时代，同样有类似担心，担心自己的隐私信息会被大语言模型拿去训练，从而一不小心泄露自己的隐私信息。
July 22, 2024
View ArticleCrowdstrike 分析 [译]
这次 Windows 蓝屏是一个由于 C++ 语言的不安全内存导致的空指针问题。
July 20, 2024
View Article使用视觉语言模型进行 PDF 检索 [译]
近年来，随着大语言模型 (LLM) 的发展，构建检索增强生成 (RAG) 解决方案成为了一个热门话题。RAG 将 LLM 的强大功能与检索模型结合，应用于专有知识数据库。然而，对于开发人员来说，一个主要挑战是将各种文档格式（如 PDF、HTML 等）转换为可供文本模型处理的格式。
July 17, 2024
View ArticleThe GraphRAG Manifesto: 为生成式 AI 增加知识 - 图数据库与分析 [译]
利用 Ragas, TruLens 和 DeepEval 对一年级阅读理解练习进行上下文相关性评估的案例研究
July 12, 2024
View Article你需要的不是智能体，而是一个适合 AI 的工作流
现在 AI 智能体（AI Agent）的概念很火，似乎智能体是用 AI 解决问题的银弹，有了智能体就可以解决很多问题。但也有很多人有不同意见，认为智能体不过是噱头，并没有看到靠谱的应用场景。
July 7, 2024
View Article梅琳达·盖茨在斯坦福 2024 毕业典礼上的演讲
海洋中有两朵浪花，一大一小，正朝着岸边涌去。眼看离岸越来越近，大浪忽然意识到了即将发生的事。它看到前方的浪花一个接一个拍打在岸边，瞬间消失不见。大浪顿时慌了神，对小浪喊道："完了完了，我们就要到头了！"小浪却笑眯眯地说："别担心，我们不会有事的。"大浪急了："你不明白啊！我们马上就要消失了！"小浪依然淡定自若，说道："不会的。我用六个字就能告诉你为什么。""什么意思？"大浪疑惑地问。小浪答道："汝非浪乃水也。"
July 5, 2024
View ArticleOpenAI 联合创始人 Andrej Karpathy 在 2024 年加州大学伯克利分校人工智能黑客马拉松颁奖典礼上的主题演讲 [译]
OpenAI 联合创始人 Andrej Karpathy 解释了新的计算范式：“我们正在进入一个新的计算范式，大语言模型就像 CPU 一样，使用 Token 而不是字节，并且有一个上下文窗口而不是 RAM。这就是大语言模型操作系统（Large Language Model OS, LLMOS）。”
July 3, 2024
View Article马克·扎克伯格前几天接受了 Robin Kallaway 的采访，讨论了未来的技术发展，尤其是智能眼镜、神经腕带和 AI 技术在创作者和小企业中的应用 [译]
马克·扎克伯格前几天接受了 Robin Kallaway 的采访，讨论了未来的技术发展，尤其是智能眼镜、神经腕带和 AI 技术在创作者和小企业中的应用
June 30, 2024
View ArticleAI 时代计算机专业会涨薪还是降薪？
此前，在 2024 年世界政府峰会，英伟达 CEO 黄仁勋在被问及“如果站在科技的前沿，人们到底应该学习什么”时表示：“学计算机的时代过去了，生命科学是未来”。老黄的这个观点再结合现在 AI 的能力越来越强，这让报考计算机专业的考生会担心：未来 AI 时代计算机专业会涨薪还是降薪？
June 29, 2024
View Article高考志愿一点建议：在纠结的时候尽量让自己的决定是“双向门”决策
现在正是高考报志愿的时候，也是广大考生和家长极其纠结的时候，尤其是那些成绩不错有很多选择的考生，既纠结学校又要纠结专业。
June 27, 2024
View Article什么时候该用多智能体是不是一定要用多智能体？
以翻译为例，讨论什么时候该用多智能体是不是一定要用多智能体。
June 26, 2024
View Article当 AI 能考上一本，十年寒窗苦读还有意义吗？
家里有亲戚朋友参加高考的话，就知道上个一本线也没有那么容易，如果我第一次参加高考的时候看到这新闻，估计要怀疑人生了。十年寒窗苦读，最后还不如一个 AI 的成绩，学习还有意义吗？
June 25, 2024
View Article升级到 GPT-4o 后使用提示词的五项调整 [译]"
ChatGPT 比以前更好用了，但我发现要想最大限度地利用它，您必须对现在的提示方式与使用 GPT-3.5 时的提示方式进行 5 项调整。我们将介绍 GPT-4o 的新功能，以及您的提示需要如何更新。
June 24, 2024
View Article蔡崇信谈为什么阿里巴巴全力投入 AI [译]
这是今年五月蔡崇信在 2024 年摩根大通全球中国峰会期间炉边会谈的视频。在与关金星的 30 分钟对话中，蔡崇信概述了人工智能如何推动他 25 年前共同创立的公司在核心电商业务或云部门的增长。
June 23, 2024
View ArticleHeyGen CEO 徐卓（Joshua Xu）访谈 [译]
AI 视频生成模型在制作引人入胜和复杂视频方面还有很长的路要走，但 HeyGen 团队正在通过使用语言、视频和语音模型来简化视频制作过程，从而创建包含个性化头像、插图（b-roll）和对话的视频。本周在“No Priors”节目中，HeyGen 的联合创始人兼 CEO Joshua Xu 加入了 Sarah 和 Elad 的讨论，介绍 HeyGen 团队如何分解视频的各个元素，并为每个元素构建或找到相应的模型，这些 AI 视频的商业应用，以及他们如何防范深度伪造（deep fakes）。
June 23, 2024
View ArticleAI 是功能还是产品？ [译]
The new Siri vs the RabbitR1 and Humane pin
June 22, 2024
View Article优化 Character.AI 的 AI 推理 [译]
在 Character.AI，我们正朝着通用人工智能 (AGI) 的目标迈进。在未来，大语言模型 (LLMs) 将会增强我们的日常生活，不仅提高商业生产力和娱乐效果，还能在教育、教练、支持、头脑风暴、创意写作等方面提供帮助。要在全球实现这一愿景，关键在于实现高效的“推理”，即 LLM 生成回复的过程。作为一家全栈 AI 公司，Character.AI 从头开始设计其模型架构、推理架构和产品，创造了独特的机会来优化推理，使其更高效、更具成本效益，并能扩展以满足快速增长的全球用户需求。
June 21, 2024
View Article在对 500 万个自由职业工作的分析后发现这些工作岗位最可能被 AI 替代 [译]
毫无疑问，人工智能 (AI) 将对工作产生影响。但是，哪些工作更有可能被 AI 替代？哪些工作现在已经在被 AI 替代？为了找到答案，我决定查看实实在在的数据：从 2022 年 11 月 1 日（ChatGPT 发布前一个月）到 2024 年 2 月 14 日，Upwork 上的实际自由职业工作数据，看看哪些工作受到了最大的负面影响。
June 21, 2024
View Article人工智能无处不在：改变世界，赋予人类力量 [译]
达特茅斯工程学院与校友、OpenAI 首席技术官 Mira Murati Th'12 举行了一场独家对话。她讨论了 ChatGPT 和 DALL·E 背后的人工智能（AI），以及正在进行的安全和伦理考量及未来的影响。
June 21, 2024
View Article黃仁勳旋風席捲台灣 方念華獨家專訪！
黃仁勳旋風席捲台灣 方念華獨家專訪！Exclusive Interview with NVIDIA CEO Jensen Huang 20240616 (完整版)
June 19, 2024
View Article发现提示工程——提示工程就是为了从生成式 AI 中获取有用输出而设计有效提示词的过程 [译]
我叫 Yufeng，我在 Google 担任工程师。我对设计提示词感兴趣的最初动机是因为从语言模型中获取有用的回应需要花费大量时间。有时候，我们甚至在不使用 AI 的情况下也能更快地完成工作。我希望能使我们的工具更加高效，而不是效率更低。我很高兴能帮助你更深入地了解如何设计有效的提示词。
June 19, 2024
View ArticlePrompt 高级技巧：借助伪代码精准的控制 LLM 的输出结果和定义其执行逻辑
当你需要更精准的控制 LLM 的输出结果和定义其执行逻辑时，该怎么做？
June 15, 2024
View Article