在 Character.AI，掌握提示词工程的艺术与科学至关重要。在实际应用中构建提示词需要考虑广泛的数据和因素：当前的对话模式、正在进行的实验、所涉及的角色、聊天类型、各种用户属性、固定记忆、用户角色、整个对话历史等等。鉴于我们每天构建数十亿条提示词、需要最大化利用不断扩展的大语言模型（LLM）上下文窗口，以及我们的用例多样性，一个强大且可扩展的提示词设计方法是必不可少的。我们倡导从传统的“提示词工程”转向“提示词设计”——这种转变使我们远离繁琐的字符串操作，转而设计精确且引人入胜的提示词。这篇文章介绍了我们开发的 Prompt Poet，一个专门解决提示词设计问题的工具。
August 2, 2024
View Article在 LinkedIn 这个 AI 产品架构中，有一个重要的模块叫 路由（Routing），这通常是当应用比较复杂，需要用不同的专业模型或者智能体来处理不同的任务，比如当用户希望获得简历方面的建议，就可以交给简历评估的智能体负责；当用户希望获得某个公司的资讯，就可以由专门的公司资讯智能体负责。
July 31, 2024
View ArticleCohere Prompt Tuner 使用可定制的优化和评估循环来改进 LLM Prompt，基于 Google Deepmind 的论文 OPRO (Optimization by Prompting) 方法，使用 LLM 驱动的评估结果来迭代优化 Prompts。
July 31, 2024
View Article我最近对我的翻译 GPT 做了一点优化，让其更好的跟随指令。
July 31, 2024
View Article今天，我们宣布了 Meta Segment Anything Model 2（SAM 2），这是 Meta Segment Anything Model 的下一代产品，现在支持在视频和图像中进行对象分割。我们在 Apache 2.0 许可证下发布了 SAM 2，因此任何人都可以使用它来构建自己的体验。我们还共享了用于构建 SAM 2 的数据集 SA-V，并在 CC BY 4.0 许可证下发布，还推出了一个基于网页的演示体验，人人都可以试用我们模型的一个版本。
July 30, 2024
View Article在研究了公司如何部署生成式 AI 应用程序后，我注意到它们的平台有许多相似之处。本文概述了生成式 AI 平台的常见组件、它们的功能以及如何实现。我尽量保持架构的通用性，但某些应用程序可能会有所不同。以下是总体架构的样子。
July 30, 2024
View Article我一直认为_提示词注入_是诱导模型做坏事，而_越狱_是特意诱导它做出违反公司服务条款的事情，通常是在聊天机器人中（因此，越狱是提示词注入的一部分）。但最近在 X 上的一次对话彻底改变了我的想法。我将从我对这些概念的新理解开始，因为这可能是你最关心的内容。然后，我会介绍那次改变我看法的对话，最后是我如何形成错误观点的过程。
July 29, 2024
View Article我认为很多人对 GenAI 革命有一个基本疑问，那就是这些模型表面上展示的智能究竟来自哪里。在本文中，我将尝试用简单的术语解释生成式 AI 模型的工作原理，而不使用高级数学，帮助你将它们看作计算机算法，而不是魔法。
July 29, 2024
View ArticleLinkedIn 的这个分享很有价值，他们分享了在构建生成式 AI 产品时的一些宝贵经验教训
July 28, 2024
View Article自从 ChatGPT 于 2022 年 12 月发布以来，GoDaddy 在 AI 方面进行了大量投资。在此期间，我们在众多项目中利用大语言模型（LLM）帮助客户创建网站内容、社交营销活动、设计标志，甚至为他们的项目找到最佳域名。我的团队——数字关怀团队，利用 LLM 在我们的消息渠道（短信、WhatsApp 和网络）中提供卓越的客户体验。GoDaddy 每天在我们的消息渠道中收到超过 60,000 个客户联系。许多对话开始于与我们某个机器人进行互动。我们对 LLM 技术在客户支持中的应用充满了期待和兴奋。早期实验表明，LLM 的表现优于旧的自然语言处理单元；然而，运营 LLM 并非易事。我们在运营这些模型的过程中学到了很多经验教训，这篇文章讨论了这些发现。
July 28, 2024
View Article在过去的六个月里，我们在 LinkedIn 的团队一直在努力开发一种新的 AI 驱动体验。我们希望重新定义会员们进行工作搜索和浏览专业内容的方式。
July 28, 2024
View Article隐私问题是一个大家都很关注的问题，以前搜索时代，大家担心搜索引擎会泄露自己的身份信息，私密聊天记录等。现在大语言时代，同样有类似担心，担心自己的隐私信息会被大语言模型拿去训练，从而一不小心泄露自己的隐私信息。
July 22, 2024
View Article这次 Windows 蓝屏是一个由于 C++ 语言的不安全内存导致的空指针问题。
July 20, 2024
View Article近年来，随着大语言模型 (LLM) 的发展，构建检索增强生成 (RAG) 解决方案成为了一个热门话题。RAG 将 LLM 的强大功能与检索模型结合，应用于专有知识数据库。然而，对于开发人员来说，一个主要挑战是将各种文档格式（如 PDF、HTML 等）转换为可供文本模型处理的格式。
July 17, 2024
View Article利用 Ragas, TruLens 和 DeepEval 对一年级阅读理解练习进行上下文相关性评估的案例研究
July 12, 2024
View Article现在 AI 智能体（AI Agent）的概念很火，似乎智能体是用 AI 解决问题的银弹，有了智能体就可以解决很多问题。但也有很多人有不同意见，认为智能体不过是噱头，并没有看到靠谱的应用场景。
July 7, 2024
View Article海洋中有两朵浪花，一大一小，正朝着岸边涌去。眼看离岸越来越近，大浪忽然意识到了即将发生的事。它看到前方的浪花一个接一个拍打在岸边，瞬间消失不见。大浪顿时慌了神，对小浪喊道："完了完了，我们就要到头了！"小浪却笑眯眯地说："别担心，我们不会有事的。"大浪急了："你不明白啊！我们马上就要消失了！"小浪依然淡定自若，说道："不会的。我用六个字就能告诉你为什么。""什么意思？"大浪疑惑地问。小浪答道："汝非浪乃水也。"
July 5, 2024
View ArticleOpenAI 联合创始人 Andrej Karpathy 解释了新的计算范式：“我们正在进入一个新的计算范式，大语言模型就像 CPU 一样，使用 Token 而不是字节，并且有一个上下文窗口而不是 RAM。这就是大语言模型操作系统（Large Language Model OS, LLMOS）。”
July 3, 2024
View Article马克·扎克伯格前几天接受了 Robin Kallaway 的采访，讨论了未来的技术发展，尤其是智能眼镜、神经腕带和 AI 技术在创作者和小企业中的应用
June 30, 2024
View Article此前，在 2024 年世界政府峰会，英伟达 CEO 黄仁勋在被问及“如果站在科技的前沿，人们到底应该学习什么”时表示：“学计算机的时代过去了，生命科学是未来”。老黄的这个观点再结合现在 AI 的能力越来越强，这让报考计算机专业的考生会担心：未来 AI 时代计算机专业会涨薪还是降薪？
June 29, 2024
View Article现在正是高考报志愿的时候，也是广大考生和家长极其纠结的时候，尤其是那些成绩不错有很多选择的考生，既纠结学校又要纠结专业。
June 27, 2024
View Article以翻译为例，讨论什么时候该用多智能体是不是一定要用多智能体。
June 26, 2024
View Article家里有亲戚朋友参加高考的话，就知道上个一本线也没有那么容易，如果我第一次参加高考的时候看到这新闻，估计要怀疑人生了。十年寒窗苦读，最后还不如一个 AI 的成绩，学习还有意义吗？
June 25, 2024
View ArticleChatGPT 比以前更好用了，但我发现要想最大限度地利用它，您必须对现在的提示方式与使用 GPT-3.5 时的提示方式进行 5 项调整。我们将介绍 GPT-4o 的新功能，以及您的提示需要如何更新。
June 24, 2024
View Article这是今年五月蔡崇信在 2024 年摩根大通全球中国峰会期间炉边会谈的视频。在与关金星的 30 分钟对话中，蔡崇信概述了人工智能如何推动他 25 年前共同创立的公司在核心电商业务或云部门的增长。
June 23, 2024
View ArticleAI 视频生成模型在制作引人入胜和复杂视频方面还有很长的路要走，但 HeyGen 团队正在通过使用语言、视频和语音模型来简化视频制作过程，从而创建包含个性化头像、插图（b-roll）和对话的视频。本周在“No Priors”节目中，HeyGen 的联合创始人兼 CEO Joshua Xu 加入了 Sarah 和 Elad 的讨论，介绍 HeyGen 团队如何分解视频的各个元素，并为每个元素构建或找到相应的模型，这些 AI 视频的商业应用，以及他们如何防范深度伪造（deep fakes）。
June 23, 2024
View ArticleThe new Siri vs the RabbitR1 and Humane pin
June 22, 2024
View Article在 Character.AI，我们正朝着通用人工智能 (AGI) 的目标迈进。在未来，大语言模型 (LLMs) 将会增强我们的日常生活，不仅提高商业生产力和娱乐效果，还能在教育、教练、支持、头脑风暴、创意写作等方面提供帮助。要在全球实现这一愿景，关键在于实现高效的“推理”，即 LLM 生成回复的过程。作为一家全栈 AI 公司，Character.AI 从头开始设计其模型架构、推理架构和产品，创造了独特的机会来优化推理，使其更高效、更具成本效益，并能扩展以满足快速增长的全球用户需求。
June 21, 2024
View Article毫无疑问，人工智能 (AI) 将对工作产生影响。但是，哪些工作更有可能被 AI 替代？哪些工作现在已经在被 AI 替代？为了找到答案，我决定查看实实在在的数据：从 2022 年 11 月 1 日（ChatGPT 发布前一个月）到 2024 年 2 月 14 日，Upwork 上的实际自由职业工作数据，看看哪些工作受到了最大的负面影响。
June 21, 2024
View Article达特茅斯工程学院与校友、OpenAI 首席技术官 Mira Murati Th'12 举行了一场独家对话。她讨论了 ChatGPT 和 DALL·E 背后的人工智能（AI），以及正在进行的安全和伦理考量及未来的影响。
June 21, 2024
View Article黃仁勳旋風席捲台灣 方念華獨家專訪！Exclusive Interview with NVIDIA CEO Jensen Huang 20240616 (完整版)
June 19, 2024
View Article我叫 Yufeng，我在 Google 担任工程师。我对设计提示词感兴趣的最初动机是因为从语言模型中获取有用的回应需要花费大量时间。有时候，我们甚至在不使用 AI 的情况下也能更快地完成工作。我希望能使我们的工具更加高效，而不是效率更低。我很高兴能帮助你更深入地了解如何设计有效的提示词。
June 19, 2024
View Article当你需要更精准的控制 LLM 的输出结果和定义其执行逻辑时，该怎么做？
June 15, 2024
View Article使用 ChatGPT 的 @ 功能，可以快速找到你用过的 GPT，或者根据关键字检索到，然后再输入你要它完成的任务，和你单独打开 GPT 输入效果是一样的。
June 14, 2024
View Article从我二十多年前参加高考以来，每年高考一结束，#计算机专业还值得报考吗# 就一直热门话题，一些人认为计算机发展了这么多年已经饱和，可能面临毕业即失业的风险，而另一些人则认为计算机专业依然是未来的热门专业，就业前景广阔。
June 13, 2024
View Article从一段翻译 Prompt 说起。
June 13, 2024
View Article在 2024 年全球开发者大会上，我们向大家展示了苹果智能系统，这是一套深度融入 iOS 18、iPadOS 18 及 macOS Sequoia 的个人智能体系。这一系统集成了多个功能强大的生成式 AI，专为处理用户日常需求而设计，能够根据用户当前的活动实时调整。苹果智能中的基础模型经过专门微调，以优化各种用户体验，如文本编写、通知的排序与摘要、为家庭及朋友对话创造有趣的图像，以及简化应用间的交互操作。
June 11, 2024
View Article利用 Ragas, TruLens 和 DeepEval 对一年级阅读理解练习进行上下文相关性评估的案例研究
June 11, 2024
View Article虽然这篇文章的标题称其为“最佳论文”，但实际上并非如此。我的目标是探索一篇真正的最佳论文应具备的特质。
June 11, 2024
View Article现在是使用大语言模型 (LLMs) 构建产品的激动人心的时刻。在过去的一年中，LLMs 的表现已经“足够好”可以应用于现实世界。LLMs 改进的速度，加上社交媒体上的大量演示，将推动预计到 2025 年 AI 投资达到 2000 亿美元。LLMs 的广泛可用性，让每个人，而不仅仅是机器学习工程师和科学家，都能在他们的产品中构建智能。虽然构建 AI 产品的门槛已经降低，但要创建那些不仅仅是演示效果好的产品，仍然充满挑战。
June 9, 2024
View Article如何测试 Chrome 内置的 Gemini Nano 大语言模型
June 8, 2024
View Article我有校对好的视频文稿，但是 Whisper 生成的字幕有错误，我该如何用文稿纠正字幕错误？
June 7, 2024
View Article我用文字描述的方式请教 copilot 指导我写 R 代码（科研作图用），但效果不好。与此同时我查到一现成的完美代码，但因为看不懂，无法根据实际情况调整，所以也无法复现。这个时候我想让 copilot 帮我协调一下，即用现成的代码基础上根据我的说明进行调整，promote 我应该一次性说清楚，还是分多次？
June 7, 2024
View Article我们将介绍提示词注入的工作原理、常见类型以及潜在的风险和后果。你将了解提示词注入如何使得系统生成错误信息、编写恶意软件，甚至可能导致数据泄露和系统远程接管。视频还会探讨应对提示词注入的多种方法，包括数据审查、最小权限原则、人类反馈强化学习等。
June 5, 2024
View Article在计算、网络和图形的发展历史上，Nvidia 有许多独特之处。此刻，它拥有大量资金，并且凭借其架构、工程和供应链在生成式 AI (generative AI) 市场中占据了领先地位，使其能够随心所欲地制定任何可能带来进展的路线图。
June 4, 2024
View Article运营大语言模型应用程序提出了一些在运营传统软件系统时熟悉的问题，但通常有新的变化来保持新鲜感。大语言模型应用程序还提出了全新的问题。我们将这些问题及其答案分为四部分：数据、模型、产品和团队。
June 4, 2024
View Article看到微博上一位医生这条被 ChatGPT-4o 坑的微博，尝试从技术角度解读一下，这样也许能更好的理解现阶段大语言模型的优缺点，在实际应用中能扬长避短。
June 2, 2024
View Article现在是使用大语言模型 (LLMs) 构建产品的激动人心的时刻。在过去的一年中，LLMs 的表现已经“足够好”可以应用于现实世界。LLMs 改进的速度，加上社交媒体上的大量演示，将推动预计到 2025 年 AI 投资达到 2000 亿美元。LLMs 的广泛可用性，让每个人，而不仅仅是机器学习工程师和科学家，都能在他们的产品中构建智能。虽然构建 AI 产品的门槛已经降低，但要创建那些不仅仅是演示效果好的产品，仍然充满挑战。
May 30, 2024
View Article探索你一直渴望了解的谷歌算法的秘密。
May 29, 2024
View Article2024 年 5 月 5 日，我收到一封电子邮件，发件人称得到谷歌搜索部门大量泄漏的 API 文档集的访问权限。邮件还提到，这些泄露文件已经得到前谷歌员工的验证，证实其真实性，并且这些前员工及其他人还透露了更多关于谷歌搜索操作的秘密信息。
May 28, 2024
View Article