小文存档 0319

翁荔（Lilian Weng） 是人工智能（AI）领域备受瞩目的华人女性科学家。作为 OpenAI 的前安全主管，她在 GPT-4 的开发过程中发挥了举足轻重的作用，并提出著名的 “Agent”公式 —— 大模型 + 记忆 + 主动规划 + 工具使用，为 AI 研究提供了崭新的理论框架。翁荔的职业生涯不仅展现了卓越的技术实力，也为女性在 STEM 领域树立了坚实的榜样。

翁荔毕业于北京大学信息管理系，随后赴美攻读博士学位，在印第安纳大学伯明顿分校深入研究技术与数据的交叉领域。这段求学旅程让她不仅掌握了深厚的理论知识，更培养了在国际科技环境中工作的能力。博士毕业后，翁荔在硅谷的多家知名科技公司历练，包括 Meta（当时的 Facebook）、Dropbox 和 Affirm，担任数据科学家和软件工程师。2018 年，她正式加入 OpenAI，成为机器人团队的一员，参与了多个重要项目，包括机器人技术与深度强化学习的研究，并见证了 OpenAI 鼓励创新的公司文化。

在 OpenAI 工作的最初两三年，翁荔所在的机器人团队尝试教会一只类人机器手玩魔方——一个看似不可能的任务。通过深度强化学习（RL）、域随机化（Domain Randomization）和无需真实世界训练数据的方法，团队成功完成了这一挑战。这次经历让翁荔深刻体会到跨学科团队合作的力量，并进一步坚定了她投身 AI 领域的决心。

翁荔始终坚信：「学习的力量无穷，而且永远不嫌太晚。」除了深耕 AI 领域，她经常阅读跨领域的书籍，从不同主题中获取灵感，并在个人博客中记录和分享学习心得。她尤其受村上春树《当我谈论跑步时我在谈论什么》中的一句话启发：「痛苦是不可避免的，但受苦是可选的。」她的博客不仅成为整理和反思知识的工具，也帮助她将复杂的技术概念转化为清晰易懂的内容，启发了更多对 AI 感兴趣的读者。

随著大语言模型（LLMs）的普及，翁荔逐渐将研究重心转向 AI 安全与对齐性（alignment）。她深知，深度学习模型由人类数据训练，难免吸收社会中潜在的偏见和缺陷。如何降低 AI 模型生成有害内容的可能性，并将偏见风险降到最低？ 这是翁荔和安全团队一直以来思考的核心问题。

自 2021 年起，翁荔带领 OpenAI 应用研究团队，专注于优化语言模型的安全性，并在以下领域取得突破：

• 预训练优化： 改进 GPT-4 的数据清洗和混合策略，提升训练效率 30%。
• 强化学习与对齐（RLHF）： 设计基于人类反馈的强化学习流程，提高模型的对齐性与鲁棒性（robustness）。
• 多模态安全机制： 建立文本与图像的联合过滤系统，将误报率降低 62%。

翁荔提出的 “Agent = 大模型 + 记忆 + 主动规划 + 工具使用” 公式，成为 AI 研究的重要理论基石。该公式将大模型的语言理解能力与记忆机制、自主规划和工具整合相结合，为智能体（AI Agent）的设计提供了具体可行的研究框架。这一创新理念不仅推动了 AI 安全领域的发展，也让 AI 更具自主性与灵活性，从而在未来解决更复杂的任务。

2024 年 11 月，翁荔宣布离开OpenAI，结束了近 7 年的职业生涯，并加入 Fellows Fund 担任杰出研究员。Fellows Fund 由 Alex Ren 创立，专注于培育一个充满活力的 AI 生态系统，连接研究员、创始人和工程师，推动技术成熟与实际应用的落地。翁荔的转型不仅标志著她个人职业生涯的新起点，也意味著她将在 AI 创业与投资之间架起桥樑，为下一代 AI 初创公司提供技术与战略支持。