核心观点 - 为终端用户设计基于大型语言模型（LLM）的工具时，必须进行严格的用户研究，不能假设用户对AI的认知和态度与开发者一致，否则产品可能失败 [1][7] - 生成式人工智能（如LLM）因其非确定性、不可理解性和日益增强的自主性，从根本上改变了用户与技术互动的方式，对产品设计提出了独特挑战 [8][9][10][11] - 成功的AI产品设计应基于对多样化用户画像的理解，并据此规划产品功能、沟通策略和推广方式，同时尊重用户选择，避免强制使用 [13][14] 用户类别与画像 - 无意识使用者：不思考AI，认为其与自身生活无关，对底层技术了解有限且缺乏好奇心 [2] - 回避型用户：对AI整体持负面看法，高度怀疑和不信任，AI产品可能对其品牌关系产生不利影响 [3] - 人工智能爱好者：对AI抱有很高且可能不切实际的期望，例如希望AI接管所有繁琐工作或完美回答问题 [4] - 知情的人工智能用户：具有现实视角和较高信息素养，采用“信任但核实”策略，只在AI对特定任务有用时调用它 [5] 用户对LLM的潜在认知偏差 - 用户可能对LLM的工作原理一无所知 [6] - 用户可能没有意识到正在使用的工具已由LLM支撑 [6] - 用户可能因有过强大功能代理的体验而对LLM能力抱有不切实际的期望 [6] - 用户可能对LLM技术抱有不信任或敌意 [6] - 用户对LLM输出内容的信任度可能因过去的特定经验而不同 [6] - 用户可能期待确定性的结果，尽管LLM本质上是非确定性的 [6] 生成式AI的独特挑战 - 非确定性：相同的输入可能产生不同且意外的输出，打破了传统计算的可重复性契约，可能破坏用户的信任 [9] - 不可理解性（黑匣子）：神经网络过于复杂，无法完全解释模型为何产生特定输出，必须接受一定程度的不可知性 [10] - 自治权：推动AI作为半自主智能体运行，在减少监督的同时，因其非确定性和不可理解性可能引发安全焦虑；同时，AI可能在幕后运行而用户毫无察觉 [11] 对产品设计与开发的启示 - 进行严格的用户调研：了解目标用户群中不同画像的分布，并据此规划产品如何容纳这些用户 [13] - 针对不同用户制定策略：若有相当一部分回避型用户，需规划信息策略促进采用并考虑缓慢推广；若有很多爱好者用户，需明确工具的能力范围以管理期望 [13] - 以用户研究驱动产品构建：用户调研应深刻影响AI产品的外观、体验、实际构建和功能，工程任务应基于证据了解产品所需能力及用户可能的行为方式 [13] - 优先考虑用户培训：必须主动培训用户了解所提供的解决方案，现实地设定期望，并提前回答怀疑受众可能的问题 [13] - 不要强求用户使用：应尊重可能因批评情绪、安全法规或缺乏兴趣而拒绝使用AI工具的用户群体，强制使用无济于事，维护用户关系和品牌声誉更为重要 [14]