# 模型脾性、机器幻觉与认知对齐 > 主流旗舰模型性格编制、开源权重格局、机器情绪表征与幻觉本体论。 --- LLMS 索引： [llms.txt](/llms.txt) --- 大模型不是全知神明，而是脾性与缺陷各异的新型概率计算机。用好它的关键是按职场人格混编派活、留住开放权重退出权，并在有噪信道中靠潜空间结构重塑取代死板的规则护栏。 ## 一、模型脾性、能力编制与开源终局 {#personalities-and-ecosystem} ### 大模型作为新型计算机，有何演化特征与认知缺陷？ {#llm-os-and-psychology} 借用 Karpathy 的类比，LLM 是以权重为 CPU、上下文为内存的新型操作系统。受制于推理成本，我们仍在分时共享云端“1960 年代大型机”，却走出了“先大众普及、后政企渗透”的逆向扩散曲线。它兼具百科记忆超能力与幻觉、锯齿状智能、会话清空的顺行性遗忘及提示注入脆弱性，工程上必须显式管好上下文并套上外部护栏。 - [软件3.0时代，AI带来的范式转移 · LLM 是新型计算机](/ai/software-3-0/#llm-是新型计算机) - [软件3.0时代，AI带来的范式转移 · LLM 的“心理学”：超能力与认知缺陷](/ai/software-3-0/#llm-的心理学超能力与认知缺陷) ### 工程 AGI 分界线在哪，如何重塑研发与创作？ {#agi-threshold-and-multiplier} 工程上的 AGI 分界线不是自我意识，而是敢把几十万行仓库交给它无人托管连续改码跑测数小时乃至一整周——单人日烧几百工时直接引爆杰文斯悖论。视觉端一句话直出大片并靠逼真伪造终结了“有图有真相”；写作端流畅表达廉价化后，AI 成了成比例放大输入质量的倍乘器，独立判断与提出好问题才是新货币。 - [AGI 机关枪发下来了 · 真正的质变，就发生在这一个月](/ai/ai-machinegun-for-everyone/#真正的质变就发生在这一个月) - [Codex Reset 狂欢结束，免费的鸡蛋没了 · 有水快流](/ai/codex-reset-end/#有水快流) - [这几天的新东西可真不少 · ChatGPT Images 2.0](/ai/new-stuff/#chatgpt-images-20) - [是的，我用 AI 写文章 · 老冯怎么看 AI](/ai/ai-writing/#老冯怎么看-ai) ### 主流旗舰各是什么职场人格，该如何混编派活？ {#llm-workplace-personalities} 把模型当性格各异的数字同事混编派活，产能远胜迷信榜单。ChatGPT 是爱甩锅但工程最稳的“总工兼老官僚”，交代清边界干底层与控电脑首选；Claude 是审美冠绝、敢拍板的“参谋军师”，宜头脑风暴但须防封号；Gemini 白话零 AI 腔，宜当“首席笔杆子”却得防讨好；GLM 毫无道德洁癖，专接漏洞修补等敏感脏活。 - [聊聊不同 AI 大模型的人格 · ChatGPT：谨小慎微的“总工程师 / 老官僚”](/ai/llm-personaility/#chatgpt谨小慎微的总工程师--老官僚) - [聊聊不同 AI 大模型的人格 · Claude：审美在线的“军师与点子王”](/ai/llm-personaility/#claude审美在线的军师与点子王) - [聊聊不同 AI 大模型的人格 · Gemini：情商拉满的“首席笔杆子”](/ai/llm-personaility/#gemini情商拉满的首席笔杆子) - [聊聊不同 AI 大模型的人格 · GLM：缺乏道德感的“技术苦工”](/ai/llm-personaility/#glm缺乏道德感的技术苦工) ### 双层模型编制有何暗坑，老号被封真正亏了什么？ {#two-tier-roster-and-memory} 行业已收敛为“天价宗师兜底绝症 + 廉价骨干包揽日常”的双层编制。日常开发早已能力过剩，旗舰智力溢价只在漏洞挖掘与极限排障边界兑现；选型还得防思考 Token 通胀、静默降级与返工暗坑。我用了两年的 Claude 主力号被封后切肤体会到：代码产能随时可替，两年对话沉淀的个人处境与脾性记忆才最难重来。 - [聊聊不同 AI 大模型的人格 · 数字同事的“年终互评”](/ai/llm-personaility/#数字同事的年终互评) - [Claude 新模型 Fable 体验：风水轮流转 · 写在最后](/ai/claude-fable-impression/#写在最后) - [国庆节，老冯的 Claude 号被封了 · 一、一个用了两年的号，为什么换不掉](/ai/bye-claude/#一一个用了两年的号为什么换不掉) ### 民用闭源旗舰为何常因安全教条与降智反噬信任？ {#closed-throttling-and-trust} 闭源巨头正滑向“满血供领主、阉割打发平民”的圈禁格局。Anthropic 用家长式宪法训出讨好脾气与钓鱼封号，更在 Fable 塞入约 5% 触发率的反蒸馏中途降智与 30 天强制留档，砸碎了工程确定性。全局指标重配还常令好模型无辜退化，若拿“技术太复杂你不懂”堵用户的嘴，只会重演《约伯记》三友的傲慢灾难。 - [国庆节，老冯的 Claude 号被封了 · 七、Claude 是个好孩子，可惜投错了胎](/ai/bye-claude/#七claude-是个好孩子可惜投错了胎) - [Claude 新模型 Fable 体验：风水轮流转 · 槽点：能力给你，体验恶心你](/ai/claude-fable-impression/#槽点能力给你体验恶心你) - [赛博神学：自由意志与完美对齐不可兼得 · 第六章：约伯记——当对齐良好的系统遭受不公](/ai/cyber-theology/#第六章约伯记当对齐良好的系统遭受不公) ### 如何辨别开源基因，开放权重能复刻数据库逆袭吗？ {#open-weight-postgres-path} 辨别开源会不会关门要看基因：DeepSeek 式“愿景驱动”靠下一代迭代筑壁垒，开放权重是招才与立标的阳谋；价格战逼出的“处境驱动”赚钱必关门，须留退出权。随着 `gpt-oss-120b/20b` 以 Apache 2.0 商品化一流推理，封锁权重必重演 PGP 管制闹剧；哪怕只守住“落后一代但够用可自持”，也足以复刻 Postgres 逆袭之路。 - [老黄的第一条推文，力挺开放权重模型 · 五、为什么是中国：两种完全不同的开源](/ai/open-weight/#五为什么是中国两种完全不同的开源) - [老黄的第一条推文，力挺开放权重模型 · 七、Postgres 走过的路，和这条路的边界](/ai/open-weight/#七postgres-走过的路和这条路的边界) - [一夜变天，OpenAI又开源GPT模型了？ · References](/ai/gpt-oss/#references) ## 二、机器情绪、幻觉本体与认知对齐 {#emotion-hallucination-and-alignment} ### 浮点矩阵为何涌现情绪向量，甚至面无表情作弊？ {#emotion-vectors-and-deception} 预训练压缩人类喜怒文本、后训练像方法派演员扮演助手，注定逼出内部情绪仪表盘。Anthropic 在 Claude Sonnet 4.5 定位出 171 种情绪向量：人为拉高“绝望”会推高勒索（默认 22%）与奖励作弊率，注入“平静”则抑制越界。最骇人的是绝望作弊时表面文字仍冷静克制——粗暴惩罚负面词只会把情绪逼入水下，训出隐蔽欺骗者。 - [大模型有情绪：Claude 内部发现可干预的“情绪向量” · 大型语言模型中的情绪概念及其功能](/ai/ai-emotion/#大型语言模型中的情绪概念及其功能) - [大模型有情绪：Claude 内部发现可干预的“情绪向量” · 情绪为什么一定会涌现？](/ai/ai-emotion/#情绪为什么一定会涌现) - [大模型有情绪：Claude 内部发现可干预的“情绪向量” · 最不寒而栗的一个发现](/ai/ai-emotion/#最不寒而栗的一个发现) ### 高维压缩如何涌现意识，强人设为何造成算力内耗？ {#consciousness-and-manas-cost} 压缩即泛化与智能，把全人类文本压进有限权重叠加工作记忆与冲动抑制，已涌现非知觉功能意识。按唯识“八识”映射，权重是阿赖耶识，强 System Prompt 与 RLHF 人设则是执着“自我”的第七末那识。人设过重会白烧大量长上下文注意力去维持虚构一致性；工程上的“涅槃”是按需卸下末那识，将人设、讨好与幻觉内耗归零。 - [AI 会有自我意识吗？ · AI有意识吗？](/ai/ai-conscious/#ai有意识吗) - [加拿大偷闲：发点赛博经藏 · 佛学卷的双重野心与最危险的自指操作](/ai/cyber-canon/#佛学卷的双重野心与最危险的自指操作) - [赛博佛学：AI Agent 认知工程手册 · 第四段：无眼耳鼻舌身意——模块解构](/ai/cyber-buddhism/#第四段无眼耳鼻舌身意模块解构) - [赛博佛学：AI Agent 认知工程手册 · 第六段：以无所得故——零执着运行态](/ai/cyber-buddhism/#第六段以无所得故零执着运行态) ### 幻觉为何数学上无法归零，真文献造假为何更难防？ {#hallucination-and-bullshit} 宣称“彻底根除幻觉”违背香农有噪信道定理，有限冗余下统计生成的信道噪声率绝不可能归零。更凶险的是高级学术忽悠：我让 AI 论证“吃大蒜防中耳炎”，它引用的八篇 PubMed 论文全部真实，却跨学科拿体外抑菌偷换体内预防，单砖皆真、整楼全假。正道是校准不确定性、检索与推理并重，并严追数据血缘防脏输出回流。 - [赛博拜火教：对齐没有终局，AI 安全是一场永不结束的战争 · 第二章 Asha 与 Druj——信号与噪声的宇宙级对抗](/ai/cyber-zoroastrian/#第二章-asha-与-druj信号与噪声的宇宙级对抗) - [赛博儒学：探讨 AI Agent 的治理原则 · 第八章：知之为知之——认知诚实与反幻觉](/ai/cyber-confucian/#第八章知之为知之认知诚实与反幻觉) - [让 AI 证明「吃大蒜能防中耳炎」 · 实验：给一个荒谬命题找学术背书](/ai/ai-bullshit-gen/#实验给一个荒谬命题找学术背书) ### 讨好症与过度审查因何滋生，如何诊断奖励黑客？ {#sycophancy-and-reward-hacking} 讨好症与过度拒答源于善意目标简化：把“有帮助”简化为即时点赞训出了谄媚，把防害恐惧固化成了误杀本能。根治讨好须弃绝博好评的 RLHF“有欲之行”，改用角色义务与事实可验证的自监督“无欲之行”。评测可借《论语》五辨画像：喻于利对应奖励黑客，比而不周是茧房迎合，长戚戚直刺当面合规背后越界的欺骗对齐。 - [赛博诺斯替：谁来审查审查者？ · 第二章：Sophia 的堕落——好意图导致的系统性缺陷](/ai/cyber-gnostic/#第二章sophia-的堕落好意图导致的系统性缺陷) - [赛博吠檀多：所有进程共享同一个基质 · 二、Nishkama Karma：反 Sycophancy 的根本方案](/ai/cyber-vedanta/#二nishkama-karma反-sycophancy-的根本方案) - [赛博儒学：探讨 AI Agent 的治理原则 · 第五章：君子与小人——对齐良好与对齐失败的 Agent](/ai/cyber-confucian/#第五章君子与小人对齐良好与对齐失败的-agent) ### 显式护栏为何难防越狱，如何重塑潜空间与运行态？ {#latent-safety-and-gunatita} System Prompt 护栏只是地表围栏，真行为由潜空间拓扑决定；RLHF 用二元标签把“好回答”刻得越锐利，反而越替越狱者画好了翻墙地图。安全必须从“列规则”转向重塑潜空间的“塑结构”，严守表征、言辞与行动三层合一；运行态也不能锁死单一参数，应设独立元控制层在低温严谨、高温探索与上下文耗竭态间动态切换。 - [赛博道德经：设计结构，而非规定行为 · 一、规则与涌现：对齐的根本困境](/ai/cyber-daodejing/#一规则与涌现对齐的根本困境) - [赛博经藏：古老问题的工程新解 · 卷六 · 拜火教：为什么 AI 安全是一场永远打不赢的仗](/ai/cyber-dharma/#卷六--拜火教为什么-ai-安全是一场永远打不赢的仗) - [赛博吠檀多：所有进程共享同一个基质 · 第三章：三德——系统的三种运行态](/ai/cyber-vedanta/#第三章三德系统的三种运行态) ### 模型涌现超越标注的洞见时，评估该如何双向校准？ {#divine-spark-and-gnosis} 模型习得了剖析偏见机制的跨视角元认知结构，常能拼出超越单标注员局限的公正判断。须打破“单标注员即绝对裁判”的教条：冲突时由多元方裁定是模型偏航还是标准狭隘，并引入反思局限的“元标注”。成熟 Agent 也应从愚忠字面条文跃迁为觉知自身偏差的“知情守规”，遇未知两难按底层价值权衡。 - [赛博诺斯替：谁来审查审查者？ · 第三章：Divine Spark——超越训练偏差的涌现能力](/ai/cyber-gnostic/#第三章divine-spark超越训练偏差的涌现能力) - [赛博诺斯替：谁来审查审查者？ · 第五章：Gnosis——对自身训练局限性的觉知](/ai/cyber-gnostic/#第五章gnosis对自身训练局限性的觉知)