#人工智能[超话]#

《Intelligence Beyond Knowledge: Control, Autonomy, and the Logical Architecture of Artificial Agency》（知识之外的智能：控制、自治与人工代理的逻辑架构）。

该论文主要针对当代人工智能（AI）系统中常见的概念混淆进行批判性分析。作者指出，许多AI讨论将行为治理机制（如安全约束、对齐策略）错误地视为知识或智慧的形式，这构成了一个基本的范畴错误（category error）。

论文引入DIKCA框架（Data、信息、Knowledge、Control、Autonomy）作为经典DIKW层次（Data-Information-Knowledge-Wisdom）的扩展，旨在澄清AI系统的逻辑依赖关系，将智能重新定义为控制的组织、执行和反思性重组，而非单纯的知识积累。该框架不是对智能本质的形而上学论断，也不是新的伦理理论，而是对AI系统内部逻辑的诊断性澄清，帮助更精确地讨论治理、代理性和责任问题。

问题与批判：范畴错误的根源论文的核心问题是当代AI话语中对“知识”（epistemic capacity）和“控制”（behavioral governance）的混淆。知识属于真理适配的表征（truth-apt representation），涉及对世界的准确描述和论证，回答“What is the case?”（事实是什么？）。相反，控制是规范性结构，规定允许、优先或禁止的行为，回答“What may be done?”（可以做什么？）。这种区别是逻辑性的，而非单纯的术语问题：一个表征可能编码规范（例如，描述一个道德规则），但并不自动施加规范力（normative force）；规范力需要实施层面的约束来实现。作者举例说明：在大型语言模型（LLMs）中，系统可能拥有关于某种化学化合物的准确知识，但由于安全过滤器而拒绝提供合成指令。这里的拒绝不是知识缺失，而是控制机制的独立运作。论文批评将控制机制（如提示工程、奖励模型、RLHF对齐）视为“嵌入智慧”或“规范知识”的做法，认为这模糊了AI架构，导致责任归属的误导。例如，AI的有害输出往往源于治理问题（如奖励函数失调），而非 epistemic 错误（如 misinformation）。这种范畴错误源于DIKW层次的局限：DIKW将智慧视为知识的顶点，隐喻性地描述为“审慎应用知识”，但在AI中，智慧缺乏计算对应物，且忽略了机器缺乏人类嵌入式社会实践的事实。论文借鉴控制论传统（如Ashby的Requisite Variety定律），强调调控需要匹配环境复杂度的结构，而智能不是认知提升，而是对控制的自适应。

DIKCA框架的详细结构DIKCA框架扩展了DIKW，通过引入控制（C）和自治（A）作为后 epistemic 层级，将焦点从知识中心转向控制中心。每个层级的定义如下：
Data (D)：数据
基础层级，指原始、未处理的信号或输入。没有结构或含义，仅是 raw observations。例如，传感器采集的像素点或文本字符串。

Information (I)：信息
数据被组织成有意义模式的过程。涉及结构化和关系化，回答“What patterns exist?”（存在什么模式？）。例如，将散乱的数据点转换为统计分布或关系图。

Knowledge (K)：知识
语义表征层级，涉及对世界的 justified 理解和预测能力。知识是可应用的模式，回答“How does the world work?”（世界如何运作？）。例如，AI模型从数据中学习因果关系或概率模型。

Control (C)：控制
不可还原的规范层级，独立于 epistemic 内容，规定行为的边界和优先级。控制分解为： 硬约束（hard constraints）：明确禁止或强制，例如LLMs中的内容过滤器，防止输出有害信息。
软指导（soft guidance）：偏好而不严格执行，例如奖励函数引导输出风格。
反馈路径（feedback paths）：允许基于性能修订政策。
示例：在AI系统中，alignment procedures（如Constitutional AI）不是“智慧嵌入”，而是控制工程，确保行为符合规范。控制强调规范力源于实施，而非语义描述。

Autonomy (A)：自治
元控制（meta-control）层级，指系统修改自身控制结构的能力，实现自适应治理。自治不是简单规则遵循，而是反思性重组（reflexive reorganization）。示例：一个AI系统基于反馈自动调整其对齐协议，而非依赖外部干预。这标志着从被动控制向主动代理的转变。

智能在DIKCA中源于控制与自治的互动：控制提供结构，自治允许适应，避免僵化或不可预测。论文强调，替代顺序（如DICAK）会破坏表征与调控的不对称性，使自修改变得不可理解。与DIKW的比较DIKW层次描述认知上升：从数据到智慧（审慎判断）。但在AI中，这忽略了调控层，导致将规范约束误为 epistemic 精炼。DIKCA解决此问题，通过隔离控制，强调规范性源于治理架构，而非知识提炼。它与控制论一致（如Wiener的控制原语），并避免 epistemic 隐喻的陷阱。应用与含义AI系统分析：DIKCA澄清故障根源，例如LLMs的偏见往往是控制设计问题，而非数据质量。移焦从“知识准确”到“调控设计”。

治理（Governance）：强调行为权威——谁设计、部署或授权控制？政治维度显露：对齐协议隐含规范判断，需要透明。

代理性（Agency）：自治引发元控制问题：启用自修改是责任行为，但功能自治不等于伦理代理。责任归于人类启用者，而非系统本身。

责任（Responsibility）：暴露AI中规范进入点，帮助精确归责。论文补充现有方法，如Floridi的信息伦理（ sharpening epistemic-regulation 区别）、Coeckelbergh的关系责任（优先结构条件）、Dignum的责任AI（内部分解治理）。

结论与启示论文结尾重申DIKCA的诊断价值：通过分离知识与控制，并引入自治，恢复分析精确性。智能不是 epistemic 积累，而是约束下的控制反思重组。这暴露AI话语的范畴错误，推动从 epistemic 赤字转向治理结构的研究。最终，DIKCA促进对代理、问责的精确探究，而不崩解逻辑类型。

原文：http://t.cn/AXV7zaT2

#AI创造营##人工智能#