项目概述 - 开发者Sammyuri在《我的世界》游戏中构建了一个名为CraftGPT的功能性小型语言模型[4][5] - 该项目在游戏内占地面积巨大，长1020方块、高260方块、宽1656方块，总计使用了约4.39亿个方块[7] - 整个系统完全基于游戏内的红石电路搭建，未使用命令方块或数据包[13] 技术规格 - CraftGPT是一个拥有5,087,280个参数的小型语言模型[7][13] - 模型采用6层结构，embedding维度为240，词汇表大小为1920个token[13] - 大部分权重被量化为8位，但embedding和LayerNorm的权重分别保留了18位和24位的精度[14] - 模型使用Python在TinyChat数据集上训练，内容为基础英语对话[13] 系统组件 - 核心组件包括分词器、位置嵌入、词元嵌入、层归一化、240×240矩阵乘法器（4个）[12] - 其他关键部件包括多头注意力机制、键值缓存、960×240矩阵乘法器、修正线性单元[12] - 系统还包含240×960矩阵乘法器、第二层到第六层的循环处理、解嵌入矩阵乘法器等功能模块[12] 性能表现 - 模型上下文窗口非常小，仅能处理64个token的对话[14] - 生成一次回复需要等待数小时，在标准游戏设置下生成一次回复可能耗时10年以上[16] - 即使使用MCHPRS高性能红石服务器优化，生成一次回复仍可能需要几个小时[16] 运行要求 - 运行服务器至少需要32GB内存的电脑，推荐配置为64GB或更多[17] - 用户需要下载MCHPRS并设置plot scale为7，编译过程大约需要10分钟[17][18] - 运行时可使用-io参数启用优化编译，防止向玩家发送非输入/输出方块更新[17] 行业意义 - 该项目展示了在游戏环境中实现复杂计算系统的可能性，刷新了《我的世界》的创意天花板[20] - CraftGPT比GPT-1小约23倍，比GPT-3小175,000倍，但在有限资源下实现了AI功能[25] - 该项目被视为计算机领域令人佩服的成就，能力远超10年前开发的同类系统[25]