BootGPT 是一个专门的项目,它实现了一个能够在 PC 初始启动序列期间运行的神经网络。与依赖操作系统或 C 运行时的现代软件不同,BootGPT 在 x86 386 处理器上的 16 位实模式下运行。该项目利用主引导记录(MBR)——磁盘上的 512 字节区域——来容纳主要的汇编代码。该代码负责从后续磁盘扇区加载一个 11.5 KB 的 int8 模型,并执行前向传播,以生成包含时间戳和硬件事件的模拟 Linux 启动日志。

GitHub 上的 BootGPT 项目仓库页面
BootGPT 项目仓库提供了 16 位实模式汇编和神经网络模型的源代码。github.com

这张图片代表了托管 BootGPT 项目源代码和技术实现的 GitHub 主要仓库。

技术实现依赖于极端的优化,旨在将推理引擎放入 MBR 的 510 字节限制内。该项目使用一个具有一个隐藏层和 softmax 输出的字符级神经网络。为了确保模型能够在如此受限的硬件上运行,训练脚本将所有权重和缩放值量化为使用 2 的幂次方值的 int8。这使得引导扇区仅使用 `imul`(整数乘法)和单个 `idiv`(整数除法)指令即可执行整个前向传播。运行时环境处理特定的 BIOS 底层操作,例如使用 `int 13h` 从磁盘加载权重,并使用 `int 10h` 将生成的文本打印到屏幕上。

虽然该模型不是通用的故事讲述者,但它经过专门训练,旨在幻觉出连贯的启动日志。训练过程涉及生成 3 MB 的虚假 `dmesg`(内核消息)数据,为模型提供一致的语料库。由于真实的启动日志具有重复性,这种一致性有助于这个微型模型生成