在本地使用一块20GB显存的RX 7900 XT显卡，有人成功运行了大型语言模型。尽管显存容量在AI开发的硬件中属于中等偏下水平，他依然利用这套设备进行了多项任务，比如构建应用、开发网站、撰写脚本、创作短篇故事提纲、生成图像以及扩展设计需求文档。这次，他决定尝试一个新项目，挑战自己制作一个完整的版本控制系统。他明确表示这不是GitHub的替代品，而是一个具有仓库和快照功能、完全独立的版本控制工具。
这个过程的对比格外有趣，因为Git的创造者Linus在当年研发Git时花费了大约10天时间，而这位开发者则仅用了几个小时。特别强调的是，他不仅仅是生成一段代码或补全一个函数，而是创建了一个功能齐全的工具，其完整性超出简单演示。
20GB的显存在此项目中的表现同样值得关注。尽管RX 7900 XT的硬件配置在本地模型运行中属于入门级，但他却能在这个条件下将一个原本需要十天时间的任务压缩到数小时实现。虽然并未详细说明模型的具体实现方式、代码质量或后续维护的复杂性，但结果是显而易见的：目标任务已由模型顺利完成，时间的差异也引人注目。
随着本地大型模型处理能力的提升，从应用开发到工具创造的难度不断加大，这其中可能不仅仅是算力的差距。
发表评论