陈天奇等人开源的新技术，使得大模型可以在任何设备上编译运行。这一技术名为MLC LLM，它为我们在各类硬件上原生部署任意大型语言模型提供了解决方案，可将大模型应用于移动端、消费级电脑端和Web浏览器。该项目的开发者包括CMU助理教授、OctoML CTO陈天奇等多位研究者，参与者来自CMU、华盛顿大学、上海交通大学、OctoML等院校机构，同时也获得了开源社区的支持。
MLC LLM方案允许在移动端部署和运行大型语言模型，例如在iPhone上运行聊天机器人，在Web浏览器上运行聊天机器人，以及在Windows和Linux上本地运行。MLC LLM提供可重复、系统化和可定制的工作流，使开发人员和AI系统研究人员能够以Python优先的方法实现模型并进行优化。MLC LLM的发布让我们再次感受到了陈天奇TVM的力量。
陈天奇是机器学习领域知名青年学者，2019年任卡耐基梅隆大学机器学习、计算机科学系助理教授。早在2017年，他和他的同事开源了著名深度学习框架TVM，对业界产生了深远的影响。